1926年4月，张作霖、吴佩孚、张宗昌、阎锡山等各派军阀，组成了“讨赤联军”，向国民军大举进攻，国民军被迫放弃天津、北京，撤至南口预设阵地防守，刘汝明的第十师和佟麟阁的第十一师担任南口正面防御，其他部队则部署在察东和晋北各地，对奉军和晋军作战。当时南口方面是主要战场，张作霖和吴佩孚的主力部队都集中在这一方面，并集中大炮和飞机轮番轰击。刘汝明指挥所部浴血奋战，岿然不动。激战约四个月之久，国民军因伤亡过半，弹尽粮绝，乃于8月15日下令向绥远、包头一带撤退。刘部在撤退时，估计到路途遥远，行军困难，将辎重车辆和笨重物品尽行遗弃，腾出骡马交由士兵轮流乘骑，所以他的部队走失最少，行动最快，只用了半月左右，就到达包头附近。

冯玉祥“五原誓师”以后，刘汝明就率部到了五原，冯看到他的部队在苦战数月之后，仍然人强马壮，甚为高兴，对他慰勉有加。当时国民第二、第三军的杨虎城、李虎臣等部，被刘镇华的镇嵩军围困于西安城内，已有六七月之久，待援甚急。冯乃令刘汝明立即率部援陕，会同孙良诚、孙连仲、方振武、马鸿逵等部，速解西安之围。由于刘汝明部骡马较多，行军较快，十一月下旬就赶到咸阳前线。经与孙良诚、孙连仲等会商，决定由刘汝明部绕至韩森寨一带，向敌后猛攻。刘镇华部仓皇溃退，西安之危乃解。在“北伐”战争结束后，冯玉祥在发给刘汝明的“奖状”中，有“孤军当南口之险，走马解西安之围”等语，对他这在两次战争中的功绩，给予了很高的评价。

西安解围之后，刘汝明被冯玉祥提升为国民联军第二军军长，这时刘镇华的镇嵩军主力退至潼关以东的陕州一带，不久就接受了国民联军第八方面军的番号。只有麻振武（绰号麻老九）部占据渭河以北的同州（大荔），拒不投降。冯玉祥令刘汝明率部围攻，因为同州城池坚固，而刘部又缺乏炮兵，所以屡攻不克，乃改用围困办法，相持数月之久。1927年7月，冯玉祥又增派张维玺部协助攻击，终于将城攻破，麻振武被击毙，所部全被歼灭。1927年10月，当国民军与张宗昌部在豫东进行激战时，刘汝明又率部赶至陇海路前线。这时韩复榘率部乘胜穷追，孤军深入徐州附近，遭到张宗昌、孙传芳等部包围，刘汝明率部及时赶到，将敌军打退，使韩部转危为安。

1928年刘汝明任国民政府军事委员会委员、国民政府参事。北伐战争结束后，国民政府整顿军队，冯玉祥第2集团军缩编为12个师，刘汝明任第10师师长。冯玉祥到南京就军政部长职，刘汝明随冯玉祥任军政部参议。一次，刘汝明随冯玉祥谒见了蒋介石，蒋说：“你就是当年守南口的刘师长么？哦，很好，年青有为！”1929年春天，刘汝明随同冯玉祥离开南京，回到第2集团军总部，任特务师师长，驻扎郑州。蒋桂战争爆发后，韩复榘、石友三等反对冯玉祥西撤计划，叛冯附蒋。韩复榘曾劝刘汝明一起行动，遭到刘汝明拒绝。韩、石叛变后，刘汝明奉冯玉祥命令收容不愿随韩、石投蒋的官兵，整编为第10军，刘汝明任军长。1930年5月，中原大战爆发，刘汝明任第5路军总指挥，率领3个军镇守陕西。8月，冯玉祥在陇海线的进攻受挫，电令刘汝明率第5路军出陕，准备投入主战场作战。当时刘汝明能调动的只有第10军的几千人，他认为陕甘空虚，万一有失，西北军就会失去后方根据地，再则数千人投入主战场也起不了什么作用，他再三向总部陈述自己坚守陕西、屏障西安的想法，无奈冯玉祥执意不允。刘汝明只好率部入豫西，孤军赴援，不仅未能挽回冯军的颓势，反而被蒋军包围在鲁山地区。不久杨虎城趁虚进入陕西，切断西北军的退路。在进退两难之际，刘汝明沉着指挥，顽强抵抗。9月20日，蒋介石派飞机向刘汝明投下劝降文书，刘峙也派人给刘汝明送来亲笔信，劝他反正，并保证让他继续担任总指挥。刘的部下也劝他早作打算。但刘汝明对冯玉祥忠诚不衰，他说，我投军18年，冯先生一手把我从一名小卒提拔成总指挥，恩重如山，背冯投蒋不仁不义。战至10月，蒋介石加紧策反，冯部将领纷纷投诚，邵力子也来信劝降，刘汝明仍矢志不移，忠诚主帅，他在拒降信中说：大丈夫宁作断头将军，决不作降将军，他立志要带部队突围出去，后终于在豫西渑池一带突围，北渡黄河进入山西，全军尚有8000人。冯玉祥下野后，败退到山西的冯军残部被**收编，后整编为第29军，宋哲元任军长，刘汝明任副军长。

长城抗战

1933年，二十九军暂时增编第二师，刘汝明调为暂二师师长。此时日军大举进犯长城，二十九军前往援助**部，接替喜峰口和罗文峪的防务。侵华日军在喜峰口战役中遭到国民党二十九军将士的顽强抵抗，惨败而归。日军在喜峰口方面损失惨重，无力再战，一度只能派出小部队骚扰，反遭我军一击即溃。于是日军改变进攻方向，喜峰口以西的罗文峪首当其冲。1933年3月中旬，侵华日军从承德方向调集早川、濑谷义的第31、第8两个联队，并附骑兵两个团，装甲车10余辆，飞机20架，联合蒙、鲜伪军两个旅，总计兵力过万余人，向长城罗文峪口挺进。3月15日夜，29军探知敌先头部队抵达兴隆半壁山时，设在遵化城的前线指挥所急命暂二师两个团防守罗文峪一带各口，同时将第37师一个旅、第38师两个团统归暂二师师长刘汝明指挥，总兵力约6000人，在遵化罗文峪一带的长城线上迎战来犯之敌。

1933年3月16日凌晨3时左右，日伪军先头骑兵部队由兴隆县半壁山开始向遵化罗文峪发起正面进攻。我遵化城防司令祁光远带领一个团火速赶到三岔口截击敌先头部队。经过5小时激战，大败敌先头骑兵部队，然后迅速撤回罗文峪阵地。上午8时左右，在长城罗文峪口一带，敌我两军正面的阵地争夺战开始。29军官兵以长城为阵地抗击来犯之敌。由于我方炮火强度压不住日伪军，因而使敌军的炮火越发集中和猛烈．日军直接以山炮瞄准轰击长城，把原来很完整的罗文峪段长城顿时炸得砖石横飞，破败不堪。而我军官兵始终坚守阵地，几经相持，各不退却，敌我双方损失均较大。正在僵持不下之时，刘汝明师长亲临火线督战，29军官兵群情激愤，一举将进攻罗文峪口之敌击溃。当晚8时，日伪军以步兵、炮兵联合的强大阵势，向罗文峪口29军阵地猛攻，仍遭到迎头痛击。随后，战场逐渐进入暂时休战状态。罗文峪激战第一天，日伪军损失兵力1000余人，29军伤亡仅700多名。

3月17日上午8时，日伪军调集步炮兵五六千人，由半壁山向罗文峪口进攻再战。敌人在进攻中，先以重炮火力集中于一点对29军阵地猛轰，大批步兵冲锋紧随其后，同时派出20多架轰炸机低旋轰炸罗文峪口。因我方官兵对此早有准备，利用残破的长城躲避敌人强烈炮火，以长短枪和刺刀与近敌相拼杀，依然拼死决战数小时之久，把来犯之敌拒之罗文峪口外。到中午12时左右，日伪军已向罗文峪口发射炮弹500余发，整个山谷已经变形，但29军防御阵地依然故我。刘汝明师长身先士卒，亲率一连手枪大刀队埋伏在山口处，等待来犯敌步兵近到200米处时，则站出来挥刀督战，并投掷手榴弹、挥舞大刀奋勇杀敌，使进犯我阵地的日伪军仓促溃退。刘汝明率队乘胜奋勇追击。下午2时，29军官兵将日伪军第一道防线突破，随后又将敌第二道防线突破，日军少佐吉田被击毙。当晚7时，敌军在29军猛烈反击下全部向后撤退。当夜，由营长王合春带领一营士兵，翻越五六座山岭潜入敌营地，以手枪、大刀血战5小时，杀敌500多人，迫使敌军向北溃退。王合春营长在战斗中壮烈牺牲，全营仅有70人生还。17日激战一昼夜，29军官兵与日伪军血战20多次，生擒敌指挥官3人，杀敌1000余人。29军伤亡士兵400余人。

3月18日凌晨2时日军在猛烈的炮火的掩护下，向29军驻守的罗文峪口实施新一轮猛攻。师长刘汝明亲自督战，指挥官兵占据长城各隘口，以手榴弹、机枪沉着应战，杀敌数百人，再次击退敌军进攻。天亮时分，敌军又以集中炮火向我罗文峪守军阵地攻击。到中午时，敌军派来30余架飞机低空盘旋轰炸。同时，3000余步兵乘机向我罗文峪口阵地发起冲锋。29军各部配合默契，士气倍增，奋勇杀敌。经过5个小时的血战肉搏，打退了敌军30多次进攻，毙敌五六百人。当晚10时，日伪军再次以全部兵力向我罗文峪阵地发起猛攻。师长刘汝明亲沿各阵地督促官兵拼命抵抗，顽强地打击进犯之敌。刘汝明还指派旅长李金田带领一团兵力，趁夜绕翻7座山头摸到敌机枪阵地，用大刀砍杀敌机枪手。团长祁光远也率部由右翼阵地潜出，向敌阵背后袭击。于是，刘汝明见势急令发起全线反攻，将日伪军赶出罗文峪以北10余里。

罗文峪血战三日，29军官兵杀敌3000多人，自己伤亡1700余人，大大挫伤日伪军的元气。至此日军在罗文峪方向再无进攻能力，不得不败兵撤退。