渡江战役后，四野大军渡过长江，向广大的中南地区进发。在四野战士的凌厉攻势之下，国民党军一触即溃、望风而逃，如秋风扫落叶一般攻取了数十座大中城市。大军南下，一时间顾不上两厢，因此一些腐败的落叶也因此被卷到了“两厢”。
国民党主力被歼灭了，但是盘踞在中南五省的土匪依然猖獗，其中尤其以河南的土匪最为猖獗。
自太平天国运动以来，中原地区的匪患就已经极其严重。河南人口稠密，一马平川，给了土匪流寇以转移腾挪的空间。和其他地区的土匪不同，河南的土匪颇为“正规化”，从军到排一应俱全，装备上也不输于一些正规军队。别的地方的土匪占山为王，打家劫舍，剪径收过往商旅的买路费，最多也不过是攻打由民团守卫的村庄。而河南的土匪则不同，他们敢于攻城略地，和正规军对垒。
河南匪患严重，而最严重的地区，莫过于豫西的伏牛山地区。辛亥革命时，豫西所谓民党（头戴一块白布为标志），如刘镇华、孙老九、赵旺等人，以嵩山为根据，发动了反清起义。
为了扩大力量，刘镇华到处收编土匪，并将自己的亲信派往豫西各地发展“外队”。所谓“外队”，就是将他们已经编好的连长、营长，讲好条件，暗中给他们发些枪弹、银元，再放出拉杆子，等待人、枪拉多了，再把他们招抚回来。
由此，连长放出去拉一些杆子，收回来就可以编为营长；营长放出去拉一回杆子，就能编为团长。由于没有根据地，也没有革命的理念，这些号称“反清义士”的队伍，实际上成为了疯狂掠夺、屠杀百姓的土匪，他们的衣、食和女人，全都是向民间强行掳掠。
由此，豫西地区的匪患如同滚雪球一般越滚越大，涌现出孙殿英、王老五、张得胜、朱西川、王太、孙石滚等著名的土匪。有一些土匪被政府收编，成为了所谓的官匪。中原大战时，蒋介石就曾收编了许多河南土匪。有了“正规”的身份，让这些土匪变得更加有恃无恐。
与此同时，这些官匪叛服无常，当他们发现时机不对、利益不合，便会重新化身为土匪，变本加厉地坑害百姓。
从辛亥革命到解放，数十万河南百姓惨遭土匪的屠杀，无数人民被土匪害得妻离子散、家破人亡。光是被土匪焚毁的房屋，就有数十万间。由于国民党地方基层势力薄弱，被当地的乡绅和土匪把持，因此河南匪患一直源源不绝。
淮海战役后，国民党在河南的统治彻底崩溃。蒋介石不甘心失败，于是将大批特务和党政骨干潜留下来，再加上溃兵，河南匪患成为了全国之最。他们不仅抢劫财物，袭击解放军，迫害新生政权，而且还要扎根农村建立根据地，也来个“农村包围城市”，配合蒋介石反攻大陆。
在1948年，陈毅和邓小平联名给毛泽东写的报告，其中言及河南匪患：
1949年5月，中原军区在河南地区消灭土匪7万多人后，待部队南渡后，土匪又是遍地都是。在林彪率兵在河南地区时，两个月内发生暴动30多次，上百名干部被杀，一个地方武装营被杀，被抢走公粮多达500万余斤。
因此河南等中南6省解放后，剿匪成为关系到新生的革命政权是否巩固发展的头等大事。
1950年3月中旬，林彪亲自在汉口主持召开中南军区关于剿匪工作的高级工作会议，林彪说：“这是武装斗争，打了大仗打小仗，打了大蒋打小蒋，彻底挖掉蒋根，才能去掉这个讨厌的土匪包袱，去执行其他任务。”
河南到底有多少土匪呢？根据事后统计，大约有10万之众，主要集中在伏牛山和大别山地区。伏牛山以程秀之的豫西“剿总”总指挥为首，以卢氏县城为中心。大别山则以桂系的“鄂豫皖边区人民自卫军”为主，盘踞在金寨县为中心的10余个县，二者互为犄角、遥相呼应。要知道这个金寨县还是革命老区，是红四方面军的起源之地。这块神圣的土地被土匪所占据，简直是奇耻大辱。
对于河南剿匪，林彪给予了相当的重视。与此同时，林彪还发现剿匪部队的军心似乎有些不稳。原来国民党军被击溃后，很多战士以为革命胜利，天下太平了，可以转业或复员到老家去享福了，可以结婚生子了。谁知上级一纸命令，部队还要留在华中剿匪，因此都很失望。
当时，四野12个军，过江11个，就只有42军被留在江北。那时候，42军的将士们普遍羡慕过江的部队，人家在江南打大仗，过瘾、痛快。而42军的战士却和土匪山贼捉迷藏，简直是杀鸡用牛刀，正规战打习惯了，对付地头蛇，打游击队、捉迷藏，还真不喜欢。
因此部队情绪普遍低落，干部和战士的怪话也很多。军部的领导和组织除了进行有限的内部整顿外，其他也毫无办法。
到了最后，部队只好把林彪请过来亲自动员。
其他很多人主持的动员会，无非是 替必须服从命令做一些多余的解释 ，而借以打通本不情愿服从“组织”的思想。粗暴和不谙军心和士气有紧密关系的高级首长的做法，一般都会对那些不服从命令的部下骂娘甚至是施以送交军事法庭的。然而林彪却不同。
众所周知，林彪沉默寡言、向来不外露出自己的表情。但是林彪的沉默绝非呆若木鸡、“半天放不出一个屁”的沉默，他是在观察，是在深思熟虑。他并非没有 情感 ，只是将 情感 内敛的起来。一旦要进行重要发言，往日沉默的林彪立刻便会成为“婆婆嘴”，感情如洪流一般宣泄出来，一讲就是好几个小时。而这次动员会，林彪讲了整整五个小时。
由于台下的战士大多来自东北，林彪一开始就跟他们讲在东北打仗是多么的艰苦。同时他又循循善诱，让战士们想起东北土匪给人民造成的苦难。要知道，东北也是以土匪、“胡子”而闻名的，东北百姓哪一家没被土匪收过保护费，哪一家没有被土匪抢劫过，哪一个村落没有被土匪掠夺过人畜，哪一个村庄没有被土匪杀死过人？
林彪的发言，就是像是把每个东北籍士兵年幼时所受的切身“匪患”给复制出来一样。然后林彪又提到了河南人民所遭受的苦难，说到动情之处，当场便流下了伤感的泪水。
林彪的眼泪感化了原本不太愿意服从命令的士兵们，战士们士气大振，他们高声呐喊“响应林司令员的号召！”
随后林彪每讲几句，台下的战士都会不约而同地高喊“林总指到哪儿，我们就打到哪儿！”到了最后，战士们一齐唱响了《林总的命令往下传》，声振屋瓦： 林总司令，命令往下传，我们的部队，像猛虎下了山…… ”
战士们正是唱着这首歌，解放了白山黑水，解放了华北大地，然后从长江边一直打到了海南岛。而这一次，战士们将会把灭亡，带给坑害河南百姓长达百年的土匪们。
林彪，不愧是一个传奇人物， 单凭着林彪的名字就会给他的官兵鼓起非常高昂的士气。
最终林彪下令，以四野42军125师、126师、155师，58军173师、174师，加上10个独立团以及地方武装，组成15万人的强大兵力，彻底扫清河南的匪患。负责指挥的，是第二野战军名将——陈再道。
早在河南军区建立之初，刘伯承司令员就曾告诫陈再道：“剿匪就是打仗！留下你是野战军对你的高度信任，搞好河南的治安，成为南下的第二野战军的巩固后方，你陈再道责无旁贷！现在任命你担任河南军区司令，我们是想牛刀杀鸡。古人说齐家治国平天下，如果“齐”好河南这个家，担子却在你的身上。”
受命之后，陈再道夙兴夜寐、殚精竭虑，就是为了扫清河南的土匪。如今林彪拨给他15万大军，更是让他喜出望外。于是，陈再道首先将矛头指向了伏牛山地区。
横卧豫西的伏牛山，方圆数百里，山峦连绵，历朝都是土匪啸聚之地。盘踞在这一带的国民党“暂编第3纵队”司令刘希程，眼看国民党大势已去，救亡无望，便接受人民解放军的规劝，于6 月10宣布起义。但其下属的 “新 1师”师长李子奎、“新2师”师长任泰升、“新 3师”师长谢泽民继续顽抗，强作垂死挣扎。
陈再道领导河南军区制定了分割包围的计划，他派出42军的两个师，和地方部队一起，在伏牛山北部和西部攻打其中最顽强的李子奎部。经过10多天的围追堵截，最终在朱阳镇歼敌1700多人，李子奎只好率领残部潜逃，最终被独立第八团活捉。
随后58军的两个师会同独立14团、15团，对伏牛山南部的任泰升匪帮发起攻击，歼灭1000余人。任泰升见状不妙，于是窜至卢氏县五里川地区和匪首谢泽民会合，并制定了诈降之计。
然而两个匪徒的企图最终被进剿部队识破，当场展开围歼，毙伤俘“新3师”副师长胡均平以下750多人，迫使任泰升率参谋长杨春亭等1000多人投降。由此，“新2师”和“新3师”完全解体，仅少数人脱逃。
三支主要匪帮被全歼后，河南军区警2旅、鲁山独立团、南召独立营从伏牛山东部，向匪“铁血自卫团”李开元部发起了进攻。一开始由于战术不当，连续扑空。随后我军改变战术，集中突袭，连续作战，10多天内歼灭了1500多名土匪。由此，伏牛山的大股土匪被全部歼灭。
在军事打击的同时，陈再道还辅以政治攻势。陈再道非常清楚，土匪之所以难制，除了其飘忽不定的作战方式以外，还因为他们扎根于农村，用暴力绑架了人民，让他们不敢告发、不敢为人民军队带路，不敢给我军提供粮食。
因此要解决土匪，必须将人民从土匪的淫威中解放出来。
因此剿匪部队采取了团结和中立一切可以团结和中立的 社会 力量，组成广泛的剿匪统一战线，分化和瓦解敌人，并根据“首恶必办，胁从不问，立功受奖”的原则，争取一切胁从的匪众，坚决镇压首恶的匪特分子。
为此，剿匪部队专门对一些罪大恶极的匪首进行了公审，然后当着群众的面进行枪毙。群众们在拍手称快的同时，也明白了我军彻底剿匪的决心。因此他们纷纷站了出来，踊跃告发那些潜藏在民间的土匪。在陈再道的雷霆打击之下，绵延伏牛山千年的匪患从此根除。毛泽东欣然道：“有陈再道，中原之福”。
在剿灭伏牛山的土匪的同时，42军又向盘踞在大别山的土匪发动了进攻。大别山原本是红四方面军的根据地，如今已经被约1.7万土匪盘踞。敌人以当年鄂豫皖根据地首府金寨县为中心，向邻近各县设政府、扩武装、征粮款，扬言要“占据大别山30年”。
为了消灭这支股匪，华中军区和华东军区协商，成立鄂豫皖边区剿匪指挥部，决定以第42军126师以及河南固始、商城、新县等地的地方武装组成北线部队；以华东野战军第24军第71师以及皖被军区警备部队组成东线部队；以湖北军区独立第三师以及黄冈军分区地方武装组成南线部队，从北、东、南三面向股匪指挥中心前进。
这次剿匪的核心部队，无疑是42军126师。该师的师长是胡继成，是金寨人，对当地的地形和民情轻车熟路。自他离开金寨参加红军，已经离家17年了。
如今重返大别山，发现当地老百姓就是只有一个“怕”字。原来自红四方面军长征之后，金寨地区曾遭到了国民党军、还乡团的残酷清洗和屠杀。老百姓害怕我军就像当年一样“待不长”。
不仅如此，当地悍匪冯春波还在各村搞了10家连坐，哪一家敢帮助解放军，10家都要杀绝了。剿匪部队到达村庄，村里的土匪就会敲竹梆报信，这村传那村，这山传那山。还没等你到，人就跑没影了。看你住下了，土匪就在周围打枪。看我军人少，土匪就摸上来；等你撤离了村庄，土匪又回到村里作威作福。这么搞了几次，就人困马乏了。就这样，我军连续扑了几个空，没能歼灭土匪的主力。
面对如此棘手的局面，胡继成却不慌不忙，针对土匪行动飘忽的特点，采取了稳扎稳打的战术。每个村庄都放一个排或者一个加强班。加强班虽然人数不多，但都装备有机枪和迫击炮，土匪轻易吃不掉。土匪来攻，马上增援，内外夹击，十拿九稳。
在防守的同时，胡继成还加强了宣传。告诉大家，解放军就是当年的红军，是为穷人打天下的。还讲山外的形势：城市已经解放了，国民党已经垮台了，共产党马上要执掌天下了。
不仅如此，胡继成还组织战士为百姓们修路，保护当地商人，让粮食能够运进来，从而稳定当地人民的情绪。
其后，胡继成又专门回到了自己的老家——胡家小店。他对村民说，我就是胡家老二，当年参加红军的胡家老二。原本胡家小店已经逃得没剩几个人，听到胡继成回来了，大伙儿纷纷回到村庄里。
在胡继成的运作之下，土匪的活动空间被大大压缩了。许多土匪见大势已去，于是下了山、缴了枪。对于这些投诚的土匪，胡继成将他们全部送到学习班，讲形势、讲政策，讲土改。解放军派人去讲课，投诚土匪自己选出各级负责人，吃住都在一起，自己管理自己，连个哨兵都不用派。很显然，对于这些土匪的教育，是非常成功的。
就这样，土匪冯春波的部队越来越少。缺乏粮食的他，带着残余的匪徒躲在两座大山上。他自作聪明，以为这两座山太大，没有五六千人无法完成搜山。然而魔高一尺道高一丈，胡继成早就组织好了民兵，并将土匪上交的武器发给了他们。虽然战斗力有限，但搜山是没问题的。
到了夜里，我军打出照明弹，十几步一个人，开始往山上拉网，重要的匪首纷纷被活捉，其中包括总司令汪宪、第一副总司令兼参谋长樊迅、副总司令兼立煌县县长袁成英等人。
但搜到了下午一点，却始终没有发现冯春波的影子。胡继成感到奇怪：“难道这个冯春波会钻山、土遁？”当地老百姓早有传说，说冯春波能够飞檐走壁，还会缩骨功，连老鼠洞都能钻。但是胡继成毫不气馁，他说仔细搜，同时下令各团营抓紧时间，审问俘虏，一定把这个小子抠出来。
到了3点，377团2连在山洼里抓到一个土匪，年纪不大，提着水壶。士兵盘问，问他是干啥的。对方回答，是给司令送水的。战士一听乐了，这是哪个司令，莫不是冯春波？于是他战士们让这个鬼鬼祟祟的土匪带路，终于在一个隐蔽的山洞里将冯春波缉拿归案。
冯春波被擒后，大别山的土匪便树倒猢狲散了，而这个伟大的革命老区再次回到了人民的手中。
从1949年到1953年，整个中南地区取得了歼匪119万余人的巨大胜利，彻底粉碎了国民党反动派妄图利用匪特东山再起的阴谋，为保障政权建设，经济恢复。土地改革和抗美援朝斗争作出了贡献。
然而我军所付出的代价也是巨大的，42军老兵、桂林陆军学院院长马声儒老人就曾说：
勇士倒在了黎明到来之时，真让人扼腕痛惜。