巩固人民政权面临的又一个问题，是新中国成立之初，各地还潜伏着国民党派遣特务等各种反革命分子约60万、反动党团骨干分子约60万。这些反革命分子对人民政权斗争的策略是“长期潜伏，等待时机，重点破坏与暗害活动”，尤其着重在财政经济部门中进行抢劫物资、破坏机器、纵火、爆炸、盗窃、暗杀、窃取国家机密等破坏活动，企图阻挠中国人民的建设工作。例如东北地区，据沈阳、鞍山、本溪、抚顺工矿地区和吉林、辽东、松江部分厂矿不完全的统计，自1949年至1950年3月，共发生已遂和未遂的较大的反革命破坏事件253次，造成很大损失。因机器、高压线被破坏而停工所受的损失，则更为严重。交通运输部门尤其是频繁受到破坏的目标。据铁道部不完全的统计，1950年前8个月，全国超负荷的铁路网遭受了401次破坏，造成大量的机车、火车车厢和桥梁被损毁，另有412次破坏被成功避免。另外，旧中国遗留下来的反动会道门组织，如遍布城乡、道徒甚众的“一贯道”，北京的“九宫道”等也大肆活动，编造“神言谶语”，诋毁党的政策，造谣惑众，挑拨离间，极大地扰乱了社会秩序的安定。1950年6月朝鲜战争爆发后，反革命分子的气焰更加嚣张，认为美国已把战火烧到中国的大门，复辟的时机到了，更加紧破坏活动，妄图里应外合，颠覆人民民主国家。因此，坚决镇压一切反革命活动，严厉制裁一切危害人民的反革命分子，成为巩固人民民主专政，巩固和发展中国人民胜利成果的紧迫任务。
党和人民政府十分重视镇压反革命的工作。在解放后的头几个月，各地公安部门集中对各类反革命分子进行清查搜捕，破获许多特务间谍案件，初步安定了社会秩序。但初期镇反工作中也存在一些缺点，当时不少干部存在麻痹轻敌思想，有的地方把“镇压与宽大相结合”的政策片面理解为“宽大无边”，致使一些首要的、怙恶不悛的反革命分子没有受到应有的制裁，使长期受他们欺压的群众感到不安。针对这种情况，为了保证土地改革和经济恢复工作的顺利进行，特别是为在抗美援朝战争开始后建立稳固的后方环境，1950年10月10日，中共中央发出《关于镇压反革命活动的指示》，要求各级党委全面执行“镇压与宽大相结合”的政策，对已被逮捕及尚未逮捕的反革命分子，应根据已掌握的材料，经过审慎的研究，分别加以处理。对于首要的、怙恶不悛的、在解放后特别是经过宽大处理后仍继续作恶的反革命分子，当杀者，应即处以死刑；当监禁和改造者，应即逮捕监禁，予以改造。对于罪恶较轻而又愿意悔改的一般特务分子和反动党团的下级党务人员，应即实行管制，对于真正胁从分子、自动坦白分子和在反对反革命的斗争中有所贡献的分子，应予以宽大的待遇，或给以适当奖励。
根据中共中央指示的精神，政务院和最高人民法院、公安部对开展大规模镇反斗争作了具体部署。从1950年12月开始，在全国大张旗鼓地开展了镇压反革命运动。
镇压反革命运动打击的重点对象，是特务、土匪、恶霸、反动党团骨干及反动会道门头子。这几个方面的反革命分子，是反动政权长期统治的基础。在革命政权建立和巩固的阶段，必须对一切敌对分子实施严厉的镇压。只有把那些直接危害人民的反革命分子，包括过去压在人民头上的“南霸天”、“北霸天”等反动势力扫除干净，才能真正调动人民群众参加土地改革和生产建设的积极性。镇压反革命实质上是为解放和发展生产力扫除障碍。
中央确定镇反的工作路线是：党委领导，全党动员，群众动员，吸收各民主党派及各界人士参加；统一计划，统一行动，严格地审查捕人和杀人的名单；注意各个时期的斗争策略，广泛地进行宣传教育工作，打破关门主义和神秘主义，坚决地反对草率从事的偏向；要把公安、司法等专门机关的工作和广大人民群众的积极性密切结合起来。毛泽东还提出“稳、准、狠”的镇反工作方针：“所谓打得稳，就是要注意策略。打得准，就是不要杀错。打得狠，就是要坚决地杀掉一切应杀的反动分子（不应杀者，当然不杀）。”1951年2月，中央人民政府颁布《中华人民共和国惩治反革命条例》，为镇反斗争提供了法律武器和统一的量刑标准。结合《条例》的颁布，各地在城乡广泛宣传镇反的必要性和重大意义；召开各界联席会、控诉会、公审反革命分子大会等，使社会各界人士与闻其事，了解反革命分子的罪行及其造成的危害。广大人民群众纷纷行动起来，检举揭发和协助政府追捕反革命分子，全国城乡遍布天罗地网，使反革命分子无处藏身。过去直接参与杀害中共创始人李大钊的刽子手，杀害赵一曼、刘胡兰等革命志士及爱国民主人士的日伪、特务、反动军官等，尽管在解放以后伪装身份，隐藏得很深，还是被各地群众揭发检举出来，受到应有的法律制裁。
镇反运动普遍发动起来之后，针对一些地方出现工作粗糙、错捕错杀等现象，中央及时采取措施，将捕人批准权由县级提高到地委专署一级，杀人批准权上收到省一级；要求各地必须严格掌握审批权限，凡介于可捕可不捕之间的人一定不要捕，凡介于可杀可不杀之间的人一定不要杀，否则就是犯错误。中央强调必须严格控制杀反革命分子的数字，凡应杀分子，只杀有血债者、有引起群众愤恨的其他严重罪行者，以及最严重损害国家利益者，其余一律采取“判处死刑、缓期二年执行、在缓刑期内强制劳动、以观后效”的政策。这项慎重的社会政策，可以避免犯错误，有利于获得广大社会人士的同情，分化反革命势力，肃清反革命分子，并保存大批劳动力，利于国家建设。中央进一步规定，在党政军、教育、经济部门及人民团体内清出来的反革命分子，其应执行死刑的极少数人（大约占死罪分子的十分之一二），为慎重起见，一律要报请大行政区或大军区批准；有关统一战线的重要分子，须报请中央批准。这样，即可保全十分之八九的死罪分子不杀。这项政策后来在司法实践中形成死缓制度，大大控制和减少了死刑实际执行数量，发挥了良好的社会政治效用。
镇压反革命的工作，分为清理外层、中层、内层。到1951年5月，清理“外层”，即清查隐藏在社会上的反革命分子的工作基本告一段落，隐藏在各地的反革命分子大部分被揭露、逮捕，尤其对匪首、恶霸的打击比较彻底。中央决定立即实行谨慎收缩的方针，集中力量处理积案。在处理中，强调要注意调查研究，重证据而不轻信口供，反对草率行事，反对逼供信，对罪行较轻、愿意悔改者采取宽大的方针。从6月起，各地组织力量对在押反革命罪犯进行清查处理。镇反工作重点转入清查隐藏在人民解放军和人民政府机关内部（即“中层”）和隐藏在共产党内（即“内层”）的反革命分子，同时号召各种政治上有问题的人（不是一切人）交代清楚历史，坦白出隐藏的问题，以洗清嫌疑，卸掉包袱，专心为人民工作。到10月底，全国绝大多数地区完成了清查处理工作，全国规模的群众性镇反运动基本结束。少数镇反不彻底地区的扫尾工作到1953年秋全部完成。一批对人民对国家犯有严重罪行的匪首、惯匪、恶霸、反动会道门头子、反动党团骨干分子、特务及反共地下军头目等被关押、管制，或受到镇压。
大张旗鼓地镇压反革命，是在新中国成立之初敌我矛盾还很突出的条件下进行的一场尖锐的对敌斗争。由于当时司法体制和审判程序不够健全，一些地方的镇反工作中出现过错捕、错杀等偏差，中央及时发现并作了纠正。总的来说，镇压反革命运动有力地扫除了国民党遗留在大陆的反革命残余势力，基本上肃清了曾经猖獗一时的特务、地下军及会道门等反动组织，从而为巩固新生政权，保证土地改革和经济恢复工作的顺利进行提供了保障。
