1949年，北平和平解放，时任华北军区政治部主任兼十九兵团政委的罗瑞卿参加了入城式。随后赶到了西柏坡参加了七届二中全会，会后又赶去了太原前线，任太远前线副政委与周士第一起指挥太原战役。太原战役打的相当漂亮，在罗瑞卿与周士第的指挥下，四天四夜就攻克了太原。
随后根据中央指示，参加太原战役的部队，一部渡江南下，一部分进军大西北。此时军中都在传言罗瑞卿要出任西北军区副政委一职。但是5月下旬，中央军委副主席周恩来致电罗瑞卿，中央安排罗瑞卿担任公安部部长一职。
这个任命让罗瑞卿感到非常的意外，立刻坐火车来到了北平，当面请求周恩来，让他回到部队去打仗。周恩来拒绝了罗瑞卿的要求，并说：现在全国胜利在望，旧的国家机器都被打掉了，我们要建设新的。罗瑞卿还是没有放弃打仗的想法，一再提议让红军时期担任红军保卫局局长的李克农担任公安部部长一职。
其实罗瑞卿的建议不无道理，按理说李克农绝对是最好的人选，为什么没有选择李克农呢?原来中央为了更好地分工，更好地建设新中国，中央决定取消中央社会部，成立情报与公安两个部门，李克农一直是我党优秀的情报专家，在战争年代立下了汗马功劳，情报局局长一职非李克农莫属。而公安部部长也就认定了罗瑞卿。
原来中央决定让罗瑞卿担任公安部部长一职除了因为罗瑞卿是我党优秀的军事将领而在红军时期他就担任过红一军团保卫局局长。在第四次反“围剿”到长征，罗瑞卿共担任了三年的保卫局局长，并且非常负责任，每次随毛主席外出都寸步不离，从来没有出现一点差错。因此，当选择公安部部长人选的时候，中央决定由罗瑞卿担任。
1949年，10月19日，中央人民政府在军事委员会第三次会议上决定：任命罗瑞卿为公安部部长，同时兼任北京市公安局局长，稍后，又被任命为公安部队司令员兼政委。
