1950年6月，朝鲜战争爆发，美军无视中国的警告，悍然将战火烧到了中国的鸭绿江边。中国政府果断决定，由彭德怀率兵出战，抗美援朝。双方在朝鲜半岛打得难解难分。没有比战争更能刺激军人神经的事了。刘伯承统兵作战30多年，挚爱自己一手拉扯大的军队，深信这支经过土地革命战争、抗日战争和解放战争三个历史时期锻打锤炼的铁军能够战胜世界上任何一支武装力量。
同时，他也深知，人民解放军也存在先天不足的顽症，诸如兵种单一，装备落后，游击习气浓厚，等等。这些问题一日不解决，就不能赶上世界军事发展的趋势，就有可能打败仗。在得知中央准备创办陆军大学的消息后，刘伯承首先找到邓小平，说：“彭老总在前线为打败最强大的军队而作战，我要为使解放军成为世界上最强大的军队而重执教鞭。”
“看来你与教书先生有缘呀。”邓小平理解自己战友为军分忧的赤子之心，也熟悉他“建军先建校”、“治军先治校”的主张，只好苦笑一声表示同意。刘伯承毅然提笔，给中央写信，请求辞去中共中央西南局第二书记、西南军政委员会主席的职务，去参加陆大的建设。他写道：
“要建设一支现代化的军队，最难的是干部的培养，而培养干部最难的又是高级干部的培养。我愿意辞去在西南担任的一切行政长官的职务，去办一所军事学校。战争已经结束了，我年龄这么大了，还是让我去办学校吧！”毛泽东为刘伯承的赤诚所感动，也认为这位军事理论和军事经验兼长的老帅是陆大创办者的最佳人选，遂亲自复信，让他把西南的行政工作移交给邓小平，尽快到北京领导军校的筹建工作。
就这样，亲密合作了13年的刘邓终于分开了。
陆大原定设在北京。刘伯承考虑为节省财力，建议充分利用原国民党陆军大学的校舍，遂定址于南京，正式名称为南京军事学院。经过半年筹备，学院正式开学，首批758名学员绝大多数都是师级以上年轻干部。这些将领都是令敌军闻名丧胆的英雄、功臣。
可俗话说的好，即便是雄狮，身上也会有虱子。他们大多出身农民，又长期生活在游击环境里，自由惯了，散漫惯了，不拘小节惯了。于是，各种奇怪的现象都出来了，有的学员无故不出操、不上课，想来就来，想走就走；有的学员上课时翘二郎腿，回答老师的提问懒得起来；有的学员开会时不注意军纪，敞胸露怀，双手在身上搓泥搔痒，更有甚者，有的索性把脚放在椅子上，脱掉鞋子，用手抠脚丫子。
南京军事学院学生自由散漫的名声一直传到北京。毛泽东十分生气，提出：“游击队不可冒‘油’，野战军不可撒‘野’”。刘伯承决定整肃校风。他在全院师生大会上说：“有的人自由主义，违犯纪律，国防部、毛主席都知道了，真是‘搞臭了南北二京’，这叫着‘光着腚推磨盘--转着圈丢人’”。刘伯承要求从基本科目做起，颁布实行我军三大条令--《内务条令》、《队列条令》、《纪律条令》，很快使学院的风气焕然一新。
在此后的5年间，刘伯承主持编写、编译和翻译军事、政治、外语等各类教材数百种，从陆、海、空三军到炮兵、工程兵、通讯兵、装甲兵等技术兵种专业，从战略、战役、战术的现编概则到集团军、军、师、团、营的设定作业，应有尽有。学院也由初办时的4个系发展到12个系，学员人数由758人增加到3000余人。南京军事学院成为人民解放军名副其实的最高学府和将军的摇篮。
可就在这时，一股反“教条主义”的运动突然降临。
1957年2月，当时担任国防部长的彭德怀与陈赓、谭政到南京军事学院检查工作。在座谈中，有部分教员、学员提出学院存在“教条主义”问题。经过调查，彭德怀认为在教学中，不是有没有“教条主义”的问题，而是“教条主义”十分严重的问题，主要表现就是现在的教学内容与我军的实际情况不相适应，没有对我军的几十年的战争经验进行系统整理和总结，提出反对“教条主义”。
军事学院领导认为彭德怀的结论不符合实际情况，军事学院的成绩是主要的。在全军训总四级干部会议上，许多干部要求彭德怀收回他视察军事学院后给中央的报告．彭德怀一方面积极主张反对“教条主义”，一方面又尽量避免扩大打击面，避免整具体的人。他对持有对立意见的两派人说：“你们对敌斗争都很坚决，不搞阴谋，不想推翻谁，都是好人、正派人，但思想方法都有片面性。今天只是整一整思想，分清是非，接受教训，不追责任。”
但是，这场运动由于有了林彪的参与，情况就变得难以控制。他对一些军队高级干部说：“有人一提起学习就想到外国，专学外国的东西，以为只有外国的东西才是好的。这就是迷信，一定要打破迷信观点。我们的经验很丰富，不能把黄金当黄土甩掉了”。“有的单位不把毛主席军事著作作为军事基本教材，只作为参考材料，这是不对的。有的单位连参考都没有列上，这就更不应该了。”