5月，国民政府还都南京，撤销军事委员会，成立国防部。顾祝同升任国防部首任陆军总司令。6月，蒋介石挑起全面内战，大举围攻中原解放军。调顾祝同兼任郑州绥靖公署主任，负责指挥中原作战。顾祝同采用“活动堡垒”、“分区隔离”、“竭泽而渔”，来制造第二个皖南事变。结果，中原解放军巧妙地避其锋芒，大踏步后退，分东西两路迂回侧后，大量消灭了蒋军有生力量，让顾祝同的分进合击计划落空而走“麦城”。
11月初，国共双方重兵集团在淮海地区展开大规模决战。顾祝同奉令到徐州督战。他按照蒋介石的“一点两线设防”，“固守一点，四方驰援”，“控制徐州，巩固江淮，屏障南京”的方案，呕心部署，将全部精锐兵团集结徐。
1947年3月，蒋介石的全面进攻被迫转为重点进攻。郑州绥靖公署改为陆军总司令部郑州指挥所。顾祝同肩负指挥所重任，坐镇徐州，重新配置兵力。将所辖24个整编师60个旅共45万余兵力，区分为三个兵团，采取加强纵深，密集靠拢，稳扎稳打，逐步推进的方针，发动沂蒙战役，攻势锐猛。中共华东、华北两野战军则分兵钳制，中间突破，声东击西，穿越沂蒙，北赶莱芜，连续击破顾祝同发动的三次攻击。还全歼了王牌整编第七十四军于孟良崮，最后包围了郓城。顾祝同被人民解放军如此这般的分割、包歼之后，苦心谋划的山东重点进攻彻底败北了。
10月，又以临危受命的耿耿忠诚，召开参谋总部各厅长会议，制定挽救败局的全盘计划，并以参谋总长身份，亲自指挥武汉、徐州两大军事集团的军事行动。此时，辽沈战场正在鏖战，锦州告急。顾祝同飞沈阳督战，但颓势已定，不久带着东北失败的苦恼回到南京。
1948年秋，蒋介石撤销郑州指挥所，成立“剿共”总司令部，刘峙为总司令，顾祝同调任国防部参谋总长，参预蒋介石谋划挽救军事失败的部署。