1947年5月5日上午，南京中山陵博爱坊前，约400名被裁撤的国军军官聚集在一起。他们没有携带武器，也没有发动冲突，只是面向孙中山陵寝哭诉。带队者是黄埔一期生、陆军中将黄鹤。这个场面之所以震动国民政府，不只是因为人数多，更因为参加者中有不少抗战旧将。
军官们所求并不复杂：要一个职位，要一份能够养家的收入，也要一个说法。抗战胜利后，国民政府裁撤大批部队，军官总队原本被视为缓冲办法，可总队只维持了半年左右便陆续解散。许多军官离开军营时已年过中年，除了带兵打仗，几乎没有谋生本领。
这场哭陵，实际上是国民党军队内部矛盾的一次集中爆发。抗战时期，国军规模迅速膨胀，正规军、地方武装、接收的伪军以及各类军事机关合在一起，陆军总数一度达到五百余万人。庞大的军费支出，早已成为财政上的沉重负担，裁军本身并非没有必要。
问题在于，裁谁、留谁，并不是一笔简单的账。
重庆谈判期间，国共双方都知道，抗战结束后仍保留战时规模并不现实。1945年8月日本宣布投降后，毛泽东赴重庆谈判，军队整编便成为谈判中的重要议题。美方曾提出国军与共产党军队按五比一整编，毛泽东表示六比一、七比一也可以考虑，最后形成的基本方案，是国军整编为90个师，共产党军队整编为18个师。
1946年初，军事调处执行部推动相关方案落实。纸面上的设想很清楚，实际执行却各有盘算。蒋介石并没有把所有部队一视同仁，而是大力压缩地方部队和非嫡系力量，对中央军则采取改编而非削弱的办法。
陈诚主持整编后，许多中央军被改称为整编师，下辖若干旅。老弱兵员被清除，补充进来的往往是年轻士兵，武器也得到更新。第五军、第十八军、第七十四军等主力，表面上番号和编制发生变化，战斗骨干却得到保留，部分部队还获得了较多美式装备。
这就使“裁军”出现了两种面貌：一面是大批杂牌部队被取消番号，另一面是中央军借整编完成扩充和强化。国民党内部派系众多，土木系、汤恩伯系统、胡宗南系统各有依托，军官能否留下，有时不只看资历，也取决于派系关系。
被裁军官的处境尤其艰难。黄埔出身并不等于一定受到照顾，失去番号之后，许多人没有稳定收入，家庭负担却丝毫未减。中将奚泽曾在革命早期捐出家产，抗战时担任过集团军参谋长，后来仍因派系和人事矛盾被排除在编制之外。少将陈天民长期带兵作战，患病后无钱医治，最终走向绝境。
有人曾向上级追问：“我们打了这么多年仗，离开部队以后，究竟还能做什么？”这句话，道出了编余军官共同的困境。中山陵哭陵事件发生后，蒋介石才将部分年长军官安排到地方任职，年轻军官送入陆军大学继续学习，风波由此暂时平息。
共产党方面同样接到了整编要求。1946年3月，中央向各解放区提出分期精简的办法，一部分部队复员，一部分机关压缩，目的在于向社会表明和平诚意。但解放区干部并非看不出局势的危险，许多地方采取了“减员不减战力”的办法，裁掉老弱，合并地方武装，保留作战骨干。
华中、山东和中原解放区的做法各有不同，有的借整编合并部队，有的把地方武装补入主力。刘伯承强调，整军不只是减少人数，还要紧缩机关、充实战斗部队。粟裕在华中整编时，也没有简单地把主力遣散，而是通过调整番号和合并建制，尽量保持部队的机动能力。
晋察冀却付出了更大的代价。抗战结束时，这一根据地拥有约32万武装人员，张家口还是当时共产党控制的重要城市。整编后，原有9个纵队缩减为4个，兵力降至约20万人，裁撤范围不仅涉及老弱，连部分精壮人员也被编外处理。
杨成武曾反对每个纵队裁掉一个旅，并与郭天民、李志民共同提出意见。冀热辽军区司令李运昌也曾提醒，蒋介石未必会遵守和平安排，过度裁军可能留下隐患。遗憾的是，军区仍按计划推进。郑维山后来直言，这样的处理使晋察冀“伤了元气”。
郭天民、刘道生两部合并后，原有五个旅被压缩为两个旅。郭天民认为形势不对，和刘道生商议后，私下多保留了一万余人。正是这批没有完全裁掉的力量，在后来转移机关、掩护部队的行动中发挥了作用。
1946年6月，全面内战爆发。晋察冀整编完成过快，兵力和士气都受到影响，张家口随后失守。战后总结时，郭天民批评军区存在战争准备不足、盲目裁军和轻视傅作义部队等问题，并因此被撤职。裁军原本是和平安排中的一环，却在彼此缺乏信任的局面下，变成了重新分配实力的较量。