解放战争时期，徐向前因病直到1947年6月才披挂上阵，被任命为晋冀鲁豫军区副司令员。主要负责内线作战、攻占山西的任务。从1948年5月开始，徐向前转任华北军区副司令员、华北野战军第一兵团司令员兼政治委员。此时的华北军区司令员正是聂荣臻。自此之后，一直到建国前，徐向前始终都给聂荣臻做副手。
两个人的这个职务经历，按说在1955年大授衔时，聂荣臻似应排在前面。但为什么徐向前却排在前面了呢？
首先，凭的是红四方面军总指挥的经历。
元帅是最高军衔，其标准条件自然定得很高。当时《中国人民解放军军官服役条例》中指出：对创建和领导人民武装力量或领导战役军团作战、立有卓越功勋的高级将领，授予中华人民共和国元帅军衔。而在创建和领导人民武装力量方面，徐向前曾是红四方面军的总指挥，是红四方面军的主要创始人之一。当时，红四方面军是除红一方面军外，几大红军中最大的一支战略力量。同时期的好几个元帅级别的人物，包括彭德怀、林彪、聂荣臻等，大多都是军团长一级。这说明徐向前早在红军时期，仅凭红四方面军总指挥一职，就已经奠定了其相当高的历史地位。
其二，凭的是解放战争中横扫山西的战功。
单论建立的战功，红军时期的徐向前绝对是威名赫赫、战功赫赫。甚至在元帅一级当中也是名列前茅的。尽管因身体原因，徐向前从抗日战争后期便一直处于养病之中，尽管他在解放战争进行一年时才披挂上阵，但在他的高超的组织指挥之下，硬是率领一支偏师，克临汾、扫晋中、攻太原，打败了远比他的部队多得多的敌人。
对于徐向前留在内线，横扫山西所取得的辉煌战绩，毛泽东和中央军委对徐向前给予了高度的肯定。特别是晋中战役，毛泽东对徐向前的指挥艺术非常称道和赞许。有鉴于此，尽管徐向前在解放战争这一威武雄壮的战争舞台上，相较很多高级将领“表演”时间并不长，但其所建立的战功绝对是可圈可点的，是毫不逊色的。
其三，凭的是建国后第一任总参谋长的现实职务。
太原战役后，经毛泽东和中央军委批准，徐向前开始到青岛疗养，以致于连开国大典都没能参加上。但毛泽东并没有忘记他，依然未放弃对他重用的机会。1949年10月19日，徐向前被任命为人民革命军事委员会总参谋长。
对于这个任命，远在青岛养病的徐向前事先并不知晓。但是，谁都知道共和国第一任总参谋长位置之重要、责任之重大、使命之光荣。这充分体现了毛泽东和中央军委对他在政治上的高度信任与器重。
而有意思的是，在任命徐向前为总参谋长的同时，又任命聂荣臻为第一副总长，同时明确在徐向前养病期间代理总长职务。
这样的安排，确实体现了毛泽东的不拘一格的超常用人之道。同时，这样的徐正聂副的安排，显然也给随后的评衔时，徐向前排在聂荣臻前面增添了一个定数和砝码。