第24集团军1941年6月在西伯利亚军区首次组建，直属最高统帅部大本营。1941年7月，集团军辖步兵第52、第53军和炮兵、工程兵等兵团(部队)，进至维亚济马地域，继续留作最高统帅部大本营预备队，奉命构筑涅利多沃、别雷、多罗戈布日防御地区，并将主力集中于斯摩棱斯克、维亚济马方向。
7月15日，编入后备方面军，7月21日至29日，与西方面军军团和兵团协同作战，扼守别雷、多罗戈布日和叶利尼亚地区。集团军在防御战役进程中，实施两次反突击；战役初期，集团军协同第37集团军，以右翼兵力对从北面包围斯摩棱斯克的德军重兵集团实施了第一次突击，并阻止了德军的进攻。战役即将结束时，又以左翼兵力对由叶利尼亚地域向多罗戈布日进攻的德军集团实施了第二次突击。
第24集团军司令拉库京少将，1941年7-10月任职
7月30日，第24集团军转隶预备队方面军，8—9月，在其编成内参加叶利尼亚战役。战役进程中，在叶利尼亚地域重创德军，清除了叶利尼亚突出部。在这次战役中，苏军产生了第一批近卫部队，9月18日步兵第100师改为近卫步兵第1师，9月26日步兵第107师和步兵第120师分别改为近卫步兵第5师和近卫步兵第6师。尔后，第24集团军扼守叶利尼亚以西和西南防御地区。10月1日该集团军辖6个步兵师、2个坦克旅、6个炮兵团、2个反坦克炮兵团和1个航空兵师等。10月上半月，集团军兵团和部队因敌优势兵力的翼侧突击，于维亚济马以西地域，先后陷入半合围和合围状态，被迫进行艰苦的防御战斗。到10月20日，集团军野战领率机关被撤销，而其突围成功的兵团和部队则用以补充西方面军其他兵团和部队。
电影莫斯科保卫战中朱可夫与指挥官们进入叶利尼亚
12月9日集团军在莫斯科军区第二次组建，1942年1月4日改为1-ю резервную армию预备队第1集团军（第二次组建），不过没有配属部队
1942年5月在南方面军战役集群基础上第三次组建，8月部队转隶第12和第37集团军，野战领率机关8月28日改为第58集团军野战领率机关。6月1日该集团军辖4个步兵师和2个工兵营
8月底在预备队第9集团军基础上第四次组建，参加斯大林格勒会战，9月1日下5个步兵师、1个坦克旅、2个炮兵团、1个反坦克炮兵团、2个高射炮兵团等。1943年2月编入最高统帅部预备队。1943年4月16日改为近卫第4集团军。
1942年10月苏军在斯大林格勒作战
近卫第4集团军自 8 月 13 日起，该军作为沃罗涅日方面军的一部分，参加了别尔哥罗德-哈尔科夫进攻行动和第聂伯河战役。1943 年 11 月至 12 月，在乌克兰第二方面军编成内参加了在克里沃罗格方向扩大第聂伯河右岸桥头堡的战斗。随后参加了基洛夫格勒、科尔松-舍夫琴科夫斯基、乌曼-博托沙尼和雅西-基什尼奥夫进攻行动。之后，它成为最高统帅部预备队。
1944年8月雅西-基什尼奥夫战役中苏军T-34-76坦克掩护步兵进攻
1944 年 11 月初，它被调往乌克兰第三方面军，参加了布达佩斯、巴拉顿和维也纳战役。1945年6月辖近卫步兵第20、21和第31军，共9个近卫步兵师，同年12月近卫步兵第20军转隶近卫第7集团军，调来近卫步兵第25军。1945年6月-1946年8月驻奥地利。1946年5月近卫步兵第31军撤销番号，1947年4月近卫步兵第21军撤销番号。1947年5月该集团军辖近卫步兵第10军（立陶宛基什涅夫，辖近卫机械化第33师和近卫步兵第59和第86师）、近卫步兵第24军（提拉斯波尔，辖近卫机械化第35师和近卫步兵第180师）、近卫步兵第82军（敖德萨，辖近卫机械化第34师和近卫步兵第28师），1948年4月20日撤销番号。
1945年3月布达佩斯战役击毁和缴获的德军各型StuG III自行反坦克炮，左面是Marder黄鼠狼III自行反坦克炮
近卫第4集团军战史记载，该集团军在战争中歼敌28万余人（俘虏10万余人），摧毁和缴获 2700 辆坦克和强击火炮、870辆装甲车、4625门火炮、1880门迫击炮、14200挺机枪、415架飞机、27 400辆汽车等。