1930年，为集中革命力量、加强党组织对湘赣地区红军的掌控，毛主席决定成立红一方面军，由朱老总担任一把手，彭老总担任二把手，毛主席亲自任政治委员，而副政治委员则由滕代远同志出任。
滕是农家子弟，他自幼勤奋好学、追求进步，对于知识和前途有着热烈的渴望，父母见他如此上进，便掏空家底供他读书深造，希望他将来能成龙成凤，改变自身命运，过上美好生活。滕代远没有辜负父母的期许，他最终凭借着自己的努力顺利考上了一所师范学校，在校期间他在一些进步同学的引导下，开始接触红色思潮，大革命期间，他加入共产党，并开始在湘西地区组织农协、工会等左翼组织，与土豪劣绅、军阀势力做对抗。
1927年中旬，国民党在湖南掀起了一阵激烈的“反共”运动，酿造了大量流血事件，滕代远对此十分气愤，他随即宣布与国民党划清界限，并转往湘南地区暂时蛰伏。土地革命爆发后，他又奉命前往湘东活动，负责协助毛主席在井冈山开展革命斗争。1928年，他被调到红军部队服役，与彭老总搭档带队伍。
往后很长一段时间，滕代远都是红军的核心领导人物，曾先后参与过多个苏区的创建工作，立下了赫赫战功，而且他还曾是林帅、陈老总等三位元帅的顶头上司，在党内享受崇高的威望。1934年，他奉命前往苏联学习，顺便向共产国际述职，原本他打算在莫斯科待一年时间，而后回国继续与同志们并肩作战，但计划赶不上变化，就在他启程赶往苏联后不久，红军便开始长征，华南各苏区随即宣告陷落。
而滕代远也就只能被迫滞留在苏联，一边学习，一边作为中共代表与共产国际接洽，协助共产国际开展一系列革命活动。一直到1937年，国内局势稍稍稳定一些后，他这才启程赶回国内，并在党中央的安排下，参加了援救西路军的行动。抗战时，他就任军委高干，同时兼任八路军高参，1938年中旬，他奉命前进至晋西北，协助贺老总等人开展武装斗争。
1939年，阎锡山在蒋介石的授意下，故意和八路军搞摩擦，数次派遣麾下的部队向我方挑衅。彼时贺老总等人正在延安开军事会议，整个晋西北就只有滕代远一位八路军高干，党中央随即任命他暂代晋西北一切军政要务，负责和阎锡山进行斡旋。滕秉持着“先礼后兵”的原则，先派人和阎锡山进行谈判，力劝对方罢兵言和，以免破坏统一战线。
可阎锡山却顽固不化，坚持要和八路军为敌，滕代远最终忍无可忍，于是便指挥八路军狠狠痛揍了阎锡山一顿。而阎锡山在吃了亏之后，这才知道八路军的厉害，索性他又拉下脸和八路军求和，双方约定互不侵犯，一致对外。
从1941年开始，滕代远的工作重点慢慢由军事转为后勤，他与彭真同志一起提出了建设根据地的诸多方案，强调八路军部队要自力更生，坚决不能靠老百姓供养。在灾年或者其他紧急关头，八路军还应该反过来帮助老百姓，军民联合共度难关。而在滕代远的努力之下，八路军所开辟的根据地越来越稳固，老百姓对八路军无条件支持，军民一家亲的景象在华北随处可见。
解放战争时期，他在华北军区任职，率部与傅作义集团的周旋、缠斗。1948年，在东野的协助下，华北军区的部队顺利解放京冀地区，而滕代远也在党中央的授意下，离开指战员岗位，前往刚刚成立的铁道部门工作。建国后，铁道兵部队集体退出现役，转而改组为铁道部，隶属国务院，而滕也随即从军事将领转职为行政干部。1955年授衔的时候，按照滕的功绩，他应该被授予大将军衔，可由于他已经离开了部队，不符合授衔的标准，因而与大将军衔失之交臂。
动荡时期，滕受到了居心叵测者的迫害，先是被批斗，紧接着又遭到关押，这严重影响了他的健康状况，到了1973年，他接连患上了诸多老年病，周总理得知此事后，立即派人将他送到医院进行救治。但可惜的是，在1974年他还是因病去世了，时年七十岁。80年代中旬，滕代远老家的人民政府专门拨款为他修建了一座纪念馆，以表达对他的尊敬和追思。