1955年，我国首次授予开国将帅军衔，大部分人的军衔都与他们的资历和职务相符，但也有少数人的军衔显得偏低，其中就有谭友林少将。
谭友林是红二军团的元老之一，他从洪湖苏区开始参加革命，曾经担任过通讯员、宣传员、警卫员等职务，经常能见到贺龙总司令。当时的红三军（原红二军团）在开辟苏区的过程中遭遇了内外交困，不仅缺乏军事干部，而且政治干部也十分紧缺。1934年，红六军团与红三军会师后，调了一批政治干部到红三军工作，谭友林也从此转为政治工作。他先后担任过营教导员、团政委，并在半年后升任师政委。在红二军团出生的将领中，能担任过师级职务的并不多，除了谭友林外，还有贺炳炎、廖汉生、王尚荣等人。
抗日战争时期，谭友林从抗日军政大学毕业后，被分配到新四军第四支队，在彭雪枫手下工作。这支部队不断壮大和变换番号，从第四支队到豫东游击支队，再到八路军四纵队、新四军四师。谭友林的职务也随之变化，从留守教导队队长到支队政治部副主任、团政委、旅长等职。他在前线作战的时间并不长，只有两年多一点，1941年就被抽调到延安党校学习，并在那里待了四年。
抗日战争结束后，谭友林随着一批延安干部被派往东北。本来他是要回到原来的部队工作的，并且已经安排好了职务，但可能是因为东北缺少干部的原因，他没有回去。他在东北主要负责剿匪工作。当时东北匪患严重，为了巩固根据地和发动群众，必须清除匪患。他在合江地区作战了很长时间，直到1947年匪患基本肃清。此后他先后担任过独立师师长、第十二纵队副司令员等职务，并参与了对长春的围攻战役。由于他打过的大规模战斗不多，所以他的职务一直没有超过师级。
1949年4月，
谭友林调任第三十九军副军长。1952年，在全军进行评级时，他被评为副军级。这是因为他在解放战争期间没有取得很大的战功，所以没有升迁的机会。1955年授予军衔时，也是根据评级的结果，他被授予了少将军衔。
有人说，罗荣桓元帅见到谭友林时说，他的军衔授低了。这可能是因为他考虑到谭友林是红二军团的出身。红二军团的将领中，上将和中将都不多，而且在授衔时还有所照顾。比如许光达，按照他的战功和职务，也就是上将的水平；贺炳炎，按照他的兵团级职务，也就是中将的水平；杨秀山，在解放前也只是副军长，评级时为正军级，授予少将也是合理的。如果谭友林当初回到原来的部队，他的职务也不会只是副旅长、师长，至少也能担任过纵队副司令、司令、军长等职。
虽然谭友林的军衔低于同辈，但他在政工岗位上却有所作为。他先后担任过沈阳军区公安部队司令员、工程兵副司令员、新疆军区副司令员、副政委等职务，都是大军区副职的级别。1982年，在兰州军区领导班子调整时，他被任命为兰州军区政委，成为正大军区职务。可以说，谭友林虽然没有在战场上大放光彩，但在政治工作上却有着不俗的成绩。