谭忠余出生于1909年，上海宝山人，出生于一个贫苦的家庭。早年时期，因为家庭贫困，谭忠余无钱读书，他只能前往一家米店当学徒，饱尝生活的艰辛。大革命时期，谭忠余开始参加我党领导的革命活动，逐渐走上了救国救民的革命道路。
1927年，大革命运动失败，在国内革命活动陷入低潮之际，谭忠余加入了我党，成为一名光荣的党员。同年，中央特科在上海成立，谭忠余因为是上海人，熟悉上海，所以他也被调入中央特科，成为特科“红队”的成员之一，主要负责锄奸等方面的工作。
特科的“红队”属于第三科保卫科，也被称为“打狗队”，顾顺章曾长期担任了三科的科长，谭忠余是顾顺章的副手，那段时期，他奉命执行了镇压叛徒白鑫、镇压叛徒陈尉年以及镇压叛徒黄第洪等任务，在锄奸方面作出了积极的贡献，有效地保卫了中央机关的安全。
1930年8月，谭忠余晋升为中央特科第三科科长，此后他继续致力于镇压叛徒、营救被捕同志及为组织筹集经费等工作，并作出了积极的贡献。1931年，顾顺章叛变后，为了保护中央特科的成员，在组织的安排下，中央特科进行了改组，康生担任了三科科长，谭忠余成为康生的副手，担任了三科副科长。
期间，谭忠余继续带领红队镇压叛徒，不过，顾顺章叛变的影响持续存在，上海的地下工作到了几乎无法正常开展的地步。不久后，谭忠余被安排转移到鄂豫皖根据地，担任了红二十六师政委。不过，谭忠余是南方人，口音很重，这对他在根据地内开展工作非常不利，1932年年初，谭忠余辗转回到上海。
返回上海后，因为叛徒的破坏，谭忠余还是无法正常开展工作，不久后，中央安排谭忠余前往苏联学习。1935年，谭忠余经蒙古率队返回国内，11月，谭忠余一行人到达定边一带，当时他们化妆成皮草商人，牵着骆驼，带着一部秘密电台以及共产国际的新政策与联络密码。
但令人想不到的是，在距离苏区仅仅十来里的地方，谭忠余被当地的民团包围，经过一番激战后，民团诱骗谭忠余下山谈判，谭忠余也因此被捕。而其他人也几乎都遇难，唯有一人顺利逃脱，名叫张浩（林育英的化名）。
张浩是驻共产国际的代表，他辗转返回延安时，恰好遇到一个非常棘手的问题，那段时期，张国焘另立“中央”，公开分裂红军。此后张浩多次致电张国焘，劝说张国焘取消了“第二中央”，而张国焘比较听共产国际的话，对张国焘来说，张浩代表的是共产国际，所以两人一番联系后，张国焘取消了“第二中央”，并率领红四方面军重新北上，红军三大主力也得以会师。
可以说，谭忠余率领的这支队伍回国后发挥了重要的作用。可惜的是，被捕后的谭忠余却受到了敌人的百般折磨，敌人虽然没有弄清楚他的身份，但也从侧面知道他是我党的重要人物，因此一直关押着他。1936年6月，红军在进攻安边县城时，敌人把谭忠余押到城头，让他劝说红军，谭忠余义正言辞地拒绝，不幸被敌人杀害，年仅27岁。