谢唯俊出生于1908年，湖南耒阳淝田镇人，早年时期，他曾在衡阳省立三师附小、湖南衡阳蒸湘中学等学校求学。伴随着广泛阅读进步书籍，谢唯俊开始关心国家前途与命运，渴望为拯救国家与民族而战斗，他也逐渐成长为一名忧国忧民的进步青年。
1924年，谢唯俊在学校期间加入了共青团，此后他在同学中广泛宣传我党的革命思想，引导同学们走向进步与光明。1925年，“五卅”运动之后，谢唯俊积极参加反帝爱国运动，声援上海工人的斗争，同时，他也积累了一定的革命经验，为以后全面走上革命道路奠定了基础。
1926年，谢唯俊转为正式党员，入党之后，他奉命返回家乡，在家乡宣传我党的革命思想，同时，他也在发展党员、建立组织、领导群众坚持对敌斗争方面做了大量卓有成效的工作，促进了组织的发展壮大与革命武装力量的创建。
1928年，谢唯俊上了井冈山，参加了红四军的创建与井冈山革命根据地的反“围剿”斗争。1929年，红四军离开井冈山后，谢唯俊跟随红四军转战赣南与闽西。在此期间，他坚决支持毛主席的正确主张，为根据地的建设以及工农革命力量的发展壮大作出了积极的贡献。
古田会议之后，谢唯俊被调到地方任职，1930年年底，谢唯俊重返部队。返回部队后，他担任了红一方面军的前委秘书，同时，也是毛主席的秘书。期间，谢唯俊注重调查研究，他善于把马克思主义革命真理与具体实践相结合，受到毛主席的重视，为建设红军以及红军的思想政治工作建设作出了重要的贡献。
1932年2月，谢唯俊被调到江西军区工作，担任了江西第二军分区司令员等职务，不久后，他又兼任了红军独立第五师师长。期间，他严格贯彻中央的各项指示，充分发动群众，积蓄工农革命力量开展武装斗争，配合中央苏区的反“围剿”战斗，为前四次反“围剿”的胜利贡献了一份力量。
不过，不久后，谢唯俊却受到了不公正对待，并被撤销了职务。当时是1933年，因为谢唯俊在日常工作中始终贯彻毛主席的正确主张，再加上那段时期“左倾”盛行，谢唯俊因此受到不公正对待，被撤销职务，并被诬陷为“邓、毛、谢、古路线”受到打击。
虽然受到不公平对待，但谢唯俊不计较个人得失，继续全身心地投身革命斗争当中。不久后，他被调到中组部担任巡视员，在筹备军粮以及扩红方面任劳任怨，始终以大局为重，为根据地的发展壮大作出了重要的贡献。
1934年10月，第五次反“围剿”失败后，谢唯俊跟随中央红军的主力部队参加了长征。遵义会议后，“左倾”错误得到纠正，谢唯俊也被委以重任，进入红军总政治部工作。1935年秋天，中央红军到达陕北后，谢唯俊继续受到重用，担任了三边特委书记兼剿匪总指挥等职务。
上任之后，谢唯俊在剿匪方面投入了很多精力，使得三边地区的社会治安有了巨大的改善。然而，令人想不到的是，1935年11月28日，因为叛徒出卖，谢唯俊被杀害，年仅27岁。