王少伯，原名王三宝。1926年9月18日生于江苏盐城阜宁县一个贫农家庭。10岁开始，在家乡读了4年私塾。
1941年，王少伯在父母支持下参加了新四军，编入第一师二旅特务营。1942年转入第三师。1943年加入中国共产党。任副班长、班长、副排长、排长兼射阳县沟墩区区大队文化教员，区情报站站长、游击大队队长，射阳县独立团第五连文化教员，第三师八旅二十三团三连指导员。参加了巩固发展盐阜抗日根据地的斗争。1945年9月解放淮安战役中，王少伯受命带领全团民扶担架大队，完成了火线抢救伤员任务。
1945年9月，王少伯随部挺进东北，任东北人民自治军第三师八旅二十三团七连指导员。参加了攻打长春和四平保卫战。三下江南前，第三连领导对形势认识不足，军心不稳，此时王少伯调任该连指导员。到任后，他认真落实东北民主联军提出的“创三模”（创巩固部队模范、群众纪律模范、战斗模范）指示，组织开展忆苦思甜，进行阶级教育，战斗力迅速提高，受到上级表扬。带领第三连队参加了辽沈战役、平津战役。在农安县东曹家岗战斗，第三连队荣获“战斗模范连”称号和奖旗一面，民主联军广播电台、《战斗报》报道了王少伯的事迹。
1950年，王少伯抗美援朝战争，任志愿军第三十九军一一五师三四五团三营教导员。带领全营参加第一、第二次战役，指挥第七连二班战士罗亮四，首创用爆破筒炸毁美军王牌骑兵第一师重坦克一辆。罗亮四荣立大功一次，王少伯荣立三等功。第三次战役前，王少伯任第三四三团二营营长。战役发起当晚，指挥第二营突破三八线，打到首都汉城。在第四次战役马山战斗中，在无坚固工事依托的情况下，面对美二师二十三联队、美二十四师和法荷联军等八千人的攻势，第二营顽强坚守，十六次打退美军进攻，胜利完成战斗任务。全营集体立功，王少伯荣立大功，祖国赴朝慰问团赠送6米长“攻的勇猛，守卫有功”大旗一面，他的事迹刊发于《立功报》和《立功画报》。1951年，王少伯任第三四三团参谋长、副团长。1953年，坦克第三二0团团长。
1953年9月回国后，王少伯于1954年入南京军事学院学习。期间，参加了1954年、1955年国庆大阅兵。1958年，任第三十九军一一五师三四五团团长。上任后狠抓全团训练，总政治部主任谭政到该团蹲点，随同蹲点的沈阳军区政治部前进歌舞团作曲家王永泉回去后，写了流传至今的歌曲《打靶归来》。1964年，王少伯任第一一五师参谋长，沈阳军区工程兵二工区副主任。1968年，任黑龙江生产建设兵团第一师副师长，次年任建设兵团第六师师长。奉命率部屯垦戍边，开发建三江。第六师全体官兵在王少伯的带领下，克服夏天蚊虫叮咬，冬天没房居住，粮油供应缺乏，交通不便等恶劣条件，誓把“北大荒”开发为“北大仓”，为开发建设北大荒做了大量工作，时任省委书记张林池赞扬六师“我与王震部长都未开出来，日本人开拓团也未开出来的田，你们开出来了”。期间，《人民日报》《黑龙江日报》、中央电台、黑龙江电台等新闻媒体，对第六师和王少伯事迹进行了多次报道，中央电视台还拍成《英雄儿女战荒原》的电影，在北京等地放映。
1976年建设兵团改为农场时，王少伯任沈阳军区守备第五师师长。针对当时条件艰苦，部队上下不安心的情况，王少伯提出“热爱边疆，胜过家乡；扎根边疆，志坚如钢；建设边疆，贡献力量；保卫边疆，紧握钢枪”的“四边”思想深入人心。不到三年，将第五师建成了先进部队，沈阳军区在第五师召开了现场会。1979年，王少伯任黑龙江军区副司令员。随后，入北京军事学院高级系学习。1981年，任白城守备军第一副司令员。
1955年，王少伯被授予少校军衔。荣获独立自由奖章、三级解放勋章和两枚朝鲜人民民主共和国勋章。
1989年，王少伯离休。离休后，曾任黑龙江省新四军研究会会长。
2018年7月17日，王少伯逝世，享年92岁。（赵连军根据童来喜、顾永俊、刘华领主编《无衔将领——从新四军中走出来的未授将衔的军以上干部》改编。）