张金刃出生于1902年，陕西三水（今旬邑）人。青少年时期，他曾在西安省立第三中学读书，这段时期，张金刃受进步教师的影响，开始接触到马克思主义，经过一段时间了解后，他也坚定了对马克思主义的信念，1924年，张金刃加入了共青团，1925年，他转为正式党员。
张金刃入党时，恰好是大革命时期，国内的革命形势如火如荼地发展。张金刃比较擅长宣传，加入共青团后，他主要在《陕西学生》和《西北评论》等刊物上撰写文章，宣传我党的革命思想，号召有志青年投身反帝反封建的斗争当中。张金刃的文章在学生群体中引起了强烈的反响，他也多次受到学生们的称赞，对引导学生走向进步与光明起了极大的推动作用。
1927年，大革命失败后，张金刃担任了陕西省委委员、省委常委以及共青团省委书记等职务，继续领导地方的革命斗争活动。那段时期，在领导工人运动以及发展共青团方面，他做了大量卓有成效的工作，同时也为陕西共青团的发展作出了一定的贡献。
1928年，我党在莫斯科近郊的“五一村”召开了“六大”，这次全国代表大会之所以在国外召开也是有原因的，因为当时国内已经很难找到一处安全的地方召开大会，在国外召开“六大”也是迫不得已的举动。张金刃也作为陕西省的代表参加了“六大”，会议结束后，张金刃留在莫斯科，参加了少共第五次代表大会。
1928年冬天，张金刃返回国内。回国后，他被中央派到天津，担任了顺直省委组织部长，投身北方的革命斗争当中。1929年，因为叛徒的出卖，顺直省委遭到敌人的破坏，省委书记离开天津，27岁的张金刃继任顺直省委书记，全面领导顺直省委的革命斗争活动。
1930年，张金刃被怀疑有加入“托派”的嫌疑，他也因此被调离天津，此后中央把张金刃调到长江局，让他负责共青团的工作。同时，中央也对张金刃进行了一番审查。这次审查后，没有发现张金刃有加入“托派”的嫌疑，他也旋即被调到武汉，担任了长江局军委总兵委书记。
1931年，六届四中全会之后，王明不断推行“左倾”路线错误，给革命事业造成巨大的损失，张金刃坚决反对王明的错误，他也因此被开除党籍。次年，经过组织调查后，张金刃恢复了党籍。恢复党籍后，他前往张家口，帮助冯玉祥筹组察哈尔民众抗日同盟军，但不久后，抗日同盟军失败，张金刃第二次被开除党籍。
在这之后，张金刃从事了一些反对组织以及反蒋抗日的活动，期间，他还投靠了阎锡山，并且官拜少将参议，颇受阎锡山重视。抗日战争全面爆发后，张金刃致力于组建抗日武装力量，抵抗日本侵略者，期间，他还在资金方面支持过冀南敌后抗日根据地，可以说为抗战的胜利贡献了一份力量。
不过，1938年，张金刃被以“托派”的罪名逮捕，后续他曾在杨虎城的帮助下获释，但是不久后，他又被蒋介石的嫡系爱将蒋鼎文逮捕。1940年12月8日，蒋介石亲自签署密电，下令处决张金刃。1941年，张金刃被处决，终年39岁。