李立功是山西交城人，抗日战争时期参加革命工作，活跃在交城一带，与华国锋是亲密的战友。李立功有个女儿，长大后嫁给了华国锋的儿子，也就是说，李立功不仅与华国锋并肩战斗过，而且还是华国锋的儿女亲家。
新中国成立后，李立功留在山西，主要负责共青团的工作，是一位优秀的基层干部。1966年6月，表现出色的李立功被调到北京，担任了北京市共青团委书记，自此之后的整个“十年特殊时期”，李立功一直留在北京，担任了北京市革委会副主任、北京市委书记（当时设有第一书记）以及北京市委组织部长等职务。
时间很快就来到1981年，这一年五月，李立功正在参加全国军转干部安置会议，时任北京市委第一书记的段君毅主动找到李立功谈话，告诉他中央要把他调回山西。听到这个消息后，李立功非常纠结，他纠结也是有原因的：李立功是山西人，热爱家乡，能回家乡工作是一件好事。但在1966年到1976年，山西的环境十分复杂，李立功内心不想回去。
不久后，耀邦以及宋任穷、万里先后找李立功谈话，让他回山西工作。这几位领导找李立功谈话有个原则：在那特殊的十年，李立功没有在山西工作，不论这一派还是那一派，李立功都没有介入，到山西容易处理问题。同时，耀邦还跟李立功说明，让他到山西担任常务书记，第一书记还是霍士廉，第二书记是罗贵波，李立功主要是协助他们两位开展工作，先过渡一下，将来接班。
中央找李立功谈话完毕后，李立功表示服从组织安排。在这之后，李立功办了两件事：第一是退出了自己在北京的干部宿舍；第二是让中组部为自己选了一位秘书。当时李立功为了方便回山西后开展工作，特意选了一位与山西没有瓜葛的人当秘书，最终中组部为他选了一位转业军人。就这样，李立功回到山西，担任了山西省常务委书记。
1983年3月，中央调整了山西省委领导班子，取消了省委第一书记、第二书记以及常务书记、书记等名称，只保留了省委书记与省委副书记。也是这一年，李立功正式担任了山西省委书记，全面主持山西省委书记的日常工作。
担任山西省委书记之后，李立功面临的首要问题就是团结班子成员，继续为山西省的改革开放事业添砖加瓦。李立功非常清楚，山西的复杂环境有其特殊的历史背景，从本质上讲，是1966年到1976年那段特殊时期的产物，尤其是1967年，山西省革委会成立后，因为人事安排问题，造反派分成了两大派，一派支持省革委会主任刘格平，另一派支持副主任张日清，两派的武斗加剧，生活秩序受到严重影响。
在这之后，山西并没有彻底解决这一问题，这也导致山西的环境十分复杂。李立功上任后，严格落实了中央的干部政策，帮助过去被“打倒”的同志恢复名誉，促使他们重新复出工作。同时，在一些重大问题上，李立功引导班子成员站在一致的立场，坚持原则，把工作的重心转移到经济建设层面。
总之，李立功运用一切办法化解矛盾，增强干部之间的团结，努力消除“四人帮”的影响，从而稳定了山西的形势。李立功一共担任了八年时间山西省委书记，于1991年卸任职务，任职期间，他也赢得了多数同志的好评，为山西省的改革开放创造了一个良好的环境。