金三角国民党残军的故事从这里开始。1950年1月，解放军进入昆明后，发动风卷残云之攻势，扫荡云南境内的国民党部队。昆明解放后，国民党军在云南的主要据点蒙自很快遭到解放军包围，当时担任国民党陆军总司令部副总司令兼参谋长的汤尧见势不妙，以第8兵团（含第8军、第26军）司令官的身份下令放弃蒙自，按照其命令，撤退路线为第8军撤往滇西，第26军往滇南“转进”。不久后，26军在元江遭到解放军攻击，伤亡惨重，强行突围渡江后只好将部队一分为二，右路以93师师长叶植南率直属部队“转进”，左路则由第8兵团副司令官兼26军军长的彭佐熙率军部等3879名官兵往南撤退，最后没能与右路取得联系，反而在进入越南后被法军解除武装并软禁。
为了避免93师也步左路军后尘，彭佐熙致电叶植南不可入越，于是93师只得沿中越边界撤至西双版纳，之后又行至中缅边界，原本想等待台湾方面来接应撤离，哪知途中被解放军追上，一阵围剿之后，残部慌不择路，遁入缅甸境内。与此同时，1月25日，第8军在撤往滇西途中，于背江与解放军发生激战，损失惨重，几乎全军覆灭，军长曹天戈也在战斗中被俘，同时被俘的还有汤尧。之前渡江的第170师孙进贤部也于不久后向解放军投诚。至此，云南境内大部分国民党部队都被消灭于元江北岸，解放军战史上也将此役称为“解放大陆的最后一战”。
但也有漏网之鱼，那就是由国民党第8军237师709团组成的残军，该团团长叫李国辉，原本只是个名不见经传的基层军官，但后来这个名字在金三角地区却赫赫有名，甚至家喻户晓，一切源于1950年春，他率军进入缅甸境内。入缅后，709团约1000人沿着当年抗日远征军的撤退路线逆行，进入野人山原始森林，经过数日行军最终抵达泰、越、缅三国交界的三角地带驻扎下来，不久后与同样撤入缅境的国民党26军93师残部会合，此时93师师长叶植南等人已搭乘飞机撤往海南，部队仅剩下400人左右，指挥者职衔比李国辉还低，为278团副团长谭忠。两支残军加起来人数在1400人左右，为统一调度，谭忠将部队指挥权让给李国辉，这便形成了最初的一支活跃于金三角地区的国民党部队。
1953 年底，国民党金三角残军首次撤离前，蒋经国亲临视察现场, 以示鼓励
这支活动于滇缅边境的残留部队很快引起国民党第8军的老长官李弥的注意。李弥是云南省盈江县太平乡人，毕业于黄埔四期，抗战后期就担任第8军副军长，1944年8月与军长何绍周共同指挥了松山战役。抗战胜利后被提为第8军军长，参与内战。1947年3月，李弥升任国民党军第13兵团中将兵团司令官，淮海战役爆发后率部参与，几乎全军覆没，仅以身免。1949年，蒋介石决定重建13兵团，仍以李弥为司令并兼任第8军军长。9月，李弥率部经泸州移驻云南的沾益、曲靖等地。可以说李弥不仅在第8军中影象根深蒂固，对云南的情况也十分熟悉。
1950年李弥到台湾后，一面上书蒋介石，请缨前往滇缅边区收容旧部，一面到处为在缅活动的部队筹措人马。台湾当局也认为这支部队存在于缅境对日后“反攻大陆”有帮助，因而在李弥《入滇计划书》出炉后，于当年4月15日得到蒋介石的批示。同一天，李弥向“国防部”总长周至柔呈请核准其部队编制，希望恢复第8、第91两个军的番号。但鉴于部队目前是在别国境内，不宜用正规军番号，这一请求被变相否决。