1927年，国民革命军北伐至南京，蒋介石下令大肆搜捕屠杀共产党员和国民党左派。紧接着，7月15日，发生了“宁汉合流”事件，国民党左派汪精卫叛变，主动前往南京（汪精卫原为国民党左派，主张联俄容共）。此时的汪精卫和蒋介石属于一个阵营里的人了。
汪精卫和蒋介石
1927年6月，蒋介石和冯玉祥谈成了两派的合作，之后次年结拜为兄弟。蒋介石叫冯玉祥“焕章兄”，冯玉祥叫蒋介石“介石弟”，两人关系很是亲密。可谁曾想过，就是这样亲密的关系在日后的利益纠缠中消失殆尽了。
冯玉祥
此时的蒋介石掌控着沪宁杭的富庶地区，需要借助冯玉祥的力量完成北伐，统一中国，并驱逐在关内的奉张势力。
但是蒋介石不放心手下的得力干将甚至是自己的兄弟。二次北伐结束之后，蒋介石任命阎锡山坐镇北平，却不允许冯玉祥进入北平。1929年，蒋介石对各部兵力进行了大幅度调整，规定每个军事集团最多保留7-9个师。这些行为都引起了冯玉祥等国民党大员的不满。通过一系列手段，蒋介石虽然掌控了全国的军政大权，但是他的“宝座”一点也不稳固。
就这样，蒋介石又想利用冯玉祥又不敢完全信任他，蒋冯二人的关系就开始慢慢产生嫌隙。
二人在政治上的主张也差别较大。冯玉祥主张以人民为基础，多听从人民的意见。而蒋介石的政见就很明显了，他本人就是一个不折不扣的独裁政治家，他喜欢一党专制而且集所有大权于一身。这更让冯玉祥觉得应该重新考虑一下自己和蒋介石的关系。
1929年到1930年爆发的蒋桂战争，蒋阎矛盾等等大小战争（史称中原大战）让蒋冯之间的关系到达冰点。在战争中，冯玉祥任中华民国陆海空军副总司令。
战争中，反蒋部队节节失利。1930年9月1日，阎锡山、冯玉祥等人成立了北平国民政府，与南京国民政府对立。1930年9月18日，随着张学良的东北军拥蒋入关，阎锡山和冯玉祥的军队彻底失去抵抗力，北平国民政府宣告灭亡。
一年之后，九一八事变爆发，冯玉祥随即开始抗日，收复东北多地，但是最终还是失败。在抗战的14年之中，冯玉祥没有再与蒋介石争权夺利当然也没有重归于好，他们之间就是普通的委任关系：冯玉祥听命于蒋介石。