1921年7月23日至31日，在上海法租界贝勒路树德里3号(现兴业路76号)和浙江嘉兴南湖，中国共产党第一次全国代表大会于召开，出席大会的各地代表共13人。会议由张国焘主持，建立三人组成的中央局，并选举陈独秀任书记，张国焘为组织主任，李达为宣传主任。毛泽东是代表之一，他在“一大”的表现评价如下：沉稳，善于听取大家意见，但在一些重大问题上，他颇具见解，胜过他人。
事实上，在中共一大毛泽东并未表现出多么耀眼的光环，不如他在国民党一大上的位置。
1924年1月20日，国民党第一次全国代表大会在广州召开，171位代表参加了大会。毛泽东是国民党一大的正式代表，坐在39号席位上；而蒋介石仅以列席的身份参加了会议。这也是毛、蒋两位世纪伟人，人生的第一次相遇。
孙中山在开幕式上发表演讲，他指定胡汉民、汪精卫、森、谢君持、李守常为主席团主席。国民党中央执行委员共24人，谭平山、李守常、于树德3人是中共党员。国民党中央候补执行委员17人，沈定一、林祖涵、毛泽东、于方舟、瞿秋白、韩麟符、张国焘7人是中共党员。
作为国民党中央候补执行委员，还被指定为大会的章程审查委员之一，毛泽东进入了国民党领导高层；而“蒋介石”在这次大会上就是一个打酱油的。毛泽东既是中共中央执行委员，又是国民党中央候补执行委员；蒋介石当时在国民党内的地位远不如毛泽东。
蒋介石在1963年回忆当时情景：“我是21岁入党的，直到27岁，总理（孙中山）才对我单独召见。虽然以后总理即不断地对我加以训诲，亦叫我担任若干重要的工作，但我并不曾向总理要求过任何职位，而总理亦不曾特别派我任何公开而高级的职位；一直到我40岁的时候，我才被推选为中央委员。”
国民党一大之后，当选候补中央执委的毛泽东被派到了上海的国民党执行部工作。1925年7月广东政府改组为国民政府之后，10月5日，汪精卫推荐毛泽东代理宣传部长职务。毛泽东成为国民党中央宣传部的代理部长。从1925年10月5日到1926年5月28日，毛泽东一直主持国民党的宣传工作，直到1926年5月《整理党务案》获得通过，不得不辞去部长一职。
1924年，在广州黄埔长洲岛，孙中山在苏联帮助下和中国共产党共同创办了黄埔军校。5月12日，孙中山任命第一批黄埔军校教官，廖仲恺任党代表，戴季陶任政治部主任，蒋介石任校长。这时蒋介石才算真正登上历史舞台。许崇智、邓演达和何应钦三人当时都是军校校长人选，蒋介石仅排在第四位置。张静江对蒋介石的大力举荐，成为蒋当上校长的一个关键因素。6月16日，黄埔陆军军官学校举行开学典礼。
毛泽东在黄埔军校的初创工作中，曾与恽代英一起秘密负责上海考区的招生工作。他也曾是黄埔军校上海考区的主考官。
1926年1月，熊雄任黄埔军校政治部副主任后，聘请恽代英、肖楚女、高语罕等共产党人为政治教官，邀请毛泽东、周恩来、刘少奇、张太雷等到军校作演讲。
时任国民党中央宣传部代理部长毛泽东到黄埔军校作演讲时，蒋介石亲自到大门外码头迎接毛部长。先引到校长办公室休息片刻后，又亲自引路陪伴，全体师生起立致敬后坐下，蒋介石也在台下第一排正中端坐恭听。毛部长演讲结束后，蒋介石起立带头鼓掌。蒋介石又设宴款待毛部长，并亲送其至船码头告别。
国共两党决裂后，两人从此成为政治上和军事上一生的对手。