文服无望，忽必烈不惜血本调集兵马钱粮准备二伐日本。至元十八年（1281年），已经灭亡南宋，水军、物资都更为充足的忽必烈正式下诏东征。此次东征声势比第一次浩大得多，共两路大军十四万人马，北路军由忻都、洪荼丘率领四万作战部队，战船九百艘，从高丽金州合浦出发；南路军由阿剌罕、范文虎、张禧率领十万江南军，战船三千五百艘，携带农具和稻种从扬子江口出发。两军约定于六月中旬在壹岐汇合，作战部队主管作战，屯田部队则负责在被占领区屯田，做长久打算。灭宋战争，元军动用部队二十万，此次攻打日本，竟达十四万之多，忽必烈对于日本的重视已经仅次于南宋了。
当南路军出发前，主帅阿剌罕病倒无法成行，由阿塔海代领其军。这个小变故看似没什么关系，但却直接关系到此次远征的成败。范文虎是忽必烈钦点的副帅，阿剌罕的离职，使他成为实际上的主帅。而范文虎其人懦弱无能，贪生怕死，根本不是做主帅的材料。六月初，东路军绕过对马和壹岐，侵入博多湾，攻克了志贺岛。但因为镰仓幕府已经在在博多湾附近建起了牢固的石堤，元军战舰竟找不到一处可以登陆的地点，只好停泊在海面。
以后一个月里，元军多次强行登陆失败，日军也多次进行偷袭，双方各有损伤，战况胶着之下，元军退到肥前的鹰岛，等待南路军赶来会合。七月初，南路军终于到达，两军汇合。元军将领们正商议大举进攻，然而就在即将发起总攻的八月一日夜间，剧烈的台风再次来临，元军舰船大都捆绑在一起，面对如山巨浪，相互震撼撞击，纷纷沉没，数万将士还没有和日军交上手便葬身鱼腹。只有张禧所部事先筑垒平户岛，隔五十步停泊战舰，这才避免了风涛袭击。
一场像样的仗没有打，便损失如此之巨，再加上对台风的恐惧，元军统帅们都已斗志全消，只想逃走。只有张禧没有气馁，劝道：“士卒溺死者半，其脱死者，皆壮士也。曷不趁其无回顾心，因粮于敌，以进战。”但范文虎等人却说：“还朝问罪，我辈当之，公不与也”，完全不予采纳。八月五日，范文虎等人丢下部队，乘船逃走。张禧无奈之下，只得尽量挽救士兵，平湖岛屯兵四千人没有船只，张禧叹道：“我安忍弃之！”将船上七十匹战马丢掉，将士兵装回。
饶是如此，近十万士兵仍是被扔在日本，群龙无首，在日军的攻打下很快溃灭。元军士兵大部被屠杀，少数江南士兵被俘虏后成为奴隶。这一年是日本弘安四年，因此此战史称“弘安之役”。如果第一次征日，是败于天灾，这一次可就是天灾加人祸了。即使遭遇台风，剩下的近十万元军背海一战哪里就至于全军覆没？忽必烈用人不当，选择范文虎这个成事不足败事有余之辈领兵，就算没有台风，又岂能是上下一心，勇敢善战的日军的对手呢？
连续两次大败，损失十余万大军，而日本却连皮毛都没有伤到。这个时候的忽必烈恐怕已经气得七窍生烟了吧。他自然极不甘心，至元二十年（1283年），命阿塔海为日本省丞相，与彻里帖木儿右丞、刘二拔都儿左丞募兵造舟，准备三征日本。御史中丞崔彧、淮西宣慰使昂吉儿上疏言劳民太甚，请求暂缓，再加上江南出现动乱，第三次征日遂作罢。
日后，与安南的战争又开始激烈，忽必烈不得不下诏：“日本未尝相侵，今交趾犯边，宜置日本，专事交趾。”对于日本的军事行动终于彻底停止。到了元成宗继位，江浙省平章政事也速答儿请求再次用兵日本，安于守成的元成宗认为“今非其时”，没有听从。 战争是没有了，但有元一代，两国之间一直没有出现官方交往，“中日邦交”一直到明朝建立方才恢复。
两次征讨日本虽然归于失败，但忽必烈此举对历史的影响却既深且远。其一，百年倭乱。因为战争，两国的官方往来断绝，元朝虽然大力鼓励海外贸易，但就是不许和日本做生意。而日本的金属等物资非常依赖大陆，从此走私贸易频繁起来。而既然走私是被元朝严禁的，日本走私商们为了避免被逮捕，便招募大量武装护从。商人一旦有了武装，便不再安心于辛辛苦苦贸易致富，而是经常地搞些抢劫之类的没本钱买卖，一些日本的大名（诸侯）也派遣私家船队参与，“倭寇”从此产生。从元朝中期到明朝中期，倭寇肆虐于中国沿海。直到明朝嘉靖末期，随着军事上的失利以及日本国内局势逐渐稳定，倭寇才逐渐销声匿迹。
其二，日本不再安分守己。从白江口海战之后，日本知道自身实力不行，便十分老实，没有什么对外扩张的野心。“文永”、“弘安”之役后，因为两场台风总是那么恰到好处的来临，从此便认定这是“神风”，日本有天神庇佑，永远不会沦亡，开始自高自大，乃至于在明治维新之后产生疯狂的对外扩张思想，最终差点把日本送进万劫不复。
其三，镰仓幕府的倒台。虽然自卫反击战胜利了，但为了打仗和修筑防御工事，镰仓幕府几乎把府库都掏空了，各地诸侯为了抵抗元军也付出了很大代价，还需要幕府赏赐。于是，镰仓幕府只好放任诸侯们大量侵占公地。这样一来，原本牢固的幕府经济体系之外出现了大量不为幕府管辖的土地和庄园，诸侯们对于幕府的经济依附减弱，幕府想要控制全国已经越来越困难。经济上出了问题，很快政治结构上也出了问题，众多武士因为战争而破产，而很多“百姓名主”，也就是占有很多田产的地主倒有相当数量因为发战争财而成为武士。这些人不但经济上和幕府没有联系，在人身上也和幕府没有主从关系，成为凭空而来的“第三势力”。他们有钱有武装，又不服幕府管束，日本的大乱便难以遏制。终于，在两次战役结束五十二年后，镰仓幕府灭亡。