撤回舰上的元军在统帅忻都主持下召开会议商讨下一步的军事部署：此时元军自身伤亡也不少、箭矢也几乎殆尽、重要将领负伤，尽管在白天的战斗中他们完全压制了日军，但日军的兵力仍是他们的数倍，这不能不令忻都对是否扩大攻势犹豫不定。参与会议的高丽将领金方庆相对比较冷静——他认为只要坚持苦战便能攻克大宰府，只要保住了既定战果就可以等待援军从长计议。
然而当第二天的太阳升起之时忱戈待旦的日军列好阵势久等元军来攻却迟迟不见元军踪影，于是派人探察元军虚实却意味发现：海面上已再无元军战舰的踪影。日军匪夷所思了：这仗究竟打赢了，还是打败了？完全就是莫名其妙一头雾水。关于元军失踪的原因主要有两种说法：其一是认为元军遭遇风暴，损失惨重，为保全力量不得不撤退；其二是说忻都在权衡利弊后主动作出撤兵决定。
受到前线战报的镰仓幕府和京都朝廷一开始也都大吃一惊，不过他们很快就大肆宣扬：这是一次伟大的胜利，尽管他们自己都不确定自己是不是真打胜了。其实大肆宣扬胜利只不过是为了安抚人心而故作镇静，事实上此时作为日本实际统治者的北条时宗已经预感到：蒙古极有可能再次来袭。作为应对之策：他组织民夫在博多湾增建坚固的石坝以加强防务——石坝东起箱崎，西到今津，高五尺许，宽一丈，蜿蜒长达数十公里，整个石坝的修筑历时五年，于公元1280年完工。
同时他对西部的防务工作也进行了细致分工。他甚至在1275年末制订过一个“异国征伐计划”——打算主动出击高丽。客观而言：忽必烈这次派往日本的军队无论从规模上还是实力上都不足以彻底征服日本——这有可能是忽必烈低估了日本的抵抗能力，可能是在进行征伐南宋的战争的同时派遣元军的主要目的不过是进行战争恐吓，促使日本迅速遣使通好。
同一时期忽必烈正忙于应对和南宋的战争，日本战场并不是其优先考虑的战场。东征返回的将领们向其声称：他们已重创日本，以致于信以为真的忽必烈认为在重创日本后只需凭借向日本进行军事恐吓即可迫使其主动称臣朝贡。于是1275年忽必烈派遣礼部侍郎杜世忠、兵部郎中何文著等人率领使团携带国书出使日本，要求日本称臣，以免再度兴师讨伐。
公元1275年4月15日杜世忠、何文著一行抵达日本长门国的室津，他们的计划是越过大宰府，与日本京都朝廷直接进行交涉，却被长门收回押送回大宰府。大宰府接到当时日本的实际统治者——镰仓幕府的执权北条时宗的命令：将使团成员押送镰仓。这是忽必烈的使节第一次来到镰仓见到日本实际上的最高统治者，但迎接他们的不是谈判桌，甚至也不是以往一贯的拒绝，而是日本武士的斩首极刑：9月7日使团主要成员共计五人全部被拉到镰仓郊外的龙口斩首。
在当时蒙古人作为一支古朴的民族坚定地认为斩杀使者是两国交往的大忌，是对自己的最大侮辱——早在1218年当花剌子模国王处死了成吉思汗的使者和商队后就曾引起了蒙古帝国的第一次西征。忽必烈与他的祖父一样决定不惜一切代价惩罚日本：他一方面招募军队、筹集物资，另一方面继续任性地向日本遣使要求其称臣朝贡，他似乎是要验证日本人到底能把他轻视到何种程度。
1275年2月末忽必烈将由南宋降卒组成的“蛮子军”一千四百人派往高丽，驻扎在海州（黄海道海州）、盐州（同道延安）、白州（同道白川）三地——这三州一直以来都是蒙古军团的屯田驻地。9月大都方面又派人探索到日本的新海路并命高丽再次修造战舰。10月高丽任命金光远为庆尚道都指挥使，负责修建战舰。11月高丽王室又向庆尚道征发羽毛和铁材。
1276年正月高丽方面突然接到停止对日战备的诏书，原因是此时忽必烈与南宋的战争也进入到最后的决战阶段，实在难以分身兼顾日本。公元1276年2月5日南宋首都临安陷落，南宋皇帝和太后向元朝投降。随着南宋的平定，腾出手来的忽必烈重新将东征日本提上议事日程。然而在1277年12月高丽却发生了一件令忽必烈不快的变故：有人密告高丽将军金方庆私藏兵器，试图攫取高丽政权并起兵反元，甚至连高丽国王对忽必烈的忠诚度也被人猜疑。
次年1月与金方庆同朝为将又同样被元世祖倚重的高丽大将洪荼丘接手此案，他与金方庆为争夺权力而素来不和。他以酷刑逼迫金方庆招供，在冰天雪地里金方庆“肌肤冻如泼墨”，但金方庆始终没招供。忽必烈没听从洪荼丘的一面之词，他将金方庆召回元大都，试图将金、洪二人的矛盾淡化处理，还给予高丽政府更多自治权。公元1279年2月南宋残余的抵抗势力在崖山之战中被元军荡平。
