日本人并不欢迎蒙古使团，他们的行动正好为在政策上一意孤行的忽必烈提供了进攻日本的借口。位于京都的日本皇室实际上非常软弱无力，真正的权力掌握在镰仓幕府手中。幕府里，幕府执权北条时宗是最终的决策者，而他并不打算顺服蒙古。自恃拥有骁勇善战的武士阶层，凭借偏居大洋、易守难攻的日本列岛，他和他的前任执权北条政村一样，断然拒绝了蒙古使者的建议。忽必烈在信函中曾提到日本天皇是一个“小国国君”。在初步讨论了应该如何回复忽必烈这封信之后，幕府决定干脆直接把蒙古使者遣送回国，连只言片语也不回复。虽然朝廷官员已经起草了一封和解信并抄寄了一份给幕府请求批准，但幕府执权没有批准寄出公函。忽必烈并不为日本政府的反应所动，在1271年初再次派遣使团带着同样的信息赴日。负责护送蒙古使节的高丽人秘密地警告日本人，他们将面临蒙古人的军事威胁。可是日本人再次拒绝蒙古使节进入王廷。在返国途中，蒙古使节抓住了两个日本渔民，把他们带回中国。忽必烈热情款待了日本渔民，命令他们请求他们的统治者对中国皇帝和蒙古大汗表示适当的尊敬，尽快派遣使者前来进贡。然后他派人护送他们经高丽返国。可是，日本方面对忽必烈释放被扣留的日本渔民没有任何反应。
此时，忽必烈确实已被日本人的“傲慢”弄得茫然失措，心烦意乱。他决不允许他们一直这样公然蔑视他，反抗他。他的双重角色，无论是作为蒙古大汗还是作为中国皇帝，都不能容忍被一个小国如此羞辱。蒙古风俗要求适当招待外国使节，而中国传统则要求所有国家接受中国皇帝为天下共主。这样明晰的天命意味着，忽必烈不能继续容忍他的使节在日本受到怠慢。
然而，在决定动武之前，他再一次派遣使节到达日本。他选派的特使赵良弼(1217—1286)于1272年春出发，并于同年的10月在九州岛东岸的今津町登陆。当他觐见日本天皇的要求被粗鲁地拒绝后，他发出了最后通牒：日本天皇只有两个月的时间对忽必烈的信函作出反应。日本天皇愿意对蒙古作出一个平和的模棱两可的回答，但幕府拒绝任何妥协。镰仓的武士占了上风，他们把中国特使驱逐出境。幕府的粗暴无礼被描述为“等同于宣战”。赵良弼于1273年6月返回中国，向忽必烈报告了日本的风土民情，可能还包括防务情况。赵良弼描述了他在日本受到的羞辱，这深深地激怒了忽必烈。他不能再耽延，因为耽延只会使日本人更加肆无忌惮。在赵良弼返回前几个月，蒙古人刚刚在襄阳取得了征宋战役的重大胜利，因此忽必烈可以抽调一小部分军队前去征讨日本。同时，他的对日战役也是他征宋战役的一个组成部分，因而也是必要的。日本人一直积极地与忽必烈的夙敌南宋开展贸易活动。击败日本人，他便能切断两个劲敌之间的联系，从而削弱南宋。
