作为联合舰队的司令官，山本五十六开始设想第二阶段的军事作战。1月5日，山本的参谋长宇垣缠接到命令，立即拟定第二期作战计划。宇垣在这天的日记中写道
此时，在帝国参谋本部上层围绕着在“第二作战阶段”应该采取什么战略这个问题上展开了激烈的辩论。陆军参谋本部鉴于陆军的主要假想敌是苏联，反对海军在海上的进一步扩张，提出了北进的主张。陆军的想法是
海军军令部提出了一项野心勃勃的计划，这一计划要求攻取澳大利亚。军令部认为，夏威夷一战后，美国必然要以澳大利亚为基地对日本进行全面反攻，时间可能在1943年春季以后。因此，在此之前，日本必须拿下所罗门群岛、新喀里多尼亚岛、斐济群岛、萨摩亚群岛等岛屿，以防止美国向澳大利亚部署空军，尽可能地把澳大利亚孤立起来，切断美国和澳大利亚间的联系。陆军参谋本部对这样一项大规模的作战计划十分惊讶，他们以无法再派出十几个师团到澳洲及其四周的岛屿上为理由拒绝了这项计划。
进攻印度洋的计划最初是由联合舰队司令部提出的。依照这一方案，需要陆军出动5个师左右的兵力，攻取锡兰岛（今斯里兰卡），将英国的东洋舰队引诱出来，一举加以全歼，以便同从高加索南下中东的德军携起手来。但是陆军对此反对更烈。有人说太平洋战争是由不懂得海战的人挑起的，由不懂得航空的人来作战的。陆军对于东南亚诸岛屿的作战并不感兴趣，也没有进行过很好的研究，陆军的出发点是，相信德国必胜无疑。只要日德共同作战，使苏联屈服，一切问题必迎刃而解。值此进攻东南亚的作战暂告一段落的时候，应该把陆军本来就不该用在南方的主要力量调回中国的东北和华北地区。2月20日，联合舰队对出兵印度洋的作战计划进行了图上演习。兼任陆军部长的东条英机最后否决了这个方案。
随后，联合舰队又提出了全力进攻中国，最后拿下重庆的建议。东条又一次予以否决。在他看来，对日本来说这样做是自不量力。
正当研讨战略计划时，1942年2月12日，山本将他的指挥部从“长门”号迁到了12月份刚从吴港下水的超级战列舰“大和”号上。同具有32年舰龄的“长门”号相比，“大和”号从设备到官兵的居住条件，都显得格外先进、豪华。山本坐镇在他的新的海上司令部里，率领着他的舰队，停泊在懒户内海；加上令全日本人感到自豪的南云的航空舰队在南太平洋上为所欲为，真是踌躇满志。既然陆军和海军不可能就协同进攻的目标取得一致意见，山本就决定按照他自己的意愿，寻找一个海军能独立完成的作战方案。
前边说到，山本虽然对开战之初日军在各条战线上所取得的战果感到满意，但却又陷入了一种更深的不安和忧虑，即美国人可能空袭帝国的首都东京。山本清醒地看到，夏威夷一战，并没有把美国的航空母舰和巡洋舰送进坟墓，相反这些舰只仍然完好无损，它们完全有能力随时对日本本土特别是东京进行小规模的打了就跑的袭击。
根据陆海军国土防卫协议，本土的防空是由陆军负责。但是，很明显，对日本本土的任何空袭必定来自海上，海军应该首先在海上拦截和歼灭敌机。山本特别意识到海军的这一责任。他本人用舰载机偷袭了珍珠港，难保美方不用同样的手段加以回敬。再说，他自己在华盛顿任日本驻美武官多年，十分了解美国人好勇斗狠的性格。他估计，美国迟早会寻机对日本本土进行空袭的。
必须绝对保证天皇所在地东京的安全，已成为山本朝夕不忘的事情，为此他甚至表现出病态的敏感。他对日俄战争期间发生的一桩事一直记忆犹新。当时，一支俄国舰队突然出现在东京湾外面，一时首都人心惶惶，老百姓纷纷逃到山里避难，负责对付俄军的第2舰队司令长官上村海军中将的住宅遭到了愤怒群众的石块攻击。一想到这里，山本就忧心忡忡，心有余悸。他反复思忖
从1942年2月1日开始的美海军舰载机对马绍尔群岛、吉尔伯特群岛和威克岛等一系列大胆的空袭，进一步加深了山本的忧虑。为防止悲剧的发生，山本设立了一条舰艇了望线，其范围离日本本土东岸600—700海里，南北约1000海里，每天还辅以飞机远程巡逻。但这些被动的防御性措施不符合山本的性格，为了捍卫大日本帝国的国土和帝国海军的尊严，他决定再度出兵太平洋。他把沉思的目光落到组成中途岛的那两块针尖大的陆地。山本的想法是，占领中途岛，将其改造为日本空军基地和攻打夏威夷的出发点，可能的话，再进攻美国的阿留申群岛，使日本的空中和海上的防卫范围向东扩展2000海里，并将美国的太平洋舰队诱使出来，进行一场打垮拖烂的战斗，把它消灭在太平洋上。
4月2日，作战参谋渡边安次带着联合舰队关于进攻中途岛和阿留申群岛的作战计划来到东京征询军令部的意见。军令部再次对这一计划表示坚决反对，其中作战部作战课课长富同定俊大佐和他的航空专家三代辰吉中佐反对得尤为强烈。富同认为，中途岛难以补给供应，而且会经常受到美远程飞机的袭击。这块环礁对日本没有战略价值，他甚至提出美国也不会为这块弹丸之地派出舰队冒险。他对山本的使节渡边说道
“关于中途岛作战计划问题，不是我傲慢不逊，我认为，山本根本就没有战略眼光，没从大的战局上着想。第二阶段的作战，首要的也是最关键的，应该是切断美国与澳大利亚的联系，防止美国把澳大利亚作为前进基地。即使到现在我也这样认为。”
三代是最强烈反对中途岛作战计划的。他主张攻打新喀里多尼亚，以切断同盟国的交通线，迫敌于靠近日本基地而远离美国海区进行决战。作为富同作战课里唯一的飞行员，他从技术角度摆出了种种反对的理由，他说
军令部作战课的反对，不仅态度强硬，而且理由充分。双方争执不下，渡边很为难地说
4月5日，在军令部作战室，双方再次进行讨论。军令部总长永野修身和次长伊藤整一也亲自参加了讨论。但渡边仍没有获得满意的答案，最后他起身给山本打电话作了汇报。在得到山本又一次明确指示的情况下，他回到作战室，向与会者转达了山本的意思。他说
曾经作过山本参谋长的作战部长福留繁十分了解山本的为人和性格，他转向同样曾在山本手下工作过的伊藤次长，用请示的口吻说道
伊藤并没作声，只是点了点头，表示默许。见此情景，三代低下头，趴在桌子上失声痛哭。总长永野也没有提出任何异议。讨论珍珠港作战计划时的情形又重演了，可是上一次山本的赌注下在美国人还没睡醒的时候，现在这一次是否还会如愿成功呢？自从袭击珍珠港以来，山本五十六几乎成了日本人心目中的民族英雄，军令部的高层人员对山本五十六也几乎迷信般地信赖；山本自己一赌到底的性格，使他越是在这种时候越不容易听进别人的意见，尤其是过去反对他的那些人的意见都被证明是错误的。过于精明的山本五十六再次犯下了战略性的错误。4月10日大本营正式决定了攻击中途岛的作战方案。
似乎专门是为了证明山本五十六坚持中途岛作战计划的正确性，一周之后，即4月18日，美国詹姆斯·杜立特陆军中校率16架B—25轰炸机空袭了东京、横滨和其他一些日本城市。事卖上早在珍珠港被偷袭后不久，罗斯福总统就打算尽速轰炸日本本土，对这场偷袭作一次小小的报复。
1942年1月的一天，美国海军舰队总司令金海军上将接受了他的作战参谋弗朗西斯·S·罗海军上校的建议，决计打破日本人的战略平衡，对日本发动一次范围广泛的空袭，首选目标就是东京。可是如何才能到达东京呢？日本在沿海配备有300海里作战的陆上基地部队，又经常在东京港外500海里的海域派有监视艇。而美国在浩瀚无际的太平洋上缺乏足以进袭日本本上的空军基地；况且，当时美国最大的轰炸机，其续航力也无法从夏威夷飞抵日本本土。最后，美军参谋总部想出一个大胆离奇的计划，决定由航空母舰运载续航力很大的“北美洲”B—25式陆军中型轰炸机作单程飞行，前往轰炸东京，然后飞抵中国机场降落。
3月初，陆军远程轰炸机队集中了24组机组人员在佛罗里达州埃格林机场进行训练。练习在500英尺的跑道上驾驶经过改装的B—25轰炸机起飞。他们的指挥官詹姆斯·杜立特中校是个出色的航空工程专家，他既是航空学家，又是一个几次打破飞行速度记录的勇敢的飞行员。1922年，他第一个以12小时的记录完成了横跨全美的飞行，荣获了美国国会荣誉勋章；并第一个完成了原认为不可能完成的外圈筋斗的困难动作，又第一次作到了黑夜着陆飞行。
4月1日，最后选定去执行这次任务的16个机组，在加利福尼亚州阿拉米达航空站登上航空母舰“大黄蜂”号。决定用13架飞机轰炸东京，每架投弹4枚。另外3架分别轰炸名古屋、大阪和神户。海军要把他们送到尽可能近的地方，然后从甲板上起飞。
4月2日，满载着B—25飞机的航空母舰“大黄蜂”号，在“维森斯”号重巡洋舰和“纳什维尔”号轻巡洋舰等6艘舰只的护卫下，穿过美国西海岸旧金山巍峨的金门大桥，劈开汹涌的太平洋波涛，向西疾驶。4月14日，在中途岛、阿留申群岛之间，与航空母舰“企业”号会合，航向日本。
最初的计划是，当编队驶抵距东京450海里的海域时，由杜立特中校第一个起飞，在飞赴东京途中，他以灯光和投放照明弹为其余飞机指示航向。其余15架飞机紧随杜立特飞行，对东京、横滨、名古屋等地进行空中轰炸。整个作战计划都是在夜间实施。当轰炸机飞离航空母舰后，为确保航空母舰的安全，美舰队迅速返航。B—25轰炸机起飞后不再返回航空母舰，完成轰炸后将在中国机场降落。
4月18日晨6时30分，在本州较远的海面上执行巡逻警戒任务的日本第23号“日东丸”渔船，在距东京720海里的警戒线上发现了美国的2艘航空母舰，并立即用电台向联合舰队报告了这一紧急情况。
最近几天，由于美军电报往来频繁，日本海军早就感到不安，并下令把海军航空部队集中到关东地区，以防万一。接到“日东丸”报急后，联合舰队司令部立即采取了应急措施。山本下令采取“对美作战第三号战术方法”，命令刚刚从南线回到本土的第2舰队司令长官近藤海军中将立即率领横须贺地区的所有水面部队出击。同时，高须四郎海军中将的第1战列舰战队的4艘战列舰也从广岛湾火速起航，支援近藤作战。在印度洋上作战后凯旋而归的、尚位于台湾南端巴上海峡的南云海军中将的机动部队，也被分派了战斗任务。
形势对美特混舰队越来越不利。美特混舰队司令官哈尔西将军是一员如同烈马一样的猛将。在第二次世界大战中，他的一句最有名的口号是
“飞行员上机！飞行员上机！”从扬声器里传出急促刺耳的声音。不一会，发动机的轰鸣声，怒海狂涛的撞击声与撕裂声，官兵的欢呼声汇合在一起，致使庞大的航空母舰也不停地抖动起来。后来一位生还的驾驶员回忆说
上午8时15分，杜立特第一个起飞。起飞相当困难，“大黄蜂”号在汹涌的狂涛里沉下去又升上来，就在航空母舰甲板抬起头来的一刹那，杜立特的座机迎着狂风，满载着两吨重的炸弹腾空而起。随后美机一架接一架地飞离航空母舰，分成几个编队，直奔日本本土而去。哈尔西的舰队则掉头向东撤去。
18日中午2时3O分，杜立特率领他的飞机到达目标上空。一场史无前例的空袭战开始了。杜立特回忆说
机组人员打开了机腹弹舱门，投弹指示灯红光闪烁，一枚枚225公斤重的炸弹呼啸着纷纷直坠而下，美机迅速地向预定目标超低空飞行，机翼几乎触及树梢。一位当年亲自参加过空袭东京的驾驶员回忆说
在东京上空，从第1枚炸弹投下去，一直到俯冲完毕为止，整个轰炸过程所用时间不超过30秒，美机几乎没有遇到日本战斗机和高射炮火的有效抵抗。当从幻梦中被炸弹惊醒的日本人组织反击时，美机已安然飞远了。
在海上，山本对东京发生的这一切还一无所知。此时他正忙着调动他那强大的海军舰只对付已发现的美特混舰队。在从印度洋返归途中的南云舰队的旗舰“赤城”号上，战斗机随时准备起飞。渊田美津雄中住在《中途岛海战》中写道，飞机“从东京附近的木更津航空基地起飞，向东飞到太平洋上规定航程的尽头，仍未能与敌接触。看来敌特混舰队知道自己已被发现，因此放弃攻击而撤走了。”
“但是，到13点整，‘赤城’号收到报告说东京被炸。紧接着又收到二个接着一个的报告，说横滨、川崎和横须贺也被轰炸。稍后不久，又有一连串的报告，说敌机还轰炸了更南面的名古屋、四日市、和歌山以及神户。敌人的攻击面这样广，给我们震动很大。我们南云部队简直不知怎样办才好。联合舰队司令部也同样不知所措。”
空袭后，杜立特机队从正南方撤走，然后向西飞往中国的南昌机场和丽水机场，由于燃料不足，部分美机在浙赣上空或沿海一带丢机跳伞或迫降。在飞抵东京上空的80名飞行员中，有1人在跳伞时殒命，2人失踪，8人被日军俘虏，其中3名被枪决，1人死于狱中，另4名战后得以生还。
空袭东京！这条新闻对开战以来一直沉醉于胜利中的日本人来说，无疑是一记当头棒喝。此后一连几天都惶恐不安，4月20日再度发布空袭警报。21日内阁举行会议，将负责日本本土防空的有关人员按军法处置，陆军省人员也有更动。尽管这次空袭本身给日本造成的损失并不大，甚至大本营发言人还借用杜立特的名字讥讽说
这次空袭敲了一下山本的傲气。他对天皇和皇族的安全忧心忡仲，进攻的劲头也小了下来。现在他比以往任何时候都更加坚持要在阿留申群岛和中途岛之间建立警戒线。5月2日，山本五十六在写给古贺峰一的信中写道
他的参谋三和义勇在4月20日的日记中这样归纳了山本的意图
不仅如此，原先反对山本五十六提议的攻击中途岛的计划而拒绝派遣部队的陆军参谋本部，由于这次空袭也改变初衷，转而支持海军毫不迟延地把防御圈向东推进到中途岛和阿留申群岛西部，愿意提供一支有力部队支援海军占领中途岛，那些曾经反对中途岛作战方案叫得最响亮的人，噤若寒蝉，反对意见顿时烟消云散。
4月22日，南云的航空母舰部队返回日本。经过长达3个月的远征，刚刚回到日本的南云舰队，已经很疲劳了，非常需要必要的休整。但山本没有时间给他们休整，南云和他的参谋马上被叫到“大和”号，向他们传达进击中途岛的作战计划，并要求他们尽快做好出发准备。
刚刚从南方战场归来的近藤信竹中将指挥的以“爱宕”等重巡洋舰所组成的第2舰队，也同样接受了进击中途岛的作战任务。他们很快就发现，出发的日期已经决定，邀他们来是听取指示而不是发表意见的。除了南云的参谋长草鹿龙之介少将等个别人对这项计划表示怀疑外，大