为了夺取这场大规模海上决战的胜利，日联合舰队几乎倾巢出动，将其投入的兵力主要编为5个战术编队：
（1）先遗编队——辖有潜艇18艘、轻巡洋舰1艘和潜艇供应舰2艘，由第G舰队司令官小松海军中将指挥。各潜艇皆须出发，1艘去中途岛侦察敌情，6艘去北太平洋配合对阿留申西部要地的进攻，11艘负责在中途岛与夏威夷群岛之间建立两条警戒线，以便当美太平洋舰队出动时以及时向指挥部报告。
（2）登陆编队——辖有战列舰2艘、轻型航空母舰1艘、水上飞机母舰2艘、重巡洋舰8艘、轻巡洋舰2艘、驱逐舰21艘、补给船10艘、运输船13艘，以及扫雷艇、猎潜艇、护卫艇等各若干艘，由第2舰队司令官近藤海军中将指挥。其中的登陆输送队负责遣送5800名地面部队于登陆日清晨在中途岛实施突击上陆，海上支援队进至中途岛附近准备粉碎美舰队的反击。
（3）机动编队——辖有航空母舰4艘、战列舰2艘、重巡洋舰2艘、轻巡洋舰1艘、驱逐舰12艘、补给船8艘，由第1航空舰队司令官南运河海军中将指挥。在登陆天于中途岛实施突击上陆的前3日，即在登陆编队进入中途岛美机巡逻半径之前，由机动编队以舰载机袭击中途岛，歼灭其航空兵力，使之不能出击。尔后，进至中途岛以北海域，进一步压制岛上的航空兵，猛烈攻击岛上的防御设施，以支援登陆部队的上陆战斗；同时，还要做好进行空战的准备，以防止敌航母特混编队进行反击。
（4）主力编队——辖有战列舰7艘，轻型航空母舰1艘、水上飞机母舰2艘、轻巡洋舰3艘、驱逐舰21艘、补给船3艘，由联合舰队司令长官山本海军大将直接指挥。登陆部队开始上陆时，这支主力编队应进至中途岛西北约600海里水域。山本的如算盘是：待美太平洋舰队获悉中途岛遭到攻击时必来支援，这时主力编队已进至中途岛附近，便可捕捉敌人，实施决战，并将其歼灭。
（5）北方编队——辖有航空母舰2艘、水上飞机母舰1艘、巡洋舰5艘、驱逐舰14艘、潜艇6艘及其他的舰艇若干，其任务是攻占阿留申群岛西部要地和牵制、迷惑敌人。