К середине 1941 г: на «Зеро» полностью перевооружили 12-й и частично 14-й авиаотряды, а также подразделения на всех крупных авианосцах новой постройки. Старые А5М постепенно начали передавать в подразделения ПВО береговых баз и учебные части.
К началу боевых действий на Тихом океане в декабре 1941 г. в строю имелось 193 А5М, из них 144 в частях второй линии. Ими располагали подразделения, обеспечивавшие прикрытие с воздуха военно-морских баз в Сасэбо, Омуре, Оминато и Такао, особая авиагруппа флота, предназначенная для участия во вторжении в Малайю и эскадрильи, размещавшиеся на легких авианосцах «Хосе» (11 А5М), «Рюйхо» (22), «Дзуйхо» (16). «Сехо» в это время никаких самолетов не нес. Американская разведка присвоила А5М4 кодовое имя «Клод».
Истребители с «Рюйхо», входившего в 4-ю дивизию авианосцев контр-адмирала Какудзи, поддерживали высадку одного из десантов на Филиппинах – в районе Давао на острове Минданао, куда не могли «дотянуться» А6М, дислоцированные на Тайване. Затем этот авианосец принял участие в боевых операциях в Голландской Ост-Индии (ныне Индонезии). В феврале-марте 1942 г. «Рюйхо» действовал на коммуникациях англо-американцев в Бенгальском заливе.
Мицубиси А5М2а из 13-го авиаотряда в период операций в Китае
Смена поколений. На смену А5М приходят А6М, Филиппины
Мицубиси А5М2Ь с полностью закрытой кабиной (фонарь показан в открытом положении) из авиаотряда Хякурихара
А5М4 из 12-го авиаотряда
Еще один А5М4 из авиаотряда Хякурихара
В начале войны Япония захватила огромную территорию. Созданные на ней базы необходимо было обеспечить прикрытием с воздуха. Но современной техники не хватало, и поспешно сформированные подразделения ПВО стали комплектовать старьем. А5М получили новые подразделения в составе 4-го авиаотряда в Рабауле (на острове Новая Британия), 1-го и 6-го на Маршалловых островах (их разместили на Луоти, Талоа и Палау). А5М довольно активно использовались на фронте до апреля 1942 г., после чего практически полностью были вытеснены «Зеро». Но отдельные машины сохранялись в ПВО и позже, например, на острове Буин они применялись и в сентябре 1943 г.
Подразделения, размещавшиеся на базах в Японии, считались тыловыми и использовались в основном для учебных целей. Патрулирование воздушного пространства они вели больше для проформы. Когда в апреле 1942 г. бомбардировщики из группы Дулиттла выходили на свои цели в районе Токио, в воздухе находились три А5М4 из авиаотряда Касумигаура. Американские самолеты они даже не заметили.
А5М участвовали в знаменитом сражении в Коралловом море. 7 мая 1942 г. два А5М и четыре А6М поднялись с палубы «Сехо», чтобы защитить его от ударов пикировщиков и торпедоносцев американского авианосного соединения. Им удалось сбить три машины противника, но это не спасло «Сехо», который затонул, пораженный семью торпедами и тринадцатью бомбами. На это ушло всего 20 минут. После боя садиться истребителям было уже некуда – под ними простирались лишь волны. Один А5М4 дотянул до ближайшего островка, второму пришлось садиться в открытом море.