Отличные летные характеристики второго опытного самолета привлекли к себе внимание японской армии, которая заказала его под обозначением Ки-18. Армейский самолет отличался от флотского только отсутствием авианосного оборудования. В Тачикаве самолет испытывался армейскими пилотами. Ки-18 показал скорость на 45 км/ч больше, чем состоящий тогда на вооружении истребительных частей биплан Кавасаки Ки-10-I, но моноплан Мицубиси проигрывал последнему в учебных воздушных боях. В результате воздушный штаб армии заказал самолет, сочетающий высокие скоростные характеристики Ки-18 с маневренностыо Ки-10. По этому заданию Мицубиси выпустила два опытных Ки-33 - вариант Ки-18 с закрытой фонарем кабиной и двигателем Накадзимы Ха-1а. Но во время конкурсных испытаний Ки-33 проиграл самолету Накадзимы Ки-27.
К счастью для Мицубиси флотские пилоты не делали такой ставки на маневренность истребителя, и в начале 1937 г А5М1 стали поступать в строевые подразделения. Ко времени начала войны в Китае в июле 1937 г А5М1 был заменен на сборочной линии на "модель 2-1" (А5М2а) с двигателем Накадзима "Котобуки"-2 КАИ-ЗА. Первоначально в Китае в основном использовались устаревшие истребители-бипланы Накадзима A2N1 и A4N1, потери среди которых быстро достигли угрожающего уровня, но с появлением в районе Шанхая 12-го и 13-го кокутаев с А5М2 японцы сумели захватить превосходство в воздухе. Истребитель также использовался в различных испытательных программах, например, для проверки сбрасываемого топливного бака для Мицубиси А6М2, а также 20-мм пушек "Эрликон" FF.
С расширением боевых действий в Китае резко ускорилась разработка новых вариантов истребителя - в серию был запущен А5М2Ь "модель 2-2" с двигателем "Котобуки"-3 мощностью 640 л.с. и трехлопастным винтом. Для улучшения обзора вперед был установлен капот NACA. Были также мелкие доработки с учетом боевого опыта. Несмотря на преимущества закрытого фонаря кабины, он был снят на следущей модели А5М2Ь, так как пилотам флота он не понравился (заходя на посадку на авианосец, пилоты часто выглядывали за борт кабины вперед, определяя правильность глиссады, поэтому на самолетах с закрытым фонарем последний практически оставался открытым). На фронте эти три варианта истребителя достигли такого успеха, что китайцы были вынуждены вывести свою авиацию за пределы радиуса действия "типа 96". Это заставило организовать аэродромы подскока между Шанхаем и Нанкином, где А5М2 дозаправлялись. Благодаря хорошей подготовке пилотов и слетанности, А5М2 были способны эффективно вести воздушный бой против более скоростных истребителей Поликарпова И-16, используемых китайцами. В то же время, несмотря на переоблегченную конструкцию, самолет был способен выдерживать серьезные боевые повреждения. Так, пилот Касимура привел на аэродром свой А5М2 после того, как треть его левой консоли была отрублена во время тарана китайским И-16. Японца таранил советский пилот Андрей Губенко, который также успешно вернулся на свой аэродром и позже был награжден Золотым орденом Китайской республики.