Но к этому времени для бомбардировщика Мицубиси наступили дни заката. Хотя самолет сохранил популярность в войсках за хорошую управляемость и простоту обслуживания, он уже не соответствовал задачам, которые перед ним встали в условиях начала наступления союзников на Тихом океане. Однако несмотря на снижение боевых качеств, ВВС продолжали использовать устаревший бомбардировщик, так как предполагавшийся ему на замену Ки-49 фирмы Накадзима оказался сложным в управлении и нес небольшую боевую нагрузку. Завод в Нагое продолжал выпуск Ки- 21-ИЬ до сентября 1944 г, когда со сборочной линии сошел 688-й самолет. Общий выпуск Ки-21 вместе с опытными и предсерийными машинами составил 2064 самолета. Только после запуска в серию бомбардировщика Ки-67 "Хирю" фирмы Мицубиси в начале 1944 г начался вывод Ки-21 из боевых частей. Первым было перевооружено 98-й сентай , однако 58-й сентай сохранил Ки-21 до конца войны.
Несмотря на прекращение использования Ки-21 в качестве бомбардировщика, самолет продолжал использоваться для тренировки экипажей, в качестве транспортного и самолета для специальных заданий. 3- ; "докурицу хикотаи" (специальное подразделение) использовало самолеты этого типа до конца войны.
Вполне возможно, что последняя боевая операция этого подразделения с использованием Ки-21 была проведена 24 мая 1945 г. Эта операция отражала то отчаянное положение, в котором находилась Япония в конце войны. Операция против соединения американских В- 29 на Окинаве была отчаянной и безнадежной. 9 Ки- 21-II без вооружения, с дюжиной специально подготовленных десантников каждый, вылетели с базы Южный Кюсу. Следуя на малой высоте, самолеты достигли района цели. Здесь они были перехвачены истребителями. Только один Ки-21, избежав истребителей, сумел совершить аварийную посадку на взлетной полосе аэродрома Ентан. Прежде чем американские морские пехотинцы сумели обезвредить десантников, те успели уничтожить семь В-29, два повредить и сжечь 2600 бочек с горючим и большое число боезапаса. Авиабаза была выведена из строя на 10 часов.
Операция 24 мая положила конец карьере самолета, который в течение нескольких лет служил символом японской агрессии на Дальнем Востоке. Бомбардировщик выпускался в течение почти восьми лет и участвовал почти во всех операциях армейских ВВС Японии. Ко времени его вступления в строй, в 1938 году это был выдающийся самолет. Но по мере того как война подкатывалась все ближе и ближе к Японским островам, он безнадежно старел. И все же, несмотря на свой бесславный конец, Ки-21 прослужил в японских ВВС дольше, чем любой другой самолет!