Ввиду неудачного хода военных действий на Востоке и опасности на Западе от авар Юстин отозвал Маркиана и назначил на его место другого вождя. На некоторое время затем военные действия перенесены были в Армению, где персы разрушили два города, Севастию и Мелитину, но потом, в свою очередь, потерпели поражение от Юстиниана, племянника одноименного императора. Но до назначения Маврикия, будущего императора, на место главнокомандующего на Востоке (577–578) персидская война тянулась с переменным успехом. Маврикий, прошедший хорошую военную школу и любивший военное дело, теорией которого он занимался специально[405], подготовил из своих земляков каппадокийцев надежный военный отряд и воспользовался им для войны с персами. Не ограничиваясь защитой пограничных областей, Маврикий перенес поле сражения на персидскую территорию и стал опустошать несчастную персидскую Армению. Успехи его были так значительны, что совершенно изменили взаимное положение враждующих сторон. Уведя из Армении множество пленных, Маврикий поселил их на острове Кипре. На историю дальнейшей войны огромное влияние имели военные реформы Маврикия и смерть Хосроя в 579 г.
Преемник Хосроя Ормисда IV прервал переговоры о мире, начатые Тиверием, и решился продолжать войну. Но византийские войска продолжали иметь перевес благодаря, с одной стороны, купленному дорогой ценой миру с аварами, позволившему сосредоточить на Востоке больше военных сил, а также благоразумным военным мерам Маврикия. В 581 г. он одержал над персами большую победу при Констанции в Месопотамии, имея на своей стороне сарацинского князя Мондира, который оказал ему важную услугу. Когда в следующем 582 г. Маврикий вступил на престол, командование на Востоке перешло к стратигу Иоанну Мистаку, который не имел ни искусства, ни счастия своего предшественника и потерпел от персов несколько поражений. На смену ему послан был Филиппик, женатый на сестре царя Гордии. В 586 г. персидское и византийское войска встретились в Восточной Месопотамии в долине Солах, где произошло решительное сражение, окончившееся поражением персов. Достойно замечания, что здесь в первый раз упоминается знамя с изображением Нерукотворного образа, с которым Филиппик обходил византийские войска. В этом деле принимал участие в качестве подчиненного Филиппику лица Ираклий, отец будущего императора.
После успешного дела при Солахе высшее руководство военными делами на персидской границе перешло к Ираклию, который с успехом делал набеги на города и селения в Южной Армении, имея главный опорный пункт в Амиде, т. к. с утратой Дары граница на Востоке изменилась в ущерб Византии. Когда весной 586 г. послан был на Восток новый военачальник в лице Приска, положение сторон еще более изменилось не в пользу империи. В византийском войске начался мятеж, раздались жалобы на неправильную выдачу продовольствия и уменьшение денежных выдач. Хотя Маврикий поспешил заменить непопулярного военачальника любимым между восточными войсками Филиппиком, но и это мало содействовало успокоению войска. В 588 и 589 гг. последовали две битвы при Мартирополе и Нисиби, окончившиеся поражением персидского войска. Но как, в конце концов, успех войны мало зависел от случайной победы или поражения одного отряда и как персы умели хорошо пользоваться близостью к своей территории и быстро пополняли запасы, видно из того, что вскоре после поражения, испытанного при Мартирополе, они осадили засевший в городе греческий гарнизон и снова овладели этим городом.