А у византийцев дела под Нисибисом совсем разладились. Юстин, разочарованный нерешительными действиями Маркиана, отстранил его от командования. Однако это вызвало открытое недовольство среди солдат и офицеров.
Раздоры в войске происходили на фоне сведений о приближении персов, и в этой ситуации было сочтено за лучшее осаду свернуть.
Вскоре византийцы были и сами осаждены в Даре объединенной персидской армией. Несмотря на мощные укрепления и сильный гарнизон, Дару персы взяли. Потрясенный этим, Юстин назначил себе в соправители командира императорской гвардии Тиберия, так как был не в силах более единолично нести тяготы управления государством.
Положение Византии было очень печальным — по сути, рухнул весь ее восточный фронт. В новом, 574 году Хосров двинулся в Каппадокию. Навстречу ему выступила армия во главе с Юстинианом, племянником покойного императора. Внезапной атакой он смял левый фланг персов и отбросил основные силы Хосрова. Впрочем, довершить разгром не удалось, так как византийские воины вместо того, чтобы добить противника, бросились грабить обоз, где находились царские сокровища. Воспользовавшись передышкой, Хосров сумел перегруппировать свои войска. Ночью персы зажгли в своем лагере костры, создав у противника иллюзию своей неподвижности, а сами атаковали ромейский лагерь, в котором беспечные византийцы уже готовились праздновать свой успех. Победа была безоговорочной. Сразу после нее Хосров занял стоявший неподалеку город Мелитену, а затем двинулся назад отягощенный добычей. Но он явно недооценил Юстиниана. Тот сумел за короткое время сплотить свою разбитую армию и атаковал персов во время их переправы через Евфрат. Атака была неожиданной, и персы понесли тяжелые потери. Сам Хосров с трудом спасся, переплыв реку на спине слона. Развивая успех, византийцы также переправились через реку, заняли ряд населенных пунктов, где их войско провело зиму 574–575 годов.
В 575 году было заключено перемирие на год, в ходе которого обе стороны наращивали силы, готовясь к продолжению борьбы. В 576 году персы снова вторглись на византийскую территорию в районе Дары, но не сумели добиться решающего успеха. В итоге между державами был подписан договор, по которому боевые действия в Месопотамии прекратились. Однако это вовсе не означало окончание войны — она просто переместилась в Закавказье.
В 576–578 годах борьба велась с переменным успехом, пока персы не совершили неожиданный рейд в Месопотамию, где у ромеев в тот момент не было войск. В ответ на это византийцы во главе с Маврикием совершили набег на персидскую территорию.