В 540 г. Велизарий был отозван Юстинианом под предлогом необходимости отразить угрозу со стороны персов. Однако основным мотивом для отзыва Велизария явилась зависть и боязнь Юстиниана, до которого дошли слухи, что остготы обратились к Велизарию с предложением заключить мир и решили признать его императором Запада.
В то время как Велизарий возвращался домой, Хосров, новый царь Персии, повторно совершил марш через пустыню и захватил Антиохию. Опустошив Антиохию и другие сирийские города, он, приняв предложенную Юстинианом большую ежегодную дань, согласился на заключение нового мирного договора. Однако, как только Хосров возвратился в Персию, а Велизарий вернулся в Константинополь, Юстиниан разорвал этот договор.
В ходе следующей кампании Хосров вторгся в Колхиду, расположенную на побережье Черного моря, и захватил византийскую крепость Петра. К этому моменту Велизарий прибыл на восточную границу империи. Узнав, что Хосров находится в какой-то далекой экспедиции, но неизвестно, где именно, Велизарий воспользовался этим и неожиданно вторгся в персидские владения. В целях расширения военных действий он направил своих арабских союзников в рейд по р. Тигр в Ассирию. Этот удачно выбранный момент для удара подтвердил ценность непрямых действий, ибо они поставили под угрозу снабжение персидской армии, вторгшейся и Колхиду, и вынудили Хосрова поспешно возвратиться обратно.
Вскоре после этого Велизарий был отозван в Константинополь. На этот раз его отозвали в связи с затруднениями во внутренних делах империи. За время отсутствия Велизария на Востоке персидский царь вторгся в Палестину, желая захватить Иерусалим, который в то время был самым богатым городом Востока. Получив такие данные, Юстиниан направил на помощь Палестине Велизария. На этот раз Хосров имел армию в 200 тыс. человек и поэтому не мог направить ее через пустыню. Хосрову пришлось совершить марш вдоль берегов Евфрата в Сирию, прежде чем повернуть на юг, к Палестине. Зная о том, каким маршрутом будет следовать Хосров, Велизарий сосредоточил все свои наличные силы, правда не столь многочисленные, но зато более подвижные, в Каршемише, расположенном в верхнем течении Евфрата. Отсюда войска Велизария могли наилучшим образом угрожать флангу наступавших войск противника, используя излучину реки к югу. Когда разведка донесла Хосрову о сосредоточении войск Велизария, он направил к Велизарию посла как бы с целью обсудить возможные условия мира. Однако истинной целью Хосрова было разведать численность и состояние войск Велизария, которые в действительности по численности были в десять, возможно даже в двадцать, раз меньше персидской армии.