Армия Велизария мало чем напоминала классическую армию, состоявшую из легионов. Она больше походила на средневековую армию, однако была значительно совершеннее. Солдат времен Цезаря не узнал бы в ней римскую армию, хотя солдат, находившийся в Африке под командованием Сципиона, возможно, нашел бы тенденцию ее развития менее удивительной. В период от Сципиона до Цезаря, когда сам Рим превращался из города-государства в империю, армия превратилась из милиции с коротким сроком службы в профессиональную армию с длительным сроком службы. Однако конница не заняла главного места в структуре армии, чего можно было ожидать после сражения при Заме. Пехота продолжала оставаться основным родом войск в армии Римской империи, а конница (хотя лошади стали намного лучше) - вспомогательным родом войск, каким она была на первых этапах войны с Ганнибалом. По мере того как оборона границ империи требовала увеличения подвижности войск, количество конных воинов постепенно увеличивалось. Однако только в 378 г. н.э., когда легионы были разгромлены конницей в сражении под Адрианополем, римские армии подверглись реорганизации в соответствии с полученным уроком. Последующие поколения ударились в другую крайность. При Феодосии конница была увеличена за счет усиленного рекрутирования всадников из среды варварских племен. Позднее соотношение между пехотой и конницей при их рекрутировании было несколько выравнено. Ко времени Юстиниана и Велизария основной род войск составляла тяжелая конница, воины которой были вооружены луком и пикой и закованы в латы. Толчком к этому, очевидно, послужило стремление сочетать в одном вымуштрованном воине подвижную огневую и ударную мощь. Эти качества соответственно были присущи в отдельности конным лучникам в войсках гуннов и персов и готским кавалеристам, вооруженным пикой. Эта тяжелая конница дополнялась легкой, укомплектованной лучниками. В таком сочетании они по структуре и тактическому применению являлись прообразом современных легких и тяжелых (или средних) танков. Пехота также делилась па два типа: легкую и тяжелую, но последняя с ее тяжелыми копьями и плотными боевыми порядками использовалась только в качестве надежной опоры, вокруг которой конница могла маневрировать в бою.
В начале VI в. Восточная Римская империя оказалась в опасном положении. Ее войска потерпели несколько крупных поражений на персидской границе, и поэтому ее общее положение в Малой Азии оказалось неустойчивым. На некоторое время давление персов уменьшилось вследствие вторжения в Персию гуннов с севера, но приблизительно в 525 г. война па границе возобновилась, хотя боевые действия носили довольно несистематический характер. Именно здесь Велизарий впервые отличился. Он провел несколько удачных кавалерийских рейдов в Персидскую Армению, а позднее нанес смелый контрудар персам, захватившим пограничный замок. Контраст между его действиями и неудачными действиями других полководцев побудил Юстиниана назначить Велизария главнокомандующим всех сил на Востоке, когда ему еще не было и 30 лет.