Важным водоразделом в римской военной истории явилась Вторая Пуническая война. Основными последствиями с точки зрения военной организации стали значительный рост численности армии (в 218 г., в начале войны, Рим считал достаточным набрать шесть легионов и усиленные союзнические контингента — 24 000 римских пехотинцев, 1800 римских всадников, 40 000 союзнической пехоты, 4400 союзнической конницы; в 202 г., к ее концу, Рим выставлял 16 легионов, и это не было предельным напряжением его военных усилий, хотя и было огромным усилием для государства, насчитывавшего к концу войны 214 000 граждан призывного возраста), начало постоянных войн за пределами Италии (в итоге войны Рим получил владения в Испании, требовавшие постоянной военной защиты, и был втянут в греческие дела), определенная профессионализация армии в результате долгой службы во время продолжавшейся 16 лет войны. Выше уже говорилось, что именно к этому времени относят появление эшелонной тактики.
Однако уже ко времени Второй Пунической войны относятся первые признаки разложения вышеописанной системы набора. Дело прежде всего в исчезновении фактического значения набора возрастных контингентов в легионы. Если в «старослужащих легионах» даже гастаты были уже ветеранами многих походов, то в т.н. городских легионах, набиравшихся для защиты самого Рима, служили, вне зависимости от возраста, новобранцы, неспособные к участию в реальном сражении. Подвергается серьезному испытанию и система годичного командования. В ходе Второй Пунической и более поздних войн римлянам зачастую приходится или переизбирать одних и тех же людей консулами несколько лет подряд, или даже создавать экстраординарные командования.
Знаком большей роли полководцев и большей их связи с войском стало присвоение им войсками в случае победы почетного титула «император», обозначавшего претензию на триумф. Впервые этот титул принял Сципион Старший после взятия Нового Карфагена.
Новая система появилась в итоге реформ, которые провел веком позже знаменитый полководец Гай Марий, став в 107 г. консулом и командующим в Югуртинской войне. Позднее он получил возможность утвердить их благодаря тому, что избирался консулом в течение пяти лет подряд (104 — 100 гг. до н.э.). Ко времени Мария система набора, лежавшая в основе римского легиона, вовсе пришла в упадок. Второй век был временем тяжелого кризиса крестьянского землевладения в Риме и, несмотря на принимавшиеся меры по наделению землей (наиболее заметной попыткой исправить положение были реформы Гракхов), социальная база гражданского ополчения стремительно сокращалась. К тому же, по мнению некоторых исследователей