Теперь Ганнибалу стало легче создавать союз, направленный против Рима. Через год после победы при Каннах он договаривается с Филиппом V, царем Македонии, о том, что македонские войска вторгнуться в Италию. Заключен союз с Сиракузами, часть греческих городов на Сицилии тоже переходит на сторону Ганнибала.
Над Римом нависает угроза гибели.
Риму предстояло пасть или мобилизоваться.
Римляне прекращают внутренние распри и начинают собирать новую армию. Дело доходит до того, что у хозяев выкупают восемь тысяч молодых рабов, которые захотели сражаться. Ливий полагал, что дешевле было бы выкупить пленных у Ганнибала. Но когда в Риме появляется делегация плененных карфагенянами воинов, чтобы договориться о выкупе, к ним относятся с презрением и отказываются от выкупа. При всей жесткости и даже жестокости этого решения римлян можно понять — моральный дух пленных был сломлен, их возвращение могло склонить граждан к капитуляции.
Предстояло воевать на нескольких фронтах, и римляне сознательно идут на риск, в то время как Ганнибал безнаказанно перемещался по Италии. В 215 года до P. X. одно римское войско идет в Иберию, отсекая сухопутные коммуникации, другое — на Сицилию, укрепить позиции, чтобы у Ганнибала не появились морские линии снабжения. Третье войско должно было беспокоить Ганнибала, но ни в коем случае не вступать в большое сражение.
Весы истории опять пришли в движение, ситуация перестала быть столь однозначной, как, возможно, это казалось Ганнибалу. Он одержал еще несколько побед: в Апулии в 214 до P. X. разбил войско Фульвия, при Канузии в 212 до P. X. — Марцелла, захватил Тарент. Да и в Иберии дела у римлян шли неважно.
Но в 211 году до P. X. ситуация начала меняться. Римляне вернули себе Капую, которая почти пять лет была основной базой Ганнибала в Италии. Пытаясь отвлечь римлян от осады Капуи, Ганнибал двинулся на Рим, но вскоре понял, что завязнет в осаде, и отказался от этой авантюры. Капуя между тем пала.
Чтобы улучшить положение дел в Иберии, была набрана новая армия. Ее возглавил сын Корнелия Сципиона. Молодой военачальник действовал решительно, и в 209 году захватил Новый Карфаген. А Фабий, приучивший Ганнибала к тому, что он воспринимал его лишь как беспокоящую по мелочам помеху, внезапным броском отвоевывает Тарент, стратегически важный портовый город.
А тут и союзники, видя неуклонное давление римлян на противника, начали сомневаться в победоносности карфагенского оружия и стали возвращаться под руку Рима. Ганнибалу становилось все труднее и труднее пополнять силы, а войско Гасдрубала Барки, его брата, идущее к нему на подмогу из Иберии, было перехвачено и разбито.