Ганнибал больше никогда не ступит на землю Карфагена. Его приняли при дворе Антиоха в Эфесе с большим почетом как друга и советника, но, похоже, держали на расстоянии, пока Антиох пытался решить проблемы с римлянами мирным путем. Ливий сообщает, что в 194 году до н. э. Ганнибал убеждал Антиоха дать ему 100 кораблей, 10 тысяч воинов и 1000 всадников; с ними он высадится в Африке и убедит карфагенян выступать на стороне Антиоха в войне против Рима. Ганнибал отправил в Карфаген своего друга Аристона, который должен был войти в контакт со сторонниками Баркидов, но римлянам стало известно о его приезде, и план Ганнибала провалился. План, прямо скажем, недостойный Ганнибала как тактика и стратега. Очевидно. Антиох подумал так же, и мы не слышим, чтобы Ганнибал давал какие-то советы Антиоху до середины зимы 192 года до н. э. На этот раз Ганнибал предложил Антиоху сосредоточить все силы в Эпире и вторгнуться в Италию. Правитель опять пренебрег его советом.
В 192 году до н. э. Антиох объявил войну Риму. В январе 189 года до н. э. Антиох и его армия потерпели поражение в битве при Магнесии. Вся роль Ганнибала в войне свелась к роли командующего наскоро собранной флотилией, которая должна была обеспечивать позиции Антиоха в Восточном Средиземноморье. Летом 190 года до н. э. он потерпел поражение от родосцев в битве при Сиде у берегов Памфилии. Среди условий мирного договора было требование о выдаче Ганнибала. Ему ничего не оставалось, как бежать. В течение следующих шести лет он был в бегах.
Покинув Эфес, Ганнибал в течение нескольких месяцев жил в Гортине на Крите. Затем объявился при дворе Артаксия (Арташеса), царя Армении, для которого, говорят, основал город Артаксату, новую столицу. В 187 году до н. э. Ганнибал прибыл в Вифинию, ко двору царя Прусия. Прусий назначил его командующим флотом в непродолжительной войне с пергамским царем Евменом.
Но Прусий оказался вероломным хозяином. Он бросил Антиоха в критический момент во время войны с Римом, а теперь предал Ганнибала. В конце 183 года до н. э. Рим отправил к Прусию известного римского полководца Тита Квинкция Фламинина для улаживания проблем с Пергамом. Нам неизвестно, потребовал ли Фламинин, чтобы ему был выдан Ганнибал, или Прусий, желая снискать расположение римлян, сам предложил выдать Ганнибала. Как бы то ни было, но Ганнибал понял, что его предали. Ему удалось сбежать и найти убежище вблизи Либиссы (современная деревня Гебзе в Турции), где его нашли царские воины. Поняв, что попал в ловушку, Ганнибал принял яд, который постоянно носил с собой (яд, вероятно, был в кольце). Ганнибалу было шестьдесят четыре года.