Покинув Армению, Ганнибал вернулся в Анатолию и направился в Вифинию. Это царство находилось на северо-востоке Малой Азии, а его границы достигали Мраморного моря на азиатской стороне Босфора. Здесь правил Прусий I, воевавший с царем Пергама Эвменом за область, известную как Мисия. Она была передана Антиохом отцу Эвмена Атталу I и захвачена Прусием в 196 г. до н. э. Эвмен в тот момент был слишком занят участием в войне против селевкидского царства на стороне римлян и оказал слабое сопротивление правителю Вифинии. Но ко времени прибытия Ганнибала (примерно в 187–186 гг. до н. э.) конфликт между ними перерос в открытые военные действия.
Прусий считал пунийца ценным советником в этой войне. Баркиду же представилась еще одна возможность продолжить борьбу с римлянами и сдержать свою клятву. Несмотря на то, что он мог остаться в Армении и провести остаток жизни в относительном комфорте и безопасности, Ганнибал предпочел вернуться на запад ради войны с союзником Рима, что не могло не привлечь к нему внимание самих римлян. Преимущество в этом конфликте находилось на стороне Эвмена, чье царство было больше, обладало более обширными ресурсами и находилось в союзе с Римом. Прусий же был стеснен в средствах и людских ресурсах. Ганнибал стал у него военачальником и сразу же начал активно проявлять дипломатическую инициативу, заключая союзы с правителями других небольших государств Малой Азии, чтобы увеличить численность царского войска. После этого под предлогом войны с Эвменом пуниец приступил к обучению армии Прусия, но, вероятно, его настоящей целью было затеять в будущем новую кампанию против римлян. Хотя это и маловероятно, но, возможно, он даже рассматривал еще одно вторжение в Италию.
В то же время Прусий убедил Ганнибала принять на себя контроль над возведением нового города на границе с Мисией, из-за которой и разгорелся конфликт. Пуниец, по-видимому, взялся за проект, по крайней мере на начальной стадии, и в наши дни руины античной застройки можно обнаружить под турецким городом Бурса. Город, получивший название Пруса, достиг расцвета, став первой столицей Османской империи в 1326 г. Сам Прусий намеревался в итоге перенести сюда свою столицу из Никомедии.
Боевые действия между Эвменом и Прусием начались в 186 г. до н. э., и Ганнибал сыграл в этом конфликте заметную роль. В битве в Мраморном море в 184 г. до н. э.[185] флот Прусия численно уступал пергамскому, но Ганнибал был готов к этому. Он намеревался убить Эвмена в начале боя, после чего его солдаты потеряли бы желание продолжать сражаться и война в итоге завершилась бы в пользу Вифинии. Пуниец планировал вычислить корабль, на котором находился правитель Пергама, и бросить все свои силы на то, чтобы изолировать корабль и убить царя. Когда два флота выстроились друг напротив друга, Ганнибал выслал вперед лодку с гонцом, который нес жезл глашатая. Этот жезл, называвшийся кадуцей (