В 1826 г. он был назначен генерал–адъютантом и направлен на Кавказ «содействовать» А. П. Ермолову, которому царь не очень доверял в связи с делом декабристов. В начавшейся войне с Персией 7 тыс. русских войск под Елисаветполем разбили 35-тысячную армию наследного принца Абасса — Мирзы. По случаю первой победы в царствование Николая I И. Ф. Паскевич был произведен в генералы от инфантерии. Сменив Ермолова в управлении Кавказом и командовании войсками, И. Ф. Паскевич продолжил борьбу с Персией, и в 1827 г. его армия двинулась в трудный поход в Эриванское ханство, подвластное Персии. Эривань была взята после падения крепости Сардар — Абад в результате энергичных осадных действий русских войск. Были захвачены богатые трофеи. «За отличное мужество, твердость и искусство, оказанные генерал–адъютантом И. Ф. Паскевичем при покорении Сардар — Абада и важном завоевании крепости Эривани» ему был пожалован орден Св. Георгия 2‑й степени. Он получил также в награду 1 млн. руб., на которые отстроил впоследствии роскошное имение в Гомеле с прекрасным парком.
После покорения Эривани И. Ф. Паскевичем был взят Тебриз, и он был готов к наступлению на персидскую столицу. Тегеран согласился на мир и по Туркманчайскому миру, подписанному в феврале 1828 г., Россия получила Эриванское и Нахичеванское ханства и право держать военный флаг на Каспийском море. В связи с успешным завершением войны главнокомандующий русской армией на Кавказе был удостоен титула графа с наименованием «Эриванский».
Русско–турецкая война 1828–1829 гг. велась на двух театрах: кавказском и дунайском. И. Ф. Паскевичу пришлось решать две задачи — прикрывать 500-километровую государственную границу на Кавказе и одновременно организовывать военные действия. И. Ф. Паскевич решил нанести удар по сильнейшей турецкой крепости Каре. В июне 1828 г. русская армия подошла к Карсу и приступила к активным осадным действиям. Главнокомандующий послал коменданту крепости ультиматум: «Пощада невинным, смерть непокорным, час времени на размышление». Гарнизон сложил оружие. За этим с бою были взяты крепости Ахалкалаки и Ахалцих. В полевом бою у Каинлы турецкая армия под командованием Гакка–паши была разбита. Когда в июне 1829 г. И. Ф. Паскевич подошел к Эрзуруму, гарнизон сдался без боя на милость победителя. Паскевич был удостоен ордена Св. Георгия 1‑й степени, став полным кавалером этого ордена — единственный из выпускников Пажеского корпуса. За победы в Закавказье И. Ф. Паскевич был произведен в генерал–фельдмаршалы. Поражение Турции на обоих театрах войны (и на Балканах — победы фельдмаршала Дибича) привели к заключению Турцией Адрианопольского мира.