Именно здесь П. И. Ивашутин зарекомендовал себя как смелый и решительный руководитель. Когда оперативный состав ему докладывал о фактах массовой гибели наших солдат, одетых в серые шинели и становящихся для противника хорошими мишенями на снегу, он несколько раз информировал командование о необходимости белых маскхалатов. Но дело не двигалось. Когда на позиции прибыла делегация партийных работников во главе со Ждановым, он доложил об этом ее руководителю. На следующий день все бойцы были переодеты. И число погибших от финских снайперов резко снизилось…
Во время службы в должности заместителя Особого отдела НКВД Крымского фронта, который понес большие потери в конце 1941-го и начале 1942 года, Ивашутин доложил своему непосредственному руководству, что виной керченской трагедии были паникерское поведение уполномоченного Ставки ВГК Маршала Советского Союза Г. И. Кулика и волюнтаризм заместителя наркома обороны армейского комиссара 1-го ранга Л. З. Мехлиса, которые упорно убеждали И. В. Сталина, что все поставленные задачи они выполняли правильно. Но результат оказался трагичен — жертв было море. Когда Мехлис явился с докладом к Сталину, тот, не пожелав слушать его, сказал только одну фразу: «Будьте вы прокляты!» и вышел из кабинета.
В 1942 году П. И. Ивашутин назначается начальником Особого отдела НКВД Юго-Западного фронта (ЮЗФ) второго формирования (25.10.1942 — 20.10.1943), который участвовал в операциях «Уран» — контрнаступление под Сталинградом, Среднедонской, Острогожско-Россошанской, третьей битве за Харьков, Изюм-Барвенковской наступательной операции, Донбасской стратегической операции, Запорожской. Военный контрразведчик пользовался уважением у командующих фронтом генералов армии Н. Ф. Ватутина и Р. Я. Малиновского.
20 октября 1943 года ЮЗФ на основании приказа Ставки ВГК от 16 октября того же года был переименован в 3-й Украинский фронт (УФ), который участвовал в битве за Днепр, освобождении Днепропетровска и Днепродзержинска, в осуществлении Никопольско-Криворожской, Одесской, Ясско-Кишиневской, Белградской, Будапештской и Балатонской операций и освобождении Румынии и части Австрии со столицей Веной. С 15 мая 1944 по 15 июня 1945 года 3-м Украинским фронтом командовал Маршал Советского Союза Ф. И. Толбухин.
После Ясско-Кишиневской операции встал вопрос о разгроме одного из сателлитов Германии — Румынии. УКР фронта во главе с П. И. Ивашутиным и вместе с военными разведчиками разработали операцию по выведению Румынии из войны мирным путем. Интенсивно шли переговоры с румынским королем Михаем Первым.