Прекрасно владевший несколькими иностранными языками, умный и ловкий, он неоднократно выполнял важные дипломатические поручения Петра I: вел переговоры с королями Дании и Пруссии, участвовал в ряде конгрессов, часто сопровождал царя в его заграничных поездках.
12 января 1722 года (до 1 марта 1918 года все даты указаны по старому стилю) — знаменательная дата в истории Российского государства. В этот день была учреждена прокуратура. В именном высочайшем указе Правительствующему сенату отмечалось: «Надлежит быть при Сенате Генерал-Прокурору и Обер-Прокурору, а также во всякой Коллегии по Прокурору, которые должны будут рапортовать Генерал-Прокурору». Спустя несколько дней были введены должности прокуроров и при надворных судах.
18 января император Петр I назначил Павла Ивановича Ягужинского первым генерал-прокурором Сената. Представляя его Сенаторам, Петр I сказал: «Вот око мое, коим я буду все видеть». Эта же мысль нашла свое отражение и в указе от 27 апреля 1722 года «О должности Генерал-прокурора»: «И понеже сей чин — яко око наше и стряпчий о делах государственных». Указ устанавливал основные обязанности и полномочия генерал-прокурора по надзору за Сенатом и руководству подчиненными органами прокуратуры.
По отзывам современников, Ягужинский был видный мужчина, с лицом неправильным, но выразительным и живым, со свободным обхождением, капризный и самолюбивый. Он был очень умен и деятелен. За один день Ягужинский делал столько, сколько другой не успевал и за неделю. Мысли свои выражал без лести перед самыми высокими сановниками и вельможами, порицал их смело и свободно. Талантливый и ловкий, он не робел ни перед кем. Не случайно светлейший князь Меншиков «от души ненавидел его».
Ближайшим помощником П. И. Ягужинского, обер-прокурором Сената, стал Григорий Григорьевич Скорняков-Писарев, выдвинувшийся из среды гвардейских офицеров.
Основное внимание в своей прокурорской деятельности Ягужинский сосредоточил на контроле за повседневной работой Сената, за правильностью и законностью разрешения дел, их своевременным прохождением, порядком в Сенате и т. п. Коллегиальные решения были еще чужды сознанию самолюбивых сановников, которые не привыкли считаться с чужим мнением и уважать его, поэтому в Сенатском собрании зачастую возникали ссоры, крики, брань, а иногда и драки. В связи с этим Ягужинский вынужден был даже написать особое «предложение» Сенату, в котором просил Сенаторов воздержаться от ссор и споров, «ибо прежде всего это неприлично для такого учреждения, как Сенат».