В 1791 году, после смерти Г. А. Потемкина-Таврического, А. Н. Самойлов по поручению Екатерины II некоторое время вел (до прибытия графа А. А. Безбородко) мирные переговоры с турками в Яссах. В конце января 1792 года именно он привез Екатерине II известие о заключении выгодного для России мира. За это императрица лично «возложила» на его грудь орден Св. Андрея Первозванного и пожаловала ему 30 тысяч рублей.
17 сентября 1792 года Екатерина II назначила А. Н. Самойлова на «короткое время» генерал-прокурором Сената вместо тяжело больного князя А. А. Вяземского, а затем (20 декабря) утвердила его в этой должности, поручив одновременно управлять казначейством и Ассигнационным банком. Самойлов занимал пост генерал-прокурора четыре года. Он пользовался благосклонностью императрицы, которая находила у него «равное усердие» с прежним генерал-прокурором. Однако к гражданским делам Самойлов привыкал с трудом. Ему гораздо легче было командовать войсками, вести солдат на штурм, нежели заниматься тягостной работой в Сенате. Многие высшие сановники недолюбливали его и поговаривали, что он вследствие некомпетентности «наделает много хлопот императрице». И они были недалеки от истины. Дела в Сенате обстояли не блестяще, хотя Самойлов и прилагал усилия к их исправлению. В результате, когда Самойлов покинул генерал-прокурорскую должность, в Сенате оказались целые «завалы» нерешенных дел, которые расчищали потом его преемники в течение нескольких лет. Деятельность Самойлова по осуществлению надзора за Сенатскими определениями протекала довольно бесцветно. В основном она заключалась в объявлении именных указов, решении конкретных дел и переписке с обер-прокурорами.
Более энергично он руководил местными прокурорскими органами, направляя прокурорам коллегий и губерний свои «ордера», требуя от них отчеты по самым разнообразным вопросам и «приложения всемерного старания» к наведению порядка. Генерал-прокурор внимательно следил, чтобы подчиненные ему прокуроры беспрекословно выполняли свои обязанности и своевременно информировали его о всех выявленных ими нарушениях закона. Особое внимание всегда уделялось соблюдению казенных интересов.
Генерал-прокурор А. Н. Самойлов постоянно докладывал императрице Екатерине II о количестве и характере дел, которые расследовались полицией и рассматривались суда ми. Для этого он истребовал соответствующие ведомости от нижестоящих прокуроров. Значительное внимание он уделял работе с прокурорскими кадрами. Все назначения, увольнения, перемещения прокуроров и стряпчих производились через него. Он предоставлял им отпуска, или, как тогда писали, «увольнения», обычно на 29 дней, а если требовалось лечение — то и на более длительный срок, представлял к награждению чинами и орденами, объявлял взыскания за нерадение и т. п.