Вскоре пришли его проведать старые друзья — Зоя Рыбкина, Раиса Соболь, ставшая известной писательницей Ириной Гуро, Эйтингон. Пришли выразить свое уважение даже люди, с которыми он не был особенно близок: Ильин, Василевский, Семенов и Фитин. Они сразу предложили Судоплатову работу переводчика с немецкого, польского и украинского. Он подписал два договора с издательством «Детская литература» на перевод повестей с немецкого и украинского.
Через некоторое время Ильин, секретарь по организационным вопросам Московского отделения Союза писателей СССР, и Ирина Гуро помогли Судоплатову вступить в секцию переводчиков при Литфонде. После публикации своих переводов и трех книг Павел Анатольевич получил право на пенсию как литератор — 130 рублей в месяц. Это была самая высокая гражданская пенсия.
После месяца свободы Судоплатов перенес еще один инфаркт, но поправился, проведя два месяца в Институте кардиологии.
Литературная работа приобретала для Павла Анатольевича, печатавшегося под псевдонимом Анатолий Андреев, все большее значение, она позволяла бывшему арестанту адаптироваться в обществе. В соавторстве с Ириной Гуро он написал три книги, в том числе «Горизонты» — о Станиславе Косиоре, одном из лидеров довоенной Советской Украины, и «Конь мой бежит…» — о старом революционере Курнатовском. Книги эти выдержали несколько изданий. С учетом же переводных изданий Судоплатов выпустил 14 книг.
Но старого чекиста ни на миг не покидала мысль о защите своего имени. С середины 1970-х годов он возобновил ходатайства о реабилитации. При этом активно использовал справку, подготовленную в недрах Комитета государственной безопасности при Совете министров СССР и направленную председателем КГБ Александром Шелепиным в Комитет партийного контроля, в которой, в частности, отмечалось, что Комитет государственной безопасности «не располагает никакими компрометирующими материалами против Судоплатова и Эйтингона, свидетельствующими о том, что они были причастны к преступлениям, совершенным группой Берии». Но на пути положительного решения вопросов о реабилитации всегда оказывался идеолог партии Михаил Суслов.
Для торжества справедливости Павлу Анатольевичу понадобилось более двадцати лет.
В сентябре 1988 года скончалась Эмма Карловна. Для Судоплатова это была большая трагедия. Но и ради памяти о своей жене, которая долгие годы посвятила борьбе за его реабилитацию, он продолжал бороться.
Только после августовских событий 1991 года и распада СССР, незадолго до ухода в отставку, главный военный прокурор прекратил дела Судоплатова и Эйтингона и заявил: «Если бы я не реабилитировал вас, архивные материалы показали бы, что я еще один соучастник сокрытия правды о тайных пружинах борьбы за власть в Кремле в 1930—1950-х годах».