В марте 1954 года пленум ЦК КПСС принял развернутое решение о путях улучшения деятельности органов госбезопасности, кардинальной перестройке их работы, искоренении применявшихся ранее незаконных методов, об опоре на общественность, о подконтрольности государственным и партийным органам. Тогда же решением правительства был образован Комитет государственной безопасности при Совете Министров СССР. Внешняя разведка вошла в его состав как Первое главное управление (ПГУ КГБ при СМ СССР).
Важное для разведки значение имело решение ЦК КПСС от 30 июня 1954 года «О мерах по усилению разведывательной работы органов государственной безопасности за границей». Было предложено сосредоточить усилия на организации разведки в главных странах Запада — США и Англии, а также на «используемых ими для борьбы против Советского Союза странах, в первую очередь Западной Германии, Франции, Австрии, Турции, Иране, Пакистане и Японии». Таков в то время был перечень приоритетов, определенных руководством страны.
Совет Министров утвердил Положение о Первом главном управлении КГБ, которое закрепляло его право на ведение разведывательной деятельности за рубежом, определяло структуру внешней разведки, ее функции, задачи, штатный состав. Соответствующим ведомствам было вменено в обязанность выделить должности прикрытия как за границей, так и внутри СССР, оказывать содействие, строго соблюдать требования конспирации.
Принятые в 1954 году нормативные документы долгие годы служили основной правовой базой работы внешней разведки.
В июне 1955 года исполняющим обязанности начальника советской внешней разведки был назначен Александр Михайлович Сахаровский. В мае 1956 года он был утвержден в должности руководителя разведки и проработал на этом посту более 15 лет.
Природный ум Александра Михайловича и его талант разведчика, способности крупного руководителя и организатора, умение видеть главное, правильно расставить кадры способствовали успешному решению важнейших разведывательных задач. Именно при Сахаровском получили активное развитие такие линии разведки, как контрразведывательная, научно-техническая, нелегальная. Он уделял много внимания подготовке кадров разведчиков, организации научно-исследовательской работы в ПГУ.
Сахаровский хорошо знал лично многих сотрудников разведки, их способности и возможности, был внимателен к подчиненным, не подавлял их высотой своего положения, а побуждал к работе мысли, инициативе.
В критических случаях А. М. Сахаровский делал все возможное, чтобы вернуть на родину попавших в беду боевых товарищей. Достаточно вспомнить Вильяма Фишера (Р. И. Абеля), Конона Молодого (Лонсдейла), а также ставших впоследствии Героями России супругов Морриса и Леонтину Коэн (Питера и Хелен Крогер).