Стиль руководства А.М. Сахаровского отличался размеренностью, конкретным подходом к решению принципиальных вопросов, деловитостью и ровным тоном начальника по отношению к подчиненным. Возможно, иногда и у него вырывалось крепкое словцо, но это отнюдь не свидетельствовало о том, что он хочет разрядиться на подчиненных. А это вело к тому, что все неприятности, выслушиваемые Сахаровским в верхах, он глушил в себе. И, конечно, напряженная работа и подобные нюансы в коридорах власти изнашивали нервную систему, отражались и на сердце. В результате Александр Михайлович в последние годы иногда выходил из строя и оказывался на больничной койке.
После И.А. Серова непосредственным руководителем А.М. Сахаровского с декабря 1958 по ноябрь 1961 года был Александр Николаевич Шелепин.
Считается, что быстрая политическая карьера Шелепина началась с должности секретаря Московского горкома ВЛКСМ по военной работе. С началом Великой Отечественной войны он занимался подбором комсомольцев для заброски в тыл немцев. В числе отобранных Шелепиным комсомольцев оказалась и Зоя Космодемьянская, которая стала символом партизанской борьбы молодежи против фашистских оккупантов. На это обратили внимание и Сталин, и первый секретарь ЦК ВЛКСМ Михайлов. Уже в конце 1941 года Шелепин становится первым секретарем Московского комитета комсомола, а в 1952 году — первым секретарем ЦК ВЛКСМ.
Эту должность он занимал шесть лет, старательно формируя свою команду для дальнейшего броска наверх. Хрущев назначил его в апреле 1958 года заведующим отделом партийных органов ЦК КПСС. Подготовленная им записка о перестройке органов государственной безопасности способствовала тому, что на состоявшемся в декабре 1958 года заседании Президиума ЦК КПСС было принято постановление об освобождении Серова от занимаемой должности и назначении председателем КГБ Шелепина.
Став председателем КГБ, Шелепин привел с собой преданных ему комсомольских работников, которых назначил на руководящие должности. Он увольнял из органов тех, чья квалификация (а ее он определял по наличию какого-либо базового образования) не соответствовала, по его мнению, занимаемой должности.
Считается, что Шелепин большое значение придавал внешней разведке. Так, по его указанию в ЛГУ был образован африканский отдел, а чуть позднее — специальный отдел для координации работы разведки и контрразведки в области электронной разведки.
В действительности, как об этом вспоминают ветераны КГБ и внешней разведки, особой любви к Шелепину они не испытывали. Приведя с собой достаточно большой отряд руководящих комсомольских работников, он тем самым выразил недоверие и неуважение к коллективу, которым должен был руководить. Не зная положения дел на местах, он начал передавать служебные помещения, санатории и дома отдыха КГБ другим организациям, хотя в комнатах, где работали сотрудники не было не только лишних столов, но и стульев. А мечтой простого оперативного работника была возможность провести свой летний отпуск в хорошем санатории на юге.