«Владимир Александрович удивил меня своей памятью, — писал Шебаршин. — Услышав название документа, попавшего к нему несколько месяцев назад, он немедленно открыл сейф и из толстенной пачки бумаг сразу же достал именно то, что требовалось. Мне показалось, что я имею дело с человеком в какой-то степени необыкновенным».
Кабинет Крючкова на третьем этаже находился прямо напротив председательского, приемная у них была общая. Владимир Александрович всегда был под рукой, готовый дать справку, напомнить, выполнить любое указание, проследить за движением бумаг, старательный, надежный, услужливый и безотказный исполнитель.
Через четыре года, летом 1971 года, Андропов неожиданно для многих перевел Крючкова в разведку — первым заместителем начальника Первого Главного управления.
Крючкову переход на большую самостоятельную работу с завидными перспективами дался трудно. Он вспоминал, как ему было «не по себе от мысли, что работать придется на некотором удалении» от Андропова. К тому времени они трудились вместе семнадцать лет. Крючков боготворил начальника, знал наизусть его стихи. Он привык к роли первого помощника, а тут предстояло самому принимать решения. Но Владимир Александрович нашел выход. Его сотрудники быстро заметили, что он по каждой мелочи советовался с Андроповым. Крючков по характеру, образу мышления и поведения так и остался помощником. Крючков пробыл первым заместителем начальника разведки три года — столько ему понадобилось для того, чтобы освоиться и разобраться в новом деле.
30 декабря 1974 года генеральный секретарь ЦК КПСС Леонид Ильич Брежнев принял Андропова вместе с Крючковым. Это были смотрины. Андропов внес в ЦК предложение назначить Владимира Александровича начальником Первого Главного управления и одновременно заместителем председателя КГБ.
На этом посту Крючкову не хватало не столько профессионального опыта, сколько глубины понимания происходящего в мире. Да и по натуре он не был лидером. В роли доверенного помощника Андропова Владимир Александрович был на месте. А без указаний своего наставника грамотный и работящий «номер два» терялся.
Крючкова всегда считали бледной тенью Андропова. Серая мышь, исполнительный помощник, гений канцелярии — в особой атмосфере тайной полиции Крючков чувствовал себя, как рыба в воде. Умение выполнять приказы сделало Крючкова необходимым сначала Андропову, затем его наследникам.
На пост председателя КГБ, как утверждают, Крючкова рекомендовал академик Яковлев, которому изменила его обычная проницательность. Крючков искал путь к Горбачеву. Александр Николаевич вспоминал, как «Крючков напористо полез ко мне в друзья, буквально подлизывался ко мне, постоянно звонил, зазывал в сауну, всячески изображал из себя реформатора».