В начале 1980-х годов в американской газете «GLOB &MAIL» прошел репортаж об дружеских отношениях между малоизвестным и новоиспеченным секретарем ЦК КПСС Михаилом Горбачевым и Александром Яковлевым. В те дни Горбачев совершал визит в Канаду (17–24 мая 1983 г.), и канадский журналист решил взять у него интервью. Договорился заранее, репортер явился к назначенному часу в советское посольство. Но его принял не Горбачев, а Яковлев. «Михаил Сергеевич отсыпается, мы всю ночь пробеседовали, — объяснил посол, — но если вас что-то интересует, то спрашивайте у меня — Горбачев подпишет, он мыслит так же, как и я».
В мае 1983 года Яковлев назначен директором ИМЭМО (Институт мировой экономики и международных отношений) вместо скоропостижно скончавшегося В. Иноземцева. С 1983-го по 1985 год Яковлев находится на должности директора ИМЭМО. Он направляет в ЦК КПСС записку о целесообразности создания в СССР предприятий с участием иностранного капитала, а в Госплан СССР — записку о надвигающемся экономическом кризисе и отставании СССР от развитых стран.
В 1985 году Яковлев стал зав. Отделом пропаганды ЦК КПСС. Он получает карт-бланш на работу со всеми советскими СМИ и начинает их «перестраивать на демократический лад». По его распоряжению назначались «политически лояльные к идеям «перестройки» редактора ведущих изданий — газет «Московские новости», «Советская культура», «Известия»; журналов «Огонек», «Знамя», «Новый мир».
Яковлев стоял у истоков организации «второго радиоканала ВГТРК» — радиостанции «Маяк», которая начала вещание в 1964 году. Также вносил свои изменения в сетку вещания и будучи уже идеологом перестройки. Организовал публикации в СССР произведений Набокова, Солженицына, Рыбакова, Приставкина, Дудин-цева, выход на экраны около 30 ранее запрещенных фильмов.
С марта 1990 года по январь 1991 года — член Президентского совета СССР. На следующий день после назначения на этот пост подал заявление о выходе из состава Политбюро и сложил с себя обязанности секретаря ЦК. После роспуска Президентского совета назначен советником по особым поручениям президента СССР. В конце сентября 1991 года был назначен членом Политического консультативного совета при президенте СССР Горбачеве.
После ликвидации СССР с января 1992 года занимал пост вице-президента Фонда социально-экономических и политологических исследований. В конце 1992 года назначен председателем Комиссии при президенте Российской Федерации по реабилитации жертв политических репрессий. В 1993–1995 годах также возглавлял Федеральную службу по телевидению и радиовещанию и Государственную телерадиокомпанию «Останкино». Умер 18 октября 2005 года. Похоронен в Москве.