В связи с тем, что для подготовки и тренировок личного состава отряда не было возможности и смысла создавать новую базу, группу «А» передали в Седьмое управление КГБ СССР, где имелись соответствующие для этого условия. При создании группы «А» руководство КГБ СССР стремилось создать такую мощную базу для развития отряда, чтобы она не уступала как минимум главной базе GSG-9 под Бонном, на которой были созданы все необходимые условия для тренировок отряда. Помимо разработки своих программ, руководство также использовало некие наработки аналогичных кубинских служб безопасности.
Первые операции: На протяжении первых двух лет существования группы она несколько раз поднималась по тревоге: ей приходилось разгонять демонстрации студентов у посольств Эфиопии и Того, которые требовали повышения стипендий — оперативники после первых попыток переговоров затем сами входили в посольства и выводили протестующих, рассаживая их по автобусам. В 1976 году в Москве услуги «Альфы» понадобились при освобождении посла Гайаны, взятого в заложники группой студентов-соотечественников. Ещё два сотрудника в 1976–1977 годах несли службу в Ливане, обеспечивая личную безопасность советского посла, резидента КГБ и членов семей дипломатов. Первая серьёзная операция с участием группы «А» состоялась 18 декабря 1976 года, когда в Цюрих по указанию Ю. В. Андропова вылетел самолёт Ту-134, доставивший диссидента В. К. Буковского с матерью, сестрой и тяжело больным племянником. На борту находились четыре сотрудника группы «А» — заместитель командира группы «А» майор Р. П. Ивон и его подчинённые Н. В. Берлев, Д. А. Леденёв и С. Г. Коломеец По воспоминаниям Берлева, Буковский утверждал, что сопровождавшие его силовики обращались с ним вежливо.
В 1977 году численность группы была расширена с 30 до 56 человек, когда её командиром стал Г. Н. Зайцев. С июля по август 1978 года совместно с боевыми пловцами Черноморского флота ВМФ СССР оперативники группы «А» обеспечивали безопасность подводной части теплоходов «Грузия» и «Леонид Собинов», зафрахтованных для размещения на них делегатов XI Всемирного фестиваля молодёжи и студентов, который проходил в Гаване. Командир группы «А» Г. Н. Зайцев был ответственным за эту операцию. Однако, помимо этого, сотрудники группы «А» занимались также операциями по обезвреживанию угонщиков самолётов: в 1978 году было совершено минимум шесть попыток угона самолётов, в том числе один в Грозном (пассажир Махаев ранил бортмеханика, по приземлению в Махачкале застрелился) и один с посадкой в Пярну (некто Афонин, требовавший вылета в Швецию, был задержан оперативниками группы «А»), в 1979 году имели место попытки угона в Симферополе (учащийся Вяншас угрожал взрывом), Анадыре и Новокузнецке (оба угонщика были убиты).