В октябре 1931 года Александр Сахаровский был призван в РККА и стал красноармейцем 13-й отдельной местной стрелковой роты в городе Ленинграде, а в мае 1932 года — переведен во 2-й полк связи. Здесь, в полку, он становится секретарем бюро ВЛКСМ. Коммунист Сахаровский теперь должен был быть не только образцовым исполнителем своих прямых служебных обязанностей, но и нести непосредственную ответственность за политическую подготовку молодых воинов, за воспитание надежных защитников Страны Советов. И в этой обстановке у него проявились такие качества, как удивительная простота, чуткость и отзывчивость, прямота и искренность, умение расположить к себе молодежь. Об этих его качествах неоднократно вспоминали знавшие Александра Михайловича коллеги, с которыми ему пришлось работать позже и на более ответственных участках.
Однако работа комсомольского вожака не только требовала полной самоотдачи, но и учила умению видеть и выделять главное, нацеливать коллектив на выполнение боевых задач.
В период военной службы Сахаровскому довелось во второй раз привлечь внимание Кирова, который присутствовал на окружном армейском совещании командиров и партийнокомсомольского актива.
«Я выступал тогда, — вспоминал А.М. Сахаровский,—по вопросу о “захолустных” частях. Захолустными они назывались потому, что находились как бы на отшибе, обеспечивая охрану различных объектов в области, и им не всегда уделялось должное внимание. Помню, когда я закончил выступление, Киров, обращаясь к сидевшему рядом с ним в президиуме начальнику политуправления округа Славину, сказал: “Надо прислушаться. Вопрос поставлен правильно”. Эта короткая реплика меня тогда очень ободрила».
В начале 1930-х годов партия резко повысила требования к руководящему составу Красной Армии. В постановлении ЦК ВКП(б) от 5 июля 1931 года «О командном и политическом составе РККА» подчеркивалось: «Выросший политически и культурно красноармеец требует более квалифицированного политического руководства. Это ставит перед политработниками и командирами задачу решительного повышения своих политических знаний, умения четко политически руководить красноармейскими массами».
Выполняя решения партии, политработники РККА пошли учиться. Среди них был и Сахаровский, который стал слушателем вечернего отделения ленинградской Военнополитической академии имени Толмачева (позднее — имени В.И. Ленина). Итак — вечерний комвуз, как тогда это называлось. Сохранилась одна из немногих фотографий довоенного периода жизни Александра Михайловича (большинство пропало в блокаду): двадцатидвухлетний Александр Сахаровский за рабочим столом. На столе папка с газетами, книги, бумаги... Александр в форме красноармейца (секретарям комсомольских бюро подразделений не присваивали в то время званий) выглядит, пожалуй, старше своих лет. А может быть, фотограф застал его во время глубоких раздумий, и это наложило свой отпечаток на образ, запечатленный на фотографии. А подумать было над чем.