В 1935–1939 годы учился в Военно-инженерной академии РККА им. Куйбышева. С 4-го курса был определен в органы госбезопасности. И все же он сдал выпускные экзамены и получил диплом военного инженера.
В феврале 1939 года в звании майора РККА его после краткосрочных курсов направляют в органы военной контрразведки начальником Особого отдела НКВД Орловского ВО. С августа 1940-го — начальник Особого отдела ГУГБ НКВД СССР, а с февраля 1941-го после реорганизации НКВД — начальник 3-го управления Наркомата обороны (НКО) СССР.
С 17 июля 1941 года — начальник Особого отдела НКВД Юго-Западного фронта. В ходе тщательного изучения жизни и деятельности руководителя военной контрразведки СССР, а потом начальника Особого отдела НКВД Юго-Западного фронта комиссара ГБ 3-го ранга А. Н. Михеева автором написана книга «С Лубянки на фронт».
Михеев пришел в органы ГБ в знаковом для многих чекистов 1939 году, когда Лубянка очищалась от ежовщины и ей нужны были новые более подготовленные, в том числе из армейской среды, кадры.
Находясь на должности начальника Особого отдела НКВД Киевского особого военного округа с сентября 1939-го по август 1940 года, когда Вторая мировая война полыхала в Европе, Михеев столкнулся с активизацией гитлеровских прихвостней — радикальных украинских националистов в лице бандеровцев. Они люто ненавидели Советскую Россию и всячески ломали нарождавшиеся ростки новой жизни, зато рьяно поддерживали «новый порядок», устанавливаемый нацистами Третьего рейха. Их агентура по заданию абвера и других немецких спецслужб не только проводила разведывательную работу против советских военных гарнизонов, но и совершала диверсионно-террористические акты, особенно на территориях Западной Украины.
Части и подразделения 5-й и 6-й армий соответственно генералов М. П. Потапова и И. Н. Музыченко подвергались чаще яростным нападкам со стороны оуновских бандитских формирований. Михеев часто выезжал в особые отделы этих армий, встречался с оперативным составом, помогал руководству армий при планировании и проведении оперативных мероприятий в ходе борьбы с немецкой агентурой.
У него установились деловые и личные отношения с командующим КОВО генералом армии С. К. Тимошенко. Они продолжились во время нахождения Михеева в Москве, когда Семен Константинович стал наркомом обороны и получил звание Маршала Советского Союза.
Михеев был одним из первых среди руководителей военной контрразведки фронтов, который организовал зафронтовую работу, направляя разведгруппы за линию фронта для сбора данных о противнике. Командующий ЮЗФ генерал- полковник М. П. Кирпонос всегда давал высокую оценку этой работе руководителя армейских чекистов фронта.