В 1925 году Аллахвердов был направлен в долгосрочную командировку в Персию (с 1935 года — Иран). До 1928 года являлся оперативным работником резидентуры под дипломатическим прикрытием секретаря советского консульства в Керманшахе. В 1928 году он возглавил резидентуру внешней разведки в Персии. В этой должности работал до середины 1930 года.
С 1930 по 1933 год работал в центральном аппарате разведки.
С приходом Гитлера к власти в Германии и обострением обстановки в этой стране руководство внешней разведки принимает решение о направлении Аллахвердова на нелегальную работу в Европу. В 1933–1934 годах он возглавлял нелегальные резидентуры в Австрии (Вена), Швейцарии (Цюрих) и Франции (Париж).
В середине 1934 года Аллахвердов назначается «легальным» резидентом внешней разведки в Афганистане, а в 1936 году — в Турции. С 1938 по 1941 год работал в центральном аппарате внешней разведки.
С началом Великой Отечественной войны Аллахвердов вновь становится резидентом внешней разведки в Афганистане. В этой должности он проработал до декабря 1943 года. Под его руководством резидентура советской внешней разведки в Кабуле раскрыла сеть германской агентуры и, в тесном взаимодействии с британской разведкой, парализовала деятельность германских, японских и итальянских спецслужб в этом регионе (операция «Мародеры» — так в оперативной переписке с Центром называлась агентурная сеть германской разведки, действовавшая в военные годы в Афганистане). В результате объединенных усилий советской и британской разведок удалось предотвратить подготавливаемый нацистами переворот и введение германских войск в Иран и Афганистан.
7 декабря 1943 года был подписан приказ о создании в составе Первого управления НКГБ (внешняя разведка) информационного отдела (ИНФО). Его возглавил Михаил Аллахвердов. Свидетельством признания роли ИНФО и заслуг его начальника было присвоение Аллахвердову в 1945 году редкого тогда для сотрудников внешней разведки воинского звания генерал-майор. Он возглавлял информационный отдел внешней разведки до конца 1947 года.
В ноябре 1947 года Аллахвердов был назначен заместителем начальника Высшей разведывательной школы по учебной и научной работе. В этой должности он проработал вплоть до своего ухода в отставку по болезни в апреле 1955 года.
Видный советский разведчик генерал-лейтенант Вадим Алексеевич Кирпиченко, который учился у Аллахвердова в Высшей разведывательной школе, в своих мемуарах писал: «Михаил Алексеевич был, если так можно выразиться, интеллектуалом от разведки».
За достигнутые результаты в разведывательной деятельности генерал-майор Аллахвердов был награжден орденами Ленина, Красного Знамени, Отечественной войны 1-й степени, «Знак Почета», многими медалями, а также нагрудным знаком «Заслуженный работник НКВД».