(Царев О. Роковые иллюзии. Из архивов КГБ: дело Орлова, сталинского мастера шпионажа / О. Царев, Дж. Костелло / М., 2011. С. 36—37).
Летом 1926 года Орлов получил первое назначение на работу за границей. Резидент в Париже, он работал под именем Льва Николаева и под прикрытием должности сотрудника советского торгпредства во Франции.
В январе 1928 года Александра Орлова направили в Берлин в качестве сотрудника резидентуры Иностранного отдела (ИНО) ОГПУ СССР под именем Л. Фельделя и под прикрытием должности торгового советника полпредства СССР, которое являлось тогда главной европейской базой растущего аппарата советской внешней разведки.
В 1929 году его главным подчиненным в тайных операциях по закупке военных материалов был Павел Аллилуев, назначение которого на эту должность было санкционировано наркомом обороны СССР Климентом Ворошиловым. Мало кто тогда знал, что это был брат второй жены Сталина — Надежды Аллилуевой.
Решение Сталина направить своего шурина на работу под началом Орлова свидетельствовало о том, что он придавал большое значение тайному сотрудничеству, которое открывало советским вооруженным силам доступ к германской технологии производства вооружений.
В 1930 году А. Орлов был отозван в СССР и назначен начальником 7-го отдела ИНО ОГПУ.
В сентябре 1932 года с документами на имя Льва Леонидовича Николаева и под прикрытием должности представителя треста «Льноэкспорт» он прибыл немецким лайнером «Еuropa» в Нью-Йорк. Под этим же именем Орлов записался слушателем годичного курса английского языка в колумбийском университете. Во время пребывания в США он сумел приобрести подлинный американский паспорт на имя William Goldin. 30 ноября 1932 года Орлов выехал из Нью-Йорка на лайнере «Bremen».
Весной 1933 года с документами на имя У. Голдина он был командирован в Париж, где возглавил нелегальную группу «Экспресс», которой была поручена агентурная разработка 2-го бюро (военная разведка) Генерального штаба Франции. В рамках этой миссии в декабре 1933 года Орлов выезжал в Рим. Весной 1934 года он был опознан в Париже бывшим сотрудником торгпредства СССР и в мае 1934 года отозван в Москву.
В июле 1934-го — октябре 1935 года Александр Орлов являлся резидентом-нелегалом в Лондоне, где работал под прикрытием должности представителя «American Refrigerator Compani», кодового имени «Швед» и документов на имя У. Голдина. Он контролироал деятельность завербованного агентом А. Дейчем («Ланг») Кима Филби («Сынок»).
В 1935-м ему было присвоено звание майора госбезопасности, приравненное в 1945 году к рангу полковника.