Весной 1923 г. Наума вызывают в Москву и назначают сначала уполномоченным, а затем заместителем начальника отделения Восточного отдела ОГПУ. Через 2 года Эйтингон заканчивает восточный факультет Военной академии РККА. Тогда же его назначают в иностранный отдел ОГПУ, а через некоторое время отправляют в Китай служить Советскому Союзу в качестве резидента внешней разведки.
С 1926 г., занимая для вида должность вице-консула, он возглавил резидентуру в Пекине, а со следующего года — ив Харбине. Результатом работы на китайском направлении можно считать освобождение нескольких советских военных советников, которых захватили в Маньчжурии местные националисты, воспрепятствование захвату советского консульства в Шанхае агентами Чан-кай-ши.
Весной 1929 г. Эйтингона направляют в Турцию, чтобы мобилизировать агентурную сеть на получение разведданных в австрийском, японском, французском посольствах Константинополя. Он заменяет Я. Блюмкина, отозванного из-за контактов с Л. Троцким.
Когда Наум возвратился в Москву, его повысили до заместителя начальника Особой группы при председателе ОГПУ. По роду деятельности он часто бывал за границей, например в американском штате Калифорния, где занимался созданием глубоко законспирированной резидентуры, а также во Франции и Бельгии.
В 1936 г. в Испании шла гражданская война, и Наум под именем Леонида Котова посетил Мадрид, чтобы помочь в подготовке органов госбезопасности страны, в руководстве партизанскими операциями республиканцев, в налаживании разведывательной и контрразведывательной работы. На завершающем этапе войны он следил за отправкой в советскую столицу испанского золота, оценивавшегося в более чем 500 млн долларов.
На тот момент испанской резидентурой НКВД руководил А. Орлов. Он же возглавлял операции по устранению троцкистов и являлся советником по безопасности у республиканцев. В июле 1938 г. Орлов сбежал во Францию, прихватив с собой кассу резидентуры. Когда в войне наступил переломный момент, главным резидентом стал Эйтингон.
Осенью 1938 г. приверженцы генерала Франко с помощью немецких военных частей захватили Барселону. Интересно, что с ними в город вошел военный корреспондент британской газеты «Таймс» Ким Филби, знаменитый член «Кембриджской пятерки». Поскольку предыдущего резидента уже не было, то Эйтингон принял его на связь через Г. Берджеса. Сохранение «Кембриджской пятерки» — одна из заслуг Наума. Вместе с тем в Испании он приобрел бесценный опыт руководства партизанским движением и организации разведывательно-диверсионной работы. Эти знания ему пригодились буквально в ближайшие годы на фронтах сражений с нацистами.