В 1924 году его отозвали в Москву. Теперь его послали полпредом в Туву. После возвращения работал заместителем председателя треста Чаеуправления, а в мае 1925 года поехал в Париж советником полпредства. Полпредом был Христиан Георгиевич Раковский, бывший руководитель Украины, отправленный в дипломатическую ссылку за дружбу с Троцким. Осенью 1927 года его перевели полпредом в Персию (Иран).
«Длительное пребывание в Европе оставило на нем резкий отпечаток, выделивший его среди других крупных советских работников. Высокий, красивый брюнет с правильными чертами лица, корректно обращавшийся к окружающим, Давтян производил очень выгодное впечатление. В отличие от прежних послов Давтян имел еще то преимущество, что владел европейскими языками», – таким полпред в Иране Давтян запомнился Георгию Сергеевичу Агабекову, назначенному в 1927 году резидентом советской внешней разведки в Тегеран.
Агабеков стал первым советским разведчиком, бежавшим на Запад. Свои воспоминания он написал еще в 1930 году. Они вышли под названием «Секретный террор: записки разведчика». Летом 1937 года Атабеков, судя по всему, был ликвидирован недавними сослуживцами из летучей группы иностранного отдела, уничтожавшей перебежчиков.
У Якова Давтяна разведчик Агабеков обнаружил не одни только достоинства:
«Оборотная сторона его характера сводила на нет все его преимущества. Он был трусливым, нерешительным человеком, без всякой инициативы. Трудолюбие его ограничивалось исполнением без размышления всех директив Москвы. По самым незначительным вопросам он запрашивал разрешения Москвы».
В декабре 1929 года Давтяна вернули в Москву. Полгода проработал директором Ленинградского политехнического института, еще полгода – директором Ленинградского машиностроительного института, а в январе 1931 года его утвердили начальником сектора проверки исполнения ВСНХ ССР.
В 1932 году его послали полпредом в Грецию, а в апреле 1934-го перевели в Варшаву. Осенью 1937 года Якова Давтяна внезапно отозвали из Польши. 21 ноября арестовали. Его обвинили в работе на польскую разведку и в создании правотроцкистской организации в советском полпредстве в Варшаве, выжимали нужные следствию показания совершенно фантастического свойства.
30 апреля 1938 года нарком внутренних дел генеральный комиссар госбезопасности Николай Иванович Ежов отправил Сталину «сводку важнейших показаний арестованных Управлениями НКВД за 28-е апреля». В списке значится и Давтян, бывший полпред в Польше:
«Давтян дал дополнительные показания о том, что в 1937 году в Париже представитель Закавказской Федерации Пирумов Симон связал его с крупным нефтяником – английским подданным Гульбенкяном, который договорился с Давтяном о совместной работе под руководством англичан за отрыв Армении от СССР… Давтян будучи в Персии вел практическую контрреволюционную националистическую работу, имея связь с Местроном (представитель духовенства, английский разведчик) и английским консульством.»