Окончив аспирантуру и защитив докторскую диссертацию, был переведен на должность инженера в аппарат уполномоченного Наркомхимпрома СССР при «Амторге». По линии внешней разведки являлся заместителем руководителя нью-йоркской резидентуры.
В США приобрел ряд новых источников информации, добытые им документальные материалы по проблемам физики, химии, бактериологии неизменно высоко оценивались Центром и повлияли на создание в СССР новых конструкторских бюро и экспериментальных заводов.
В 1938 году возглавил нью-йоркскую резидентуру, однако продолжал активную работу «в поле». В 1940 году за плодотворную работу по линии научно-технической разведки награжден нагрудным знаком «Заслуженный работник НКВД».
К сожалению, американская контрразведка смогла зафиксировать одну из встреч Овакимяна с агентом, которого перевербовала и использовала для захвата разведчика «с поличным». 5 мая 1941 года Овакимян был арестован на встрече с агентом, заключен в тюрьму, а затем выпущен под залог до суда без права выезда из страны. Надеяться разведчику было не на что, дипломатическим иммунитетом он не пользовался. Лишь после нападения Германии на Советский Союз Овакимяну по личному указанию президента США Рузвельта было разрешено выехать на родину.
В сентябре 1941 года Овакимян возвратился в Москву и возглавил один из отделов центрального аппарата внешней разведки.
Через два года, когда значительно увеличился поступавший в Центр поток разведывательной информации по атомной проблематике, был назначен первым заместителем начальника внешней разведки, отвечавшим за разработку дела «Энормоз». Ему принадлежит важная роль в организации получения атомных секретов США и Великобритании и создании ядерного оружия в СССР.
В 1945 году присвоено звание генерал-майора.
В 1947 году при реорганизации разведки, связанной с созданием Комитета информации при СМ СССР, Овакимяну в результате бюрократических проволочек долгое время не могли подобрать соответствующую должность. Утомленный и раздраженный волокитой, он подал рапорт об отставке. После шестнадцати лет работы в разведке 49-летний генерал-майор Овакимян был вычеркнут из ее списков.
Так закончилась карьера замечательного советского разведчика.
Узнав о положении доктора химических наук Овакимяна, министр химической промышленности СССР М. Г. Первухин, который близко познакомился с ним в период создания советского атомного оружия, немедленно предложил отставному разведчику должность директора научно-исследовательского института — того самого НИИ, который в предвоенные годы оценивал разведданные, добываемые им в Германии и США.