В 1933 году Иосиф Григулевич эмигрировал во Францию, где поступил на учебу в Высшую школу социальных наук при Сорбоннском университете. Одновременно он начал работать во французском отделении Международной организации помощи борцам революции (филиал Коминтерна). Вероятно, именно там он прошел первичную подготовку в одной из нелегальных коминтерновских спецшкол.
В 1934 году Григулевич командируется Коминтерном в Аргентину (Буэнос-Айрес) для работы по линии МОПР; там он пробыл до сентября 1936 года. За это время Мигель – его подпольный псевдоним – сумел заложить основы нелегальной инфраструктуры и создать костяк будущей боевой группы. Прикрытием для него являлась организационная работа в Компартии Аргентины по линии «Красной помощи».
Осенью 1936 года Григулевич был направлен в Испанию; там он служит адъютантом по международным поручениям, у комиссара 5-го полка В. Видали. Затем становится адъютантом генерала В. Рохаса в штабе Мадридского фронта. Вскоре, по ходатайству посла Розенберга, Григулевич поступает на службу в советское посольство. Именно там он попадает в поле зрения резидента НКВД Орлова (Фельдбина) и его заместителя Котова (Эйтингона) и не колеблясь становится агентом советской разведки. Мы не располагаем достоверными данными, однако ряд косвенных признаков позволяет предположить, что одновременно Григулевич стал секретным сотрудником группы Серебрянского.
В Испании под руководством Орлова Григулевич участвовал в подавлении Барселонского мятежа и ликвидации ряда активистов Рабочей партии марксистского единства (ПОУМ), в том числе и Андреса Нина. В одной из служебных характеристик Григулевича говорится, что он «проявил себя как смелый и находчивый боевик в операциях по ликвидации агентуры „пятой колонны“ в Испании»[257].
В конце 1937 года Иосиф Григулевич был вызван в Москву, где на одной из загородных спецдач прошел дополнительный курс специальной подготовки под руководством Сергея Шпигельглаза. В это время уже работало несколько спецшкол Серебрянского, поэтому нельзя исключить, что Серебрянский был одним из кураторов подготовки молодого разведчика.
В апреле 1938 года Фелипе (новый псевдоним Григулевича) вместе с Э. Санчесом (Марио) были направлены в Мексику с целью ликвидации Л. Троцкого. В конце 1939 года Григулевича вызвали в Москву для отчета о ходе операции.
В феврале 1940 года он возвратился в Мексику и 24 мая 1940 года принял участие в нападении на виллу Троцкого.
В июле 1940 года Григулевич был назначен резидентом в Южной Америке. Он выехал из Мексики в США и в декабре появился в Аргентине. Перед ним стояла цель создания агентурной сети в Бразилии, Аргентине, Уругвае и Чили, а также формирования диверсионных групп в Аргентине для действиях на судах Германии. Эта сеть фактически была копией знаменитой «Лиги Волльвебера».