С 1923 года — полпред СССР в Англии, в 1925-1927 годах — во Франции, одновременно с 1923 года — заместитель наркома иностранных дел СССР. В 1927 году исключен из партии XV съездом ВКП(б) как один из участников троцкистской оппозиции. С 1928 года — в ссылке. С 1934 года — начальник управления средних медицинских учебных заведений Наркомата здравоохранения РСФСР. В 1935 году был восстановлен в партии и стал председателем советского общества Красного Креста. В январе 1937года арестован, признал себя виновным в участии в различных заговорах, а также в том, что «был английским и японским шпионом». Приговорен в 1938 году к 20 годам тюремного заключения. После начала Великой Отечественной войны, 8 сентября 1941 года, заочно приговорен Военной коллегией Верховного суда СССР к смертной казни и расстрелян.
Раковский в ходе следствия заявил в НКВД, что хочет дать важные показания по вопросам, касающимся международной политики. Ему пошли навстречу, и 26 января 1938 года его допросил Гавриил Гавриилович Кузьмин, который фигурировал в протоколе допроса как Габриэль. Разговор шел на французском языке, и его текст в переводе на русский язык был оперативно доложен Сталину.
Личность Габриэля не менее интересна, чем самого Раковского. Историк Арсен Мартиросян утверждает со ссылкой на друга своего отца — в прошлом многолетнего сотрудника аппарата Сталина (его исследователь называет в своих книгах Константином Мефодиевичем), что Кузьмин — он же Рене Дюваль — принадлежал к неизвестной до сих пор спецслужбе, подчинявшейся лично Сталину. Вопрос о достоверности существования такой закрытой структуры — отдельная тема, которая в наши дни всплывает все чаще и чаще...
Почему Раковского допрашивали на французском языке? Дело в том, что он, хотя и входил долгое время в состав советского руководства, русский язык знал плохо. Поэтому допрос мог на самом деле вестись на французском языке.
К переводу протокола допроса на русский язык был привлечен фармацевт НКВД Иосиф Ландовский, свободно владевший французским. Он присутствовал на допросе, и, помимо прочего, его задачей было добавлять в напиток Раковского легкий наркотик, чтобы сделать его более разговорчивым и следить за самочувствием допрашиваемого. Ландовский, по бытующей версии, якобы сделал для себя третий экземпляр протокола допроса. Зимой 1942 года Ландовский погиб под Ленинградом, а его дневник вместе с копией протокола попал в руки некоего «испанского добровольца». Тот каким-то образом сумел сохранить бесценный документ, а уже после войны, вернувшись на родину, опубликовал его в Барселоне в середине 1950-х годов отдельной книгой под названием «Красная симфония». В 1968 году книга вышла на русском языке в Аргентине.