Но подобного рода указания были каплями в море разбушевавшегося в Советском Союзе террора. По сфабрикованным делам более сотни деятелей ИККИ были арестованы, преданы суду и уничтожены во второй половине 1930-х годов. Мы приведем лишь несколько наиболее известных имен жертв репрессий: В. Антонов-Овсеенко, Я. Берзин, М. Бородин, Н. Бухарин, X. Валецкий, А. Барский, Н. Ежов, Г. Зиновьев, Л. Каменев, Л. Карахан, Н. Крестинский, Б. Бун, Р. Меринг, П. Миф, А. Нин, Н. Осинский, М. Паукер, О. Пятницкий, К. Радек, X. Раковский, Я. Рудзутак, А. Рыков, Д. Рязанов, Г. Сокольников, М. Трилиссер (М. Москвин), И. Уншлихт, Л. Шацкин и многие другие.
В условиях массового террора в отношении видных работников Коминтерна значительно снизилась активность руководящих органов ИККИ. В связи с усиливавшейся проверкой кадров в годы репрессий против «врагов народа» расширил свою деятельность и численно вырос в 1936—1938 годах лишь Отдел кадров — с 30 до 64 человек.
В феврале 1936 года Секретариат ИККИ вменил Отделу кадров в обязанность «прекратить существующую до сих пор практику оставления на территории СССР лиц (имеются в виду иностранные граждане), подозреваемых в провокации и шпионаже, допуская исключение только в тех случаях, когда этого требуют соответствующие органы». Отделу кадров было предписано «разработать и провести ряд мер по возвращению в капиталистические страны всех лиц, не проявивших в прошлом необходимой большевистской стойкости и преданности партии, в первую очередь тех, кто заподозрен в шпионаже и провокации». Запрещалось оставлять в СССР «лиц, которые отсеялись по разным мотивам при наборе или выпуске международных школ». В то же время подлежали «возвращению в свои страны все лица, ранее учившиеся в международных школах и оставшиеся на территории СССР».
Массовые репрессии, развернувшиеся в СССР в эти годы, влияли на настроения коминтерновцев. Если раньше они искали в СССР убежище от преследований на родине, то теперь, видя складывающуюся в Советском Союзе ситуацию, некоторые из них дрогнули. В этой связи характерна судьба иностранных слушателей коммунистических школ (институтов, университетов) в 1936— 1938 годах. В письме Г. Димитрову от 23 апреля 1938 года и. о. директора НИИ по изучению национальных и колониальных проблем (НИИНКП) Ф. Котельников просил содействия в отправке студентов из института, так как «дальнейшее их пребывание становится нетерпимым». Речь шла о 36 слушателях из Индии, Вьетнама, Филиппин, Сирии, Палестины, Японии, которые настойчиво добивались только одного: чтобы их отправили домой. Димитров поручил М. Москвину «ускорить разрешение этого давнишнего вопроса». Поскольку «ускорение» не получалось, а положение усложнялось, Димитров обратился 19 января 1939 года с просьбой к К. Ворошилову «отправить в Китай 58 человек, …вопрос с органами (НКВД) согласован».