Аресты среди ленинградских востоковедов начались с весны 1937 г. Одним из параметров, влиявших на вероятность ареста, оказывалась изучаемая страна. Япония считалась (как выяснилось, справедливо) вероятным противником в войне, поэтому в обстановке всеобщей шпиономании всех японистов стали подозревать в «шпионаже в пользу Японии», а поскольку Япония начала тогда войну в Китае, то же стали приписывать и китаистам. Именно за «шпионаж в пользу Японии» осудили на смерть Е. Д. Поливанова, арестованного в Киргизии. Погиб и совсем уже пожилой Д. М. Позднеев. А в Институте востоковедения (тогда в Ленинграде) к лету 1938 г. не осталось ни одного япониста, а среди китаистов уцелел только В. М. Алексеев. Пострадали и сотрудники, связанные с Монголией, видимо, в связи с массовыми репрессиями в МНР, а ближневосточная часть института почти вся сохранилась.
Первым арестовали ученика Конрада Д. П. Жукова (не путать с более известным однофамильцем Е. М. Жуковым), одного из немногих тогда востоковедов-коммунистов (именно за дружбу с ним погиб и известный поэт Н. М. Олейников). 3 октября пришли за Н. А. Невским, вернувшимся в Ленинград в 1929 г. благодаря уговорам Конрада (подробнее см. очерк «Колоссальный продуктор»). В итоге из одиннадцати переводчиков хрестоматии «Восток» арестовали семерых (из четверых оставшихся один жил в эмиграции), трое погибли. Среди избежавших ареста оказалась Н. И. Фельдман.
Конрада арестовали последним из всех 29 июля 1938 г. Поздняя дата, вероятно, спасла ему жизнь: сотрудники Института востоковедения, арестованные в 1937 г., пошли под расстрел, а пострадавшие в 1938 г. либо были довольно скоро освобождены (Е. М. Колпакчи, А. Е. Глускина), либо оказались в лагерях. Николай Иосифович более года находился под следствием в Ленинграде, а в конце 1939 г. осужден на пять лет и отправлен в лагерь около города Канска (Красноярский край). В эшелоне, а затем в самом лагере он и встретился с Н. И. Воротынцевым. Тот вспоминал, что заключенные, еще не зная, кто их спутник, окрестили его «профессором». Политические жалели «профессора», защищали его от уголовников, а во время тяжелых работ Воротынцев (звеньевой) вспоминал фразу Наполеона в передаче Е. В. Тарле «Ослов и ученых в середину!» и ставил профессора в середину группы рабочих, где было полегче. Потом ему нашли физически не трудную, но ответственную работу: очищать пешней от снега и мусора железнодорожную стрелку. Лежа на нарах, член-корреспондент (как позже выяснилось, этого звания его не лишили) говорил: «Эта работа мне внутренне импонирует. Во-первых, я один. Никто не мешает поразмышлять. К тому же не слышно блатного жаргона. А во-вторых, и это главное, я с пешней, эмблемой трудового процесса, направленного на расчистку путей».