После встречи с Берией Судоплатов получил краткосрочный отпуск, чтобы навестить мать, проживавшую в Мелитополе, и родителей жены в Харькове. Предполагалось, что, возвратившись в Москву, он получит должность помощника начальника Иностранного отдела.
Во время поездки жена рассказала Судоплатову о трагических событиях, которые происходили как в самой стране, так и в органах безопасности. В частности, о том, что жертвами репрессий стали многие их друзья, которым они полностью доверяли и в преданности которых не сомневались.
Возвратившись в Москву, Судоплатов узнал от Пассова и Шпигельглаза, что вопрос о назначении его на должность помощника начальника внешней разведки решен. Но назначение подлежало еще утверждению ЦК партии, поскольку речь шла о руководящей должности. И хотя приказа о его новой должности не последовало, с августа по ноябрь 1938 года Судоплатов фактически исполнял обязанности помощника начальника внешней разведки.
Во второй половине 1938 года атмосфера на Лубянке была буквально пронизана страхом, в ней чувствовалось что-то зловещее. Вспоминая об этом, Судоплатов писал: «Шпигельглаз, заместитель начальника закордонной разведки НКВД, с каждым днем становился все угрюмее. Он оставил привычку проводить воскресные дни со мной и другими друзьями по службе. В сентябре Ильицкий, секретарь Ежова, тогдашнего главы НКВД, застрелился в лодке, катаясь по Москве-реке. Это для нас явилось полной неожиданностью. Вскоре появилось озадачившее всех распоряжение, говорящее: ордера на арест без подписи Берии, первого заместителя Ежова, недействительны… На Лубянке люди казались сдержанными и уклонялись от любых разговоров. В НКВД работала специальная проверочная комиссия из ЦК».
2 ноября 1938 года в четыре часа утра Судоплатова разбудил настойчивый телефонный звонок: звонил начальник секретариата внешней разведки Козлов. «Голос звучал официально, — рассказывал позже Судоплатов, — но в нем угадывалось необычное волнение.
— Павел Анатольевич, — услышал я, — вас срочно вызывает к себе первый заместитель начальника Управления госбезопасности товарищ Меркулов. Машина уже ждет вас. Приезжайте как можно скорее. Только что арестованы Шпигельглаз и Пассов.
Жена крайне встревожилась. Я решил, что настала моя очередь.
На Лубянке меня встретил сам Козлов и проводил в кабинет Меркулова. Тот приветствовал меня в своей обычной вежливой, спокойной манере и предложил пройти к Лаврентию Павловичу. Нервы мои были напряжены до предела. Я представил, как меня будут допрашивать о моих связях со Шпигельглазом. Но, как ни поразительно, никакого допроса Берия учинять мне не стал. Весьма официальным тоном он объявил, что Пассов и Шпигельглаз арестованы за обман партии и что мне надлежит немедленно приступить к исполнению обязанностей начальника отдела закордонной разведки. Берия подчеркнул, что я должен буду докладывать непосредственно ему по всем наиболее срочным вопросам. На это я ответил, что кабинет Пассова опечатан и войти туда я не могу.