Обстановка настоятельно требовала принятия неотложных мер по перестройке всей работы внешнеполитической разведки. В марте 1938 года в органы государственной безопасности Центральный Комитет партии мобилизовал около 800 коммунистов с высшим образованием, имевших опыт партийной и руководящей работы. После обучения на ускоренных курсах Школы особого назначения их направили как в центральный аппарат, так и в периферийные органы. Большая группа выпускников ускоренных курсов, в которой находился и автор этих строк, была отобрана для работы в 5-м (разведывательном) отделе ГУГБ НКВД СССР.
Влившиеся в разведку новые кадры вместе с оставшимися на работе чекистами-разведчиками образовали монолитный сплав опыта и молодого задора. Их задача состояла в том, чтобы улучшить разведывательную работу за кордоном.
В результате принятых мер в предвоенные годы удалось укомплектовать около 40 резидентур за кордоном и направить в них более 200 разведчиков, а также вывести на нелегальную работу многих кадровых чекистов. Это сразу же сказалось на результатах».
Новое руководство внешней разведки действительно предприняло энергичные меры по восстановлению загранаппаратов, деятельность которых была парализована в результате многочисленных чисток, и укреплению центрального аппарата разведки. За короткий предвоенный срок Фитину удалось не только залечить раны, нанесенные разведке репрессиями, но и значительно активизировать ее деятельность, в первую очередь — за рубежом, сосредоточив внимание на подборе руководителей резидентур. В 1939–1940 годах за рубеж были направлены такие опытные разведчики, как Михаил Аллахвердов, Исхак Ахмеров, Василий и Елизавета Зарубины, Александр Коротков, Борис Рыбкин, Зоя Воскресенская-Рыбкина, Дмитрий Федичкин.
К середине 1940 года в центральном аппарате разведки в Москве работали уже 695 человек, а 242 разведчика были командированы за границу. Наиболее крупными из сорока укомплектованных резидентур были резидентуры в США, Финляндии, Германии.
Однако завершать реорганизацию разведки, создавать условия для ее работы в боевых условиях, чем занимался еще в начале 1930-х годов выдающийся организатор разведки Артур Артузов, Павлу Фитину пришлось уже в ходе войны. Молодые сотрудники, пришедшие во внешнюю разведку накануне войны, с честью справились с этой нелегкой задачей, снабжая высшее советское руководство необходимой политической, военной и научно-технической информацией. Они сумели переиграть нацистские спецслужбы и внесли свой вклад в Великую Победу над гитлеровской Германией.