Приказом НКО СССР № 0038 от 26 июля 1940 года 5-е (разведывательное) Управление НКО вошло в состав ГШ Красной армии (далее — КА) и стало называться РУ ГШ КА. В его составе остался 9-й (шифровальный) отдел (начальник — майор Л. С. Пелевин), а 11-й (дешифровальный) отдел стал 10-м отделом (начальник — полковник Н. А. Филатов). 18 августа 1941 года на базе Отдела шифровальной службы Оперативного управления ГШ КА было создано Управление шифровальной службы ГШ КА общей численностью 197 военнослужащих и 50 служащих.
Указом Президиума Верховного Совета (далее — ПВС) СССР от 3 февраля 1941 года из состава НКВД был выделен наркомат государственной безопасности (далее — НКГБ). Шифровально-дешифровальное дело перешло в 5-й отдел НКГБ, начальником которого стал майор госбезопасности А. И. Копытцев. Для ведения шифропереписки в составе НКВД приказом № 00198 от 22 февраля 1941 года было организовано 6-е отделение, начальником которого стал А. А. Солодянников.
После начала Отечественной войны Указом ПВС СССР от 20 июля 1941 года НКВД и НКГБ были снова объединены в единый НКВД. Шифровально-дешифровальное дело перешло в 5-й спецотдел НКВД, начальником которого стал майор госбезопасности Иван Григорьевич Шевелев (1904–?), а его заместителем — старший майор госбезопасности А. И. Копытцев. Спецотдел по состоянию на 20 мая 1942 года имел по штату 683 человека и состоял из 16 отделений, задачи которых были следующими:
— 1–8 — дешифровально-разведывательная работа за рубежом;
— 9 — составление, исследование и издание кодов для НКВД, НКО и НКВМФ, НКИД, НКВТ;
— 10 — составление и издание блокнотов для НКВД, НКО, НКВМФ, НКИД, НКВТ;
— 11 — осуществление шифросвязи оперативно-чекистских управлений и отделов НКВД; шифрование и дешифровка телеграмм, учет и снабжение шифродокументами периферийных органов НКВД и их инструктаж по шифрработе;
— 12 — осуществление шифросвязи лагерей НКВД, пограничных, внутренних и оперативных войск НКВД, Прокуратуры, Военной коллегии Верховного суда СССР;
— 13 — осуществление шифросвязи зарубежной резидентуры 1-го Управления НКВД;
— 14 — оперативно-чекистское обслуживание шифрорганов наркоматов и других учреждений;
— 15 — проверка и допуск лиц, работающих с секретными, мобилизационными и шифровальными документами в учреждениях и на предприятиях; спецпроверка личного состава, работающего на особо режимных предприятиях.
16 февраля 1942 года приказом НКО № 0033 РУ ГШ КА было реорганизовано в Главное РУ (далее — ГРУ), а 23 сентября приказом НКО № 00222 с целью концентрации усилий по раскрытию шифропереписки противника ДРС ГРУ была передана в 5-й спецотдел НКВД. 3 ноября приказом НКВД № 002424 на базе 5-го спецотдела вместе с 7-м отделом (дешифровальный) 2-го Управления ГРУ и частями спецслужбы внутренних войск НКВД было образовано 5-е Управление НКВД. Его начальником стал старший майор госбезопасности И. Г. Шевелев, а его заместителем — комиссар госбезопасности А. И. Копытцев.