Однако потребность в подготовке специалистов в должной мере не удовлетворялась, так как различные краткосрочные курсы не могли полностью обеспечить государство криптологическими кадрами как в количественном, так и качественном отношении.
В марте 1930 года начальником 1-й (шифровальной) части IV (Разведывательного) Управления Штаба РККА был назначен Э. Я. Озолин, а дешифровальный сектор 8-го отдела Штаба РККА был переведен в состав 5-го отделения Спецотдела при ОГПУ для обеспечения совместной работы над шифроперепиской иностранных государств.
В сентябре 1930 года 2-й отдел Управления делами НКВМД был реорганизован в 7-й отдел Штаба РККА, а уже 13 октября 1930 года — в 8-й отдел Штаба РККА. В штабах военных округов и флотов шифрорганы назывались 7-ми отделами, которые в феврале 1931 года были переименованы в военных округах в 8-е отделы, а на флотах — 10-е отделы.
В марте 1931 года в составе IV Управления (с 22 ноября 1934 года — 5-го Управления) Штаба РККА был создан 5-й (дешифровальный) отдел (начальник — П. Х. Харкевич). Военно-дешифровальный сектор 5-го отделения Спецотдела при ОГПУ был переведен в состав 5-го отдела IV управления Штаба РККА.
В связи с увеличением объема и повышением значения дешифровальной работы в 1932–1933 годах были созданы дешифровальные группы при ПП ОГПУ в Киеве, Тбилиси, Хабаровске, Ташкенте и Ленинграде, а затем в Чите и Владивостоке. Позже эти группы были преобразованы в дешифровальные отделения.
В 1931–1932 годах криптоотделы были созданы уже во всех военных округах, а к середине 1930-х годов численность криптослужб СССР в центре и на местах достигла около 500 человек, что полностью отвечало потребностям того времени. Сложилась достаточно эффективная система криптослужб, которые дешифровывали до 30 % всей перехваченной информации, что было прекрасным показателем для того времени.
В 1932 году было образовано дешифровальное отделение в Особой Краснознаменной Дальневосточной армии, а в 1935–1936 годах — в Забайкальском, Среднеазиатском и Киевском военных округах. Эти отделения, равно как и в центре, находились в оперативном подчинении ОГПУ.
В 1933 году шифровальщики Спецотдела при ОГПУ работали в большой комнате на четвертом этаже обширного здания бывшей страховой компании на улице Лубянка в Москве. А дешифровщики занимали верхний этаж бывшего здания НКИД на углу улиц Лубянка и Кузнецкий мост. Тот факт, что нижние этажи здания посещались частными лицами и членами дипломатического корпуса, использовался для маскировки.
В 1933 году с целью повышения квалификации личного состава Спецотделом было подготовлено и выпущено учебное пособие «Шифры и их применение», а в 1939 году уже в НКВД был издан специальный учебник «Криптография (шифрование и дешифрование)», написанный ведущими советскими специалистами-криптологами С. Г. Андреевым, А. И. Копытцевым, С. С. Толстым и Б. А. Аронским.