И только в августе 1930 года было создано первое дешифровальное подразделение при штабе РККА. Находилось оно в оперативном подчинении Спецотдела при ОГПУ и фактически входило в его состав. По штату оно называлось 13-м сектором 7-го отдела Штаба РККА. Приказом РВС СССР от 5 августа 1930 года было утверждено «Положение о 7-м отделе Штаба РККА».
В одном из пунктов этого Положения было записано, что на отдел возлагались вопросы организации дешифровальной работы, руководства и контроля за ней. «Начальник 7-го отдела в специальном отношении подчиняется начальнику Специального отдела при ОГПУ». Начальником военно-морского дешифровального сектора было решено назначить помощника начальника Спецотдела при ОГПУ Павла Хрисанфовича Харкевича (1896–?).
Развитие военной дешифровальной службы продвигалось быстрыми темпами. Менее чем через год 13-й дешифровальный сектор был реорганизован в 5-й отдел 4-го управления штаба РККА, но, как и раньше, остался в оперативном подчинении Спецотдела при ОГПУ. Все работники отдела имели хорошую языковую подготовку и зарекомендовали себя способными аналитиками. Ведущими специалистами в дешифровке военных шифров того времени были Борис Владимирович Звонарев (1899–1944), Карл Густавович Тракман (1887–1938), Павел Матвеевич Шунгский (1893–?) и др.
В области подготовки и обучения кадров Спецотдел ОГПУ сотрудничал со специальной дешифровально-разведывательной службой (далее — ДРС) ГШ РККА. 15 ноября 1929 года были открыты «Курсы совершенствования командного состава РККА», на которых готовились офицерские кадры шифровальной службы. Тогда же в Херсоне в режиме строжайшей секретности был организован отдел по подготовке офицеров шифровального дела. Именно выпускники херсонского отдела впоследствии принимали участие в разработке малогабаритной дисковой кодирующей машины К-37 «Кристалл», осуществившей настоящую революцию в шифровальном деле.
В январе 1931 года были созданы объединенные дешифровальные трехмесячные курсы по подготовке криптологов дипломатического и военного направлений с ежегодным выпуском 25 человек; а в 1932 году при ДРС — Центральные курсы по подготовке дешифровщиков. Начальником курсов был назначен П. Х. Харкевич, а преподавателями — И. А. Зыбин, И. М. Ямченко, Б. А. Аронский, Кильдишев. В 1934 году начальником этих курсов был назначен опытный криптолог Сергей Григорьевич Андреев, который работал в Спецотделе с 1921 года.
Эти курсы затем вошли в состав спецотделения Разведывательных курсов усовершенствования командного состава (РКУКС). С 1 сентября 1939 года на этих курсах началась подготовка военных криптологов. Два выпуска — 1939-го и 1940 годов в количестве 107 человек были направлены на укомплектование 10-го отдела РУ ГШ и отделений при военных округах.