В 1919–1920 годах начальник политико-просветительного отдела 12-й, затем 1-й Конной армий. После демобилизации служил политработником на железнодорожном транспорте.
В сентябре 1920 года по рекомендации Ф.Э. Дзержинского был принят в органы ВЧК. Занимал должность помощника начальника Закордонной части Особого отдела ВЧК, уполномоченного 6-го и 12-го спецотделений ИНО ВЧК, одновременно с мая по декабрь 1921 года — помощника начальника 15-го спе-цотделения Особого отдела ВЧК, зам. начальника Закордонной части ИНО ВЧК-ГПУ. С июля 1922 по февраль 1924 года — помощник начальника ИНО ГПУ/ОГПУ, одновременно в ноябре-декабре 1922 года — помощник начальника Особого бюро при СОУ ГПУ по административной высылке антисоветски настроенной интеллигенции.
С февраля 1924 по июль 1926 года работал начальником информационного отдела ОГПУ СССР и по совместительству в июле — октябре 1925 года и.о. начальника отдела политконтроля ОГПУ (в ноябре 1925 года отдел политконтроля был объединен с информационным отделом).
В феврале 1926 года, продолжая оставаться начальником информационного отдела ОГПУ, был назначен начальником Экономического управления ОГПУ; в этой должности проработал до августа 1931 года. С октября 1929 года был членом Коллегии ОГПУ. Одновременно с ноября 1930 по август 1931 года был членом Президиума ВСНХ и уполномоченным СТО СССР по строительству автомобильного завода в Нижнем Новгороде; с апреля 1931 года — начальником Управления Беломорстроя НКПС СССР. В августе — октябре 1931 года — начальник Особого отдела ОГПУ. С октября 1931 года — зам. наркома рабоче-крестьянской инспекции СССР.
С ноября 1932 года — зам. председателя ОГПУ СССР, одновременно с декабря 1932 по январь 1934 года — начальник Главного управления рабоче-крестьянской милиции ОГПУ. Также состоял членом Комиссии ЦК ВКП(б) по политическим (судебным) делам; с февраля 1934 года — членом Комиссии советского контроля при СНК СССР.
С образованием НКВД СССР в июле 1934 года — 2-й зам. наркома внутренних дел СССР, с сентября 1934 года по совместительству — уполномоченным НКВД СССР при СНК РСФСР и председателем Всесоюзного физкультурно-спортивного общества «Динамо».
В сентябре 1936 года был освобожден от постов в НКВД и назначен 1-м зам. наркома связи СССР. В январе 1937 года был выведен из состава Комиссии ЦК ВКП(б) по политическим (судебным) делам, затем переведен в запас ГУГБ НКВД.
Награжден орденом Красного Знамени, двумя знаками «Почетный работник ВЧК-ГПУ», знаком «Почетный работник РКМ» (Рабоче-крестьянской милиции).