14 октября 1920 года на заседании созданной межведомственной комиссии рассматривался вопрос «Об усилении охраны Кремля и ответственных советских партийных товарищей, советских учреждений в связи с растущими слухами возобновления партией эсеров террористической деятельности». В постановлении было намечено проведение в срочном порядке ряда мероприятий по личной охране ответственных советских и партийных работников. Устанавливаемые постановлением правила относились главным образом к поездкам товарищей В.И.Ленина и Л.Д.Троцкого и вводились только с их согласия. Осуществление мер было возложено на А.Я. Беленького. 26 ноября 1920 года вместо Оперативного отделения при Президиуме ВЧК организуется Специальное отделение, в задачи которого входило обеспечение безопасности руководителей Советского государства и организация охраны правительственных объектов, в том числе домов отдыха ВЦИК СССР, загородных резиденций под Москвой и городских зданий, предназначенных для проживания сотрудников СНК и ВЦИК. Это отделение охраны также возглавил А.Я. Беленький. На следующий день, 27 ноября, была установлена (в отдельных случаях подтверждена) охрана следующих учреждений: Московский Кремль, ЦК РКП(б), ВЧК, РВС (Реввоенсовет), Московский комитет российской Компартии, Моссовет, 1-й и 2-й Дома Советов ВЦИК, а также ряда подмосковных дач. Определялась особая личная охрана В.И. Ленина, Л.Д.Троцкого, Ф. Э.Дзержинского. С этого момента было также решено проводить охрану митингов и собраний, где присутствовали ответственные советские работники (при условии информирования ВЧК о мероприятиях за шесть часов до их начала).
К моменту образования в январе 1922 года Государственного политического управления Специальное отделение насчитывало уже 24 человека. В декабре 1923 года, в целях усиления подразделения, в Специальное отделение была переведена группа оперативных комиссаров из состава Московского отдела ГПУ. Специальное отделение (так называемая «Специальная охрана») при президиуме ВЧК – ГПУ – ОГПУ (с 1926 г. – при Коллегии ОГПУ) стояло на страже безопасности руководителей Советского государства до конца 1929 года. За это время личный состав обеспечил большое количество мероприятий не только в Москве, но и при поездках охраняемых лиц по стране.
В деле обеспечения безопасности руководителей государства большую помощь «специальной охране» оказывал Оперативный отдел ОГПУ (Оперод ОГПУ СССР), который также участвовал в охране мероприятий. Так, в 1927 году группы сотрудников Оперода обслуживали театры во время посещения их членами правительства и ответственными работниками. В праздники 1 Мая и 7 Ноября сотрудники Оперода работали по районам и охраняли Красную площадь. При поездках членов Политбюро ЦК ВКП(б) на отдых, их охрану обеспечивал Оперод ОГПУ, который также отвечал за обеспечение связью и транспортными средствами. 1 октября 1928 года начальник Специального отделения при Коллегии ОГПУ СССР А.Я. Беленький был переведен в резерв назначения Административного отдела Административно-организационного Управления ОГПУ (АОУ ОГПУ СССР). С этого момента и до конца 1929 года подразделение по охране членов правительства возглавлял А.М. Шанин. В начале 1930 года Специальное отделение было упразднено, а его функции переданы в Оперативный отдел ОГПУ (Оперод ОГПУ СССР), которым руководил К.В. Паукер. Необходимо заметить, что именно К.В. Паукер первым в органах ВЧК-ОГПУ создал полноценное высокоэффективное подразделение охраны, которое было оснащено современным оружием, средствами ВЧ – связи и мощным, специально изготовленным и закупленным в США и в Великобритании автомобильным транспортом. Известно о начальнике Оперода ОГПУ СССР К.В. Паукере не слишком много, да и то с его слов, на основе данных личной учетной карточки в Отделе кадров ГУГБ НКВД СССР.