В Москве ВЧК стала практиковать прослушивание телефонных переговоров сотрудников иностранных представительств. Поначалу вопрос об агентурной работе вызвал резкое неприятие в чекистской среде. Руководство ВЧК вообще пыталось обойтись без секретных сотрудников и использовать только «идейное содействие советских элементов». В апреле 1918 года коллегия поручила оперативным отделам приступить к разработке положения об агентурной работе. Несмотря на возражения части делегатов, выступавших против создания агентурного аппарата, большинство чекистов выступили за создание секретной службы как основного средства борьбы с контрреволюцией. В «Кратких указаниях ЧК для ведения разведки», принятых конференцией, указывались способы вербовки агентов, рекомендовались конкретные методы (убеждение или принуждение). Предлагались формы вербовки — от прямого предложения до постепенного привлечения к секретному сотрудничеству. В местах заключения инструкция прямо рекомендовала использовать секретных агентов из среды арестованных. В губернских ЧК руководство агентурным аппаратом было возложено на начальников Отделов по борьбе с контрреволюцией, в составе которых учреждались специальные секретные части.
Оперативный учет лиц, уличенных и подозреваемых в контрреволюционной деятельности, осуществлялся оперативными подразделениями центральной и местной ЧК. На учет ставились бывшие кадровые офицеры, владельцы крупной собственности, помещики, бывшие сотрудники царского Министерства внутренних дел, лидеры буржуазных партий. В 1919 года был организован Регистрационно-справочный отдел ВЧК. Сведения на людей, представляющих оперативный интерес для ВЧК, стали заноситься в картотеки. С июля 1919 года отдел возглавлял Я. М. Роцен. С 7 июня 1920 года отдел был переименован в Регистрационно-статистический отдел ВЧК.
21 июня 1919 года следствие было сосредоточено в одном отделе, который стал называться Следственной частью, в ее состав вошло Юридическое бюро, ведавшее систематизацией нормативных актов о ВЧК и выдачей справок по запросам. 13 сентября 1920 года в структуре ВЧК появился новый орган — Управление делами, его начальником стал член Коллегии ВЧК Г. Г. Ягода.
21 сентября 1920 года под руководством Л. М. Брагинского стал действовать Административный отдел, преобразованный позднее в Управление, начальником которого стал бывший начальник особого отдела Западного фронта И. А. Апетер. Управление занималось разработкой структуры органов ЧК, подбором и расстановкой кадров, учетом личного состава, проверкой работы местных ЧК. 29 июля 1920 года Совнарком ввел в состав Коллегии ВЧК новых членов: В. Н. Манцева — Начальника Центрального управления ЧК Украины, В. Р. Менжинского — нового начальника Особого отдела ВЧК, управделами ВЧК Г. Г. Ягоду, начальника Транспортного отдела ВЧК Н. Н. Зимина, заместителя председателя МЧК С. А. Мессенга и заместителя наркома внутренних дел, начальника войск внутренней охраны В. С. Корнева.