18 марта 1918 г. организационный отдел был преобразован в иногородний, ведавший создающимися региональными чрезвычайными комиссиями. В течение первых трех месяцев он представлял собой коллегию по управлению чрезвычайными комиссиями на местах, в которую входили три полноправных члена — представителя от каждого ведущего отдела. По итогам состоявшейся в июне 1-й Всероссийской чекистской конференции был организован аппарат отдела, основной частью которого стал инструкторский подотдел, состоящий из штата инструкторов-организаторов местных ЧК, командированных в провинцию. Отдел возглавил заведующий спекулятивным отделом В.В. Фомин, ранее от спекулятивного отдела входивший в его коллегию. Внутренние функции отдела постоянно менялись, в течение короткого времени ему ставились все новые задачи, в соответствии с этим изменялась и его структура. Если на 17 июня 1918 г. отдел состоял из трех подотделов: инструкторского, инспекторского и снабжения, — то уже на 11 июля в него входили следующие подотделы: инструкторский, железнодорожный, пограничный, связи, а также информационное бюро. На 25 сентября 1918 г. структура иногороднего отдела была следующей: заведующий (В.В. Фомин); секретарь (Г.С. Мороз), инструкторская часть (Ю.Ю. Янель), бюро информации (Я.Ю. Клявин), железнодорожный подотдел (М.Н. Смирнов), пограничный подотдел (Д.И. Гразкин), подотдел связи (П.А. Мюллер)[104]. Создание в системе иногороднего отдела пограничного подотдела было обусловлено тем, что некоторые из создающихся региональных чрезвычайных комиссий являлись пограничными, поскольку находились в приграничной зоне с оккупированными германскими войсками территориями, что накладывало на эти органы дополнительные функции по охране границы. Подотдел первоначально возглавил сам начальник отдела Фомин, а в августе 1918 г. его сменил бывший следователь Спекулятивного отдела Д.И. Гразкин.
Разгорающаяся гражданская война и проведение политики военного коммунизма привели к установлению чекистского контроля и за транспортом, в первую очередь за наиболее важным — железнодорожным. 1-я Всероссийская конференция ВЧК поставила вопрос о передаче железнодорожной охраны в ВЧК, мотивируя это ее ненадежностью в подавляющем большинстве мест Советской России. 15 июня ввиду саботажа на железных дорогах, а также для охраны путей Президиум ВЧК признал необходимым организовать железнодорожный отдел. Членами коллегии этого подразделения, организованного через некоторое время на правах подотдела иногороднего отдела, стали Фомин, Полукаров и Закс. 7 августа 1918 г. вышло подписанное В.И. Лениным постановление Совнаркома, в котором говорилось о создании при ВЧК особого железнодорожного отдела.