В январе 1918 г. завершилась служба Конева в русской армии. После демобилизации он вернулся в родные края. В Никольском уездном центре Вологодской губернии демобилизованных встречали односельчане. Ивана с радостью обнимали тетка Клавдия и сестра Мария. Отец в это время работал далеко от родного села, и с ним Ивану Степановичу удалось встретиться лишь через пять лет. По его свидетельству, он вместе с группой демобилизованных солдат своей волости организовал свержение земской управы, конфискацию помещичьих и церковных земель, аресты купцов и торговцев «и все остальные действия, вызываемые социалистической революцией». В феврале Конев был избран на уездный съезд Советов Никольского уезда, где его выбрали в уездный исполком и оставили на постоянной работе – уездным военным комиссаром.
В функции военного комиссара входило комплектование и формирование подразделений и частей новой, Рабоче-Крестьянской Красной армии. Начало ее созданию положил декрет Совета Народных Комиссаров РСФСР от 15(28) января 1918 г. С новыми обязанностями Иван Степанович справлялся успешно, что не осталось без внимания. В июле его направляют в Москву для участия в работе V Всероссийского съезда Советов, где он состоял членом фракции большевиков. Тогда же Коневу довелось участвовать в подавлении восстания левых эсеров в столице.
Работа в исполкоме, формирование войск были не по душе деятельному и активному комиссару. Он, наблюдая за развитием событий на фронтах Гражданской войны, настойчиво рвался в действующую армию. Вскоре его вызвал военный комиссар Ярославского военного округа М. В. Фрунзе. Он внимательно посмотрел на своего молодого подчиненного, по-военному подтянутого, не по годам сурового.
– Просьбу вашу, товарищ Конев, удовлетворим, – сказал Михаил Васильевич. – Поедете на фронт. Формируйте отряд земляков. Желаю успеха!
Некоторые биографы И. С. Конева пишут, что в первых числах сентября 1918 г. он назначается комиссаром бронепоезда № 102[2]. Однако сам Иван Степанович в своей автобиографии отмечает, что только в июне 1919 г. он «добровольно потребовал отправки на фронт». В течение месяца проходил подготовку в 1-м запасном полку. В должности начальника отряда участвовал в подавлении восстания дезертиров в Костромской губернии. Затем был отправлен в 3-ю армию Восточного фронта, где сначала был бойцом запасной батареи и только затем стал комиссаром бронепоезда № 102, получившего от красноармейцев название «Грозный». По инициативе Конева при бронепоезде был создан небольшой десантный отряд в составе взвода конной разведки и двух стрелковых взводов для борьбы с подразделениями противника, осуществлявшими диверсии на железной дороге. Комиссар бронепоезда часто принимал личное участие в боевых действиях десантного отряда. В одном из них судьба свела его с крестьянской девушкой Аней, ставшей впоследствии его женой. Многим обязан ей Иван Степанович, и прежде всего тем, что уберегла она его, тяжело заболевшего тифом, от смерти.