Летом 1918 года Ефремова назначили командиром роты 1-й Московской пехотной бригады. С тех пор вся его жизнь будет связана именно с пехотой.
Командовал батальоном, а затем сводным отрядом под Новохоперском. 13-м Астраханским железнодорожным полком под Астраханью. Под Царицыном, в период боев, вступил в партию большевиков. Рекомендацию ему дал председатель Временного военно-революционного комитета Астраханского края С. М. Киров. Там он подружился с Миронычем. Вскоре получил новое назначение, став начальником обороны всех железных дорог, находящихся в полосе действия 11-й армии. Основной ударной силой, которой он в то время располагал, был особый отряд бронепоездов. Именно блестящим маневром бронепоездов Ефремов вскоре проведет ошеломляющую операцию по захвату Баку.
25 апреля 1920 года Ефремов получил приказ, подписанный командующим 11-й армией М. К. Левандовским[2] о начале операции. Четыре бронепоезда под общим командованием Ефремова должны были составить ударную группу Кавказского фронта, которым в то время командовал М. Н. Тухачевский >{1}. На головном бронепоезде во время атаки рядом с Ефремовым находился член Кавказского крайкома партии А. И. Микоян >{2}.
В Баку в то время брали силу националистические настроения довольно многочисленной группы местного населения – татар. Распад империи будил сепаратистские настроения. Татарская мусульманская партия (или, как ее называли большевики в своих листовках и на митингах, «бекско-ханская феодальная организация») Мусават провозгласила лозунг: «Закавказье – для закавказцев!» Попытка потеснить русских закончилась так называемыми Шамхорскими событиями. Татары попытались отнять оружие у русских воинских частей, прибывающих с фронта. Очевидец тех событий бывший кадет Б. Байков в своих «Воспоминаниях о революции в Закавказье (1917–1920 гг.)» писал: «Вынужденные двигаться в ту же сторону, то есть на Елизаветполь – Баку, воинские части, озлобленные участью своих боевых товарищей, пошли дальше уже как по вражеской стране, сметая по своему пути все татарское население, принимавшее и не принимавшее участие в кровавых шамхорских и иных нападениях. Местами войска шли боевым порядком, громя все из орудий и пулеметов». Попытка разграбить воинские эшелоны не удалась. Но вслед за этим татары устроили резню местных армян, в которой погибло до 20 тысяч человек. Турецко-азербайджанская армия под командованием Мурсала-паши обложила блокадой Баку и нефтеносные районы, населенные в основном русскими, а также армянами и другими народностями. Мусават опирался именно на эти штыки. Турецкую армию поддерживали немцы.