До марта нашему командованию не удалось установить дислокацию основных сил Махно. Части Красной Армии были отозваны из Гуляй-Поля и направлены на Крымский участок фронта. Едва это было сделано, как батька снова захватил Гуляй-Поле, откуда начал военные действия против Красной Армии. Ее командованию пришлось вновь направить свои части для борьбы с махновцами.
Весь юг Екатеринославской, Таврической, ряд уездов Донецкой и Харьковской губерний стали ареной сражений. Отряды Махно совершали налеты на города и села, расправлялись с коммунистами, сотрудниками ЧК и милиции. Вот что говорит документ того времени: «Положение в Александровском уезде неблагоприятное. Вследствие постоянной угрозы Махно в некоторых волостях ревкомы работают нелегально. Были случаи убийств комиссаров, красноармейцев и разоружения воинских частей. Анархизм свил себе здесь крепкое гнездо и проявляется почти во всех волостях за исключением десяти (из сорока трех)… Количество «батек» и атаманов в некоторых местах превышает количество волостей, но все они ориентируются на Махно».
Командование Юго-Западным фронтом приказом от 7 марта поручило ликвидацию банд на территории Украины начальнику тыла фронта, передав ему в подчинение латышскую дивизию, две бригады и кавалерийский полк. Этим войскам была поставлена задача в кратчайший срок разгромить махновцев и другие банды в районе Верхнеднепровск — Екатеринослав — Александров — Полоч и — Цареконстантиновка — Чаплино — Павлоград. С целью координации действий партийных, советских и военных органов против банд командование Юго-Западного фронта разработало и утвердило 20 апреля «Краткую инструкцию по борьбе с бандитизмом и кулацкими восстаниями», в которой указывалось, что такая борьба должна вестись самым беспощадным образом, имея главной целью захват во что бы то ни стало главарей банд, их помощников, штабов и материальной части.
Тем временем махновцы вели успешные бои с частями Красной Армии. Так, например, 25 апреля они внезапно появились на станции Марьинка, где располагался 337-й стрелковый полк Украинской трудовой армии. Махновцы атаковали его и разбили.
26 апреля 1920 г. Полн. бюро ЦК РКП (б) специально рассмотрело вопрос об укреплении внутреннего фронта на Украине. Члену ЦК и председателю ВЧК Ф. Э. Дзержинскому было поручено срочно выехать туда для организации борьбы с контрреволюцией, бандитизмом и махновщиной. «Я не хотел бы вернуться в Москву раньше, чем мы обезвредим Махно», — писал жене Дзержинский с Украины.
В борьбе с Махно было решено использовать Первую Конную армию Буденного, находившуюся на марше Майкоп — Батайск — Ростов — Курган — Екатеринослав. На 14-ю кавалерийскую дивизию этой армии возлагалась задача выбить махновцев из Гуляй-Поля. Там она встретилась 28 апреля с крупными силами батьки. Опасаясь окружения, махновцы стали отступать. Выделив для их преследования два эскадрона, дивизия продолжала двигаться по маршруту. Через два дня махновцы были атакованы 4-й кавдивизией в Ново-Павловке. Захваченные врасплох, они бросили несколько пулеметов и отошли в сторону села Богатырь. Но здесь на них обрушился удар бригады 6-й кавдивизии. Попав в полосу движения маршевых колонн Красной Армии, махновцы вынуждены были на время рассыпаться на мелкие группы. Сам Махно пробрался с небольшим отрядом на север, в Изюмские леса. Город Изюм был объявлен на осадном положении.