Всю весну 1919 года продолжались бои с белыми, отходившими под натиском 10-й армии на реку Маныч. В конце марта 1919 года Особая кавалерийская дивизия была переименована в 4-ю кавдивизию. В состав ее вошли три бригады. Кроме того, в подчинении начдива находились казачий полк и два резервных дивизиона — кавалерийский и артиллерийский.
По данным разведки и из оперативных фронтовых сводок Буденный знал, что белые подтягивают конные корпуса Кавказской армии барона Врангеля. Этим крупным силам, словно грозовая туча нависшим над фронтом, надо было противопоставить не менее крупные силы. Но где их взять?
В начале мая, после боев под станицей Великокняжеской, в районе, где располагались части 4-й кавалерийской дивизии, появилась 1-я Ставропольская рабоче-крестьянская кавалерийская дивизия под командованием И. Р. Апанасенко, сформированная из партизанских отрядов, действовавших на Ставропольщине. Буденный доложил командарму А. И. Егорову выношенные в глубоких раздумьях соображения о создании Конного корпуса. Реввоенсовет принял решение о формировании такого соединения. 1-я Ставропольская рабочая крестьянская дивизия была переименована в 6-ю кавалерийскую дивизию, для усиления ей придавался казачий кавалерийский полк. Устным распоряжением командарма обе кавдивизии, 4-я и 6-я, сводились в Конный корпус, командование которым поручалось Семену Михайловичу Буденному.
Так в молодой Красной Армии появилось первое крупное кавалерийское соединение. В июне 1919 года был уже получен письменный приказ о формировании Конного корпуса.
Конный корпус был создан своевременно: белые вновь начали наступление на Царицын. Против 10-й армии командующий белогвардейскими силами на юге России генерал Деникин бросил группу войск барона Врангеля, в которую входили усиленные казачьи корпуса генерала Улагая и Покровского, смешанный корпус генерала Шатилова и другие части.
Располагая данными о планах противника, намеревавшегося корпусом Улагая перерезать железнодорожную магистраль Тихорецкая — Царицын, командарм А. И. Егоров приказал Буденному передвинуть Конный корпус в район станицы Граббевской и разгромить белогвардейцев.
Красные конники настигли кавалерию Улагая и завязали бой. Белые начали отступать. Буденновцы преследовали противника. Легкость успеха насторожила Буденного: не пытается ли враг увести красных с главного направления своих войск? Комкор допросил пленных. Они оказались из двух дивизий. А где же третья? Буденный разгадал хитрость противника. Преследование было прекращено.
Противник, как предполагал комкор, охватил с флангов стрелковые дивизии красных, потеснил нашу пехоту. Тогда красные части вышли на тылы белых и, развернувшись в боевой порядок, атаковали врага. Половина пехотной дивизии белых была уничтожена, половина — пленена, конница в панике рассеяна по степи.