Тем временем Северный поход гоминдана развивался триумфально. Успех военных действий против пекинского правительства, а также растущая антипатия к китайскому коммунизму позволили Чан Кай-ши положить конец влиянию и присутствию коммунистов в гоминдане. По мере приближения его армий к Шанхаю местные банкиры и купцы обещали ему финансовую поддержку, если в обмен он примет меры по предотвращению угрозы коммунистического контроля над этим портовым городом. Чан согласился и весной 1927 года ликвидировал шанхайские профсоюзные организации и левые элементы в гоминдане. Китайские коммунисты в Шанхае были сокрушены и загнаны в подполье. Характер отношений между ними и Чан Кай-ши уже не мог вызывать никаких сомнений — речь шла об открытой гражданской войне.
Действия Чан Кай-ши в Шанхае привели к расколу гоминдана. Поддерживаемое коммунистами и советским политическим советником гоминдана Михаилом Бородиным левое крыло, возглавляемое давним противником Чан Кай-ши Ван Цзинь-веем, порвало с Чан Кай-ши и создало в районе Ханькоу, Ханьяна и Учана соперничающую гоминдановскую организацию. То был весьма решительный, но лишенный всякой реальной опоры шаг. Опираясь на верные ему войска, на шанхайских коммерсантов и правое крыло партии, Чан Кай-ши продвинулся вверх по долине реки Янцзы и разгромил незначительные вооруженные силы конкурентного правительства. В апреле 1927 года Чан Кай-ши официально учредил националистское правительство Китая и сделал столицей государства Нанкин. Потом началась пропагандистская война: Чан Кай-ши объявил группу Ван Цзинь-вея марионеткой России, одураченной коммунистами; Ван Цзинь-вей со своей стороны характеризовал нанкинское правительство как военную диктатуру.
Весной 1927 года антикоммунистические выступления имели место также и в Пекине. В древней столице Китая был убит Ли Да-чжао — отец китайского коммунизма. Нескольких других партийных лидеров посадили в тюрьму, правительственные войска совершили налет на советское посольство. В результате обыска в руки китайцев попали документы, из которых явствовало, что Бородин получает приказы непосредственно из Москвы и что, выдавая себя за друга и советника Китая, он заботился не о благе гоминдана, а лишь об интересах советской политики в Азии. Эти разоблачения навлекли позор на Бородина и на правительство Ван Цзинь-вея. Бородина и других русских отправили на родину, началась чистка организации от китайских коммунистов. Вновь стало возможным сотрудничество между Чан Кай-ши и Ван Цзинь-веем. В начале 1928 года силы гоминдана опять слились и возобновилась кампания за воссоединение Китая.