В 1918 году перебирается в Пекин, где работает в библиотеке Пекинского университета ассистентом Ли Дачжао, одного из основателей КПК. Занимается изучением марксизма и анархизма (известно о его восхищении идеями Кропоткина). Отказывается от возможности поехать на учебу во Францию из-за нежелания изучать иностранные языки (и диалекты китайского тоже — всю жизнь он говорил на родном диалекте), как и зарабатывать на жизнь физическим трудом. После принимает окончательное решение остаться в Китае.
В 1919-20 гг. путешествует по Китаю, активно занимаясь политической деятельностью. По его утверждению, в 1920 году окончательно встает на марксистско-ленинские позиции. В 1921 году участвует в учредительном съезде КПК и назначается секретарем хунаньского комитета КПК. Вскоре был отстранен от должности за развал работы. Затем выступил за союз Гоминдана и КПК — и был переназначен секретарем уже провинциального комитета Гоминдана; также сорвал создание провинциальной организации и подал в отставку.
В апреле 1927 организует восстание в Хунани — разгромлено, Мао с остатками отряда бежит в горы на границе Хунани и Цзянси. В 1928 году организует советскую республику на западе Цзянси — деятельность Мао сводится к проведению аграрной реформы и формальному уравниванию прав мужчин и женщин; каких-то попыток разгромить эту республику не отмечено.
На фоне общего кризиса КПК позиции Мао, делающего ставку на крестьянство, усиливаются — но не совсем понятно, можно ли уже тогда считать его марксистом. Со своими противниками в партийной организации Цзянси он расправляется посредством ложных обвинений в работе на врага — эти люди брошены в тюрьмы или убиты. Это была первая 'чистка' в истории КПК.
Расправившись с конкурентами, Мао в 1931 году провозглашает Китайскую Советскую Республику, во главе которой и становится. Реальных мер по укреплению КСР за три спокойных года Мао не предпринял, так как был занят борьбой за власть в КПК с группой '28 большевиков', возглавляемой товарищем Ван Мином, твердо следующей линии Коминтерна. К 1934 году Чан Кайши решает ликвидировать КСР — гоминдановские войска сосредотачиваются для наступления. Принимается решение об уходе на север — считается, что т. н. 'Великим походом' руководил Мао, но, на практике, прорывом руководил Чжоу Эньлай, а самим походом — Линь Бяо. Военные результаты катастрофичны — из 80 тыс. человек, вышедших из Цзянси, до намеченной цели, Яньаньского района доходит менее 8 тыс. человек. Но, в ходе похода, на конференции КПК в Цзуньи, Мао возвращает себе власть, ощутимо потеснив группу Ван Мина.