Узнав об этом, Чжан Цзио дал сигнал к немедленному выступлению, не дожидаясь условленного срока. Он приказал всем повстанцам повязать головы желтыми платками (как отличительный знак), откуда и пошло название «Желтые повязки». Во главе восставших в качестве высших военных руководителей встали Чжан Цзио и его братья Чжан Лян и Чжан Бао.
Восстание «Желтых повязок» началось во 2-м месяце 184 г. н. э. В момент выступления армия Чжан Цзио насчитывала 360 тыс. человек, но не прошло и десяти дней, как пламя восстания полыхало на огромной территории от Шаньдуна до Сычуани. Количество повстанцев увеличивалось с каждым днем. Основными районами восстания были провинции Хэбэй, Хэнань, Шаньдун и Хубэй. Отряды повстанцев нападали на города, убивали чиновников, сжигали правительственные здания, опустошали склады, захватывали имущество богатых, затопляли поля. Повсюду повстанцы открывали тюрьмы, выпускали заключенных, освобождали рабов. Чиновники и знать в ужасе бежали.
В условиях разразившегося восстания при императорском дворе вновь обострилась борьба политических группировок. «Ученые» обвиняли во всем евнухов и утверждали, что их злоупотребления и жестокость являлись основными причинами восстания. Евнухи и их приверженцы отвечали на это обвинением «ученых» в государственной измене. Император созвал государственный совет, на котором было решено немедленно отправить против повстанцев армию в 400 тыс. человек. Однако высланные против повстанцев правительственные войска терпели одно поражение за другим. Видя беспомощность императорского дворца и сознавая опасность своего положения, крупнейшие представители господствующего класса, «сильные дома» и видные полководцы стали собирать силы и самостоятельно бороться с повстанцами. Их войска действовали с крайней жестокостью, не щадя ни детей, ни женщин, ни сдавшихся в плен. Надолго сохранила народная молва страшные воспоминания об одном из самых кровавых усмирителей восстания — крупнейшем представителе «сильных домов» Хуан-фу Суне, истребившем будто бы более 2 мл. повстанцев.
Обладая знанием военного искусства, ханьские военачальники действовали расчетливо и осторожно. Они прекрасно сознавали, что имеют дело с людьми, доведенными до отчаяния и готовыми биться до последней капли крови. «Если 10 000 человек, решивших дорого продать свою жизнь, непобедимы, то тем более непобедимы 100 000»,— говорил один из усмирителей восстания. Поэтому они всеми силами старались не допускать объединения повстанческих отрядов в большие армии, понимая, что сила повстанцев заключается в их числе, а не в умении воевать. Сражаясь не на жизнь, а на смерть в открытых боях, повстанцы с трудом выдерживали длительную осаду и оборону и, несмотря на героическую борьбу, не могли устоять перед несравненно более опытным в военном отношении противником.