Часть господствующего класса, недовольная крайним деспотизмом Ян Гуана и строгой централизацией власти, находилась в оппозиции к Суйской династии. Воспользовавшись обстановкой, феодалы стали выступать против императора в Хунани, Шэньси, Шаньси, Шаньдуне, Чжэцзяне, Ганьсу. Летом 613 г. в Хэнани поднял мятеж против Суйской династии генерал Ян Сюань-гань. Мятеж длился свыше двух месяцев. Войско Ян Сюань-ганя угрожало Лояну.
Мятежи свидетельствовали об обострении противоречий в среде господствующего класса. В борьбу вмешивались вожди тюркских племен. Суйское правительство приняло меры для укрепления своих сил. С корейского фронта на подавление народных восстаний и феодальных мятежей была переброшена крупная армия. Но эти мероприятия не смогли остановить народное движение. Волна крестьянских выступлений перекинулась в бассейн рек Янцзы и Хуанхэ. Руководители некоторых отрядов пытались объединить повстанческие силы.
Кульминационным моментом в истории крестьянского движения было Ваганское восстание, названное так по горному району Ваган в провинции Хэнань, где находилась его первоначальная база. Начало ваганской армии было положено в 611–613 гг. крестьянином Чжай Жаном. Ее ядро составляли хэнаньские и шаньдунские охотники и рыбаки, вооруженные длинными пиками. К повстанцам Чжай Жана примкнуло большое количество крестьянских отрядов из других мест, и к 616 г. Ваганская армия стала самой крупной среди повстанческих сил. С этого времени ее боевые операции против суйских войск приняли широкий размах. Вскоре во главе армии стал суйский чиновник Ли Ми, участвовавший в мятеже Ян Сюань-ганя (613). Этот шэньсийский феодал стремился использовать крестьянское движение для установления новой династии. Большую помощь ваганской армии оказывали крестьянские отряды Доу Цзянь-дэ, действовавшие на территории провинции Хэбэй.
Успехи повстанцев привели к тому, что к концу 617 г. под контролем суйских властей фактически оставались лишь небольшие районы в Хэнани и Цзянсу. Судьба Суйской династии была предрешена. Положение в столице стало весьма напряженным, и Ян Гуан со своими приближенными бежал в Цзянду (Нанкин). Весной 618 г. здесь в императорском дворце взбунтовалась гвардия, император Ян Гуан был убит заговорщиками.
Сложившимися обстоятельствами воспользовались крупные феодалы, которые провозгласили императором внука Ян Гуана. Вожди мятежников в ряде городов присваивали себе императорский сан.
Еще в 617 г. в Тайюани подняли мятеж крупные шаньсийские феодалы Ли Юань и Ли Ши-минь (отец и сын). Двумя годами раньше Ли Юань, состоявший военачальником на службе у Ян Гуана, был послан императором на усмирение крестьянских восстаний. Убедившись в невозможности подавить крестьянское движение, он решил использовать стихийные, неорганизованные силы повстанцев для завоевания власти.