Одновременно началось продвижение ханьских войск на запад, в Среднюю Азию, где в 101 г. до н. э. ими были разграблены ферганские города, а гунны отрезаны от восточнотуркестанских оазисов. В 99 и 97 гг. до н. э. ханьцы вновь предприняли два крупных наступления против гуннов, но успеха не добились. Наконец, в 90 г. до н. э. 70-тысячная китайская армия под командованием полководца Ли Гуань-ли вторглась в гуннские земли, разгромила передовые отряды гуннов и сошлась для генерального сражения с армией шаньюя. В это время Ли Гуань-ли узнал, что его семья арестована в столице по обвинению в колдовстве и всем его родичам, а по возвращении и ему самому, грозит смерть. Он решил заслужить милость императора победой, но в первом же бою понес тяжелые потери. Тогда старшие командиры войска решили взять его под стражу. Однако Ли Гуань-ли, казнив участников заговора, начал генеральное сражение у горы Яньжинь. В тяжелом бою китайцы были окружены, а Ли Гуань-ли сдался в плен. У императора не осталось больше полевой армии для продолжения войны. Китай не сумел сломить гуннов своими силами, но через двадцать лет они понесли тяжелое поражение от других кочевых народов — в 72 г. до н. э. усуни с запада, ухуани (часть дунху) с востока и енисейские динлины с севера ворвались в гуннские земли; в жестокой войне гунны потеряли до трети населения. Начался кризис политического господства гуннов в Центральной Азии.
Внешним выражением этого кризиса был раскол гуннов в 56 г. до н. э. на южных и северных. Южные гунны во главе с Хуханье-шаньюем установили мирные отношения с Китаем, отказавшись от набегов, а Китай делал все для их умиротворения. Более пятидесяти лет на гунно-китайской границе не происходило крупных столкновений. Северные гунны во главе с Чжичжи-шаньюем ушли в Среднюю Азию, в союзное государство Кангюй (на средней Сыр-Дарье), но здесь были настигнуты китайским экспедиционным корпусом и уничтожены — ханьские власти опасались, что Чжичжи в союзе с кангюйцами будет угрожать их господству в Восточном Туркестане.
Вновь единство и могущество гуннской империи было восстановлено на короткий срок в начале I в. н. э. Уже в 48 г. н. э. происходит новый раскол гуннов на северных и южных. Вся дальнейшая судьба южных гуннов, вплоть до падения Ханьской империи, является, по существу, историей обычных варваров-федератов, целиком зависимых от правительства в имперской столице. Северяне же под ударами с юга и натиском бывших вассалов — древнекыргызских племен Гнисея и в особенности потомков дунху, сяньби — протомонгольских племен Юго-Западной Маньчжурии с каждым десятилетием утрачивали свое могущество и территории. Их ставки сместились в Западную Монголию, в Юго-Западную Сибирь и Восточный Туркестан, где до середины II в. они продолжали сопротивляться ханьскому продвижению на запад. Наиболее тяжелые поражения гунны понесли в войнах с сяньби в 93–94 гг., когда десятки тысяч их семей были включены в состав сяньбийской племенной конфедерации, и в 151–155 гг., когда создатель эфемерной сяньбийской империи, Таньшихуай, вытеснил гуннов из их последних владений в Джунгарии. Именно в первой половине II в. началась миграция гуннских племен сначала в Восточный Казахстан и Семиречье, где они создали государство Юэбань, просуществовавшее до V в., а затем, вместе с угорскими племенами Западной Сибири, — в Приуралье, в прикаспийские и заволжские степи.