В 1991 году он вступил в Конфедерацию горских народов Кавказа (КГНК), и там начался его путь от никому не известной личности к сомнительному титулу одного из величайших злодеев современности. Он проявил задатки лидера: созданный им в основном из односельчан небольшой отряд занимался физической защитой КГНК. Вернувшись на родину после августовского путча, Басаев участвовал в смуте, по итогам которой к власти пришел Джохар Дудаев. В ноябре 1991 года он впервые приобрел некую известность в узких кругах как террорист: вместе с двумя товарищами он захватил самолет в Минеральных Водах и угнал его в Турцию. Там угонщики после переговоров сдались властям в обмен на переправку в Чечню, где длинная рука правосудия не смогла бы их достать. Затем Басаев уехал воевать в Карабах на стороне Азербайджана, но быстро разочаровался, поскольку отряд, в котором он воевал, был разбит армянами из-за плохой организации и низкого боевого духа. Зато гораздо лучше пошли у него дела в Абхазии, где он находился по линии КГНК во главе группы волонтеров. Именно добровольцы, воевавшие в Абхазии, составили костяк террористической группы Басаева в Чечне.
Ко временам войны в Абхазии относится и слух о подготовке Басаева специалистами из ГРУ Генерального штаба РФ. Слухи на эту тему довольно темны и сомнительны, но отметим, что впоследствии Басаев проявил недюжинные тактические таланты, которые вполне могут свидетельствовать о полученной где-то систематической подготовке. Впрочем, боевые навыки можно получить не только под эгидой ГРУ РФ. Сам Басаев утверждал, что обучался в Афганистане.
С лета 1994 года «Абхазский батальон» Басаева активно воевал в Чечне против пророссийской оппозиции. В этот момент он насчитывал сотни боевиков (состав отряда был непостоянным, он регулярно пополнялся, но его часто кто-то и покидал) и являлся одним из самых мощных дудаевских формирований. К моменту, когда по промерзшим дорогам Чечни загрохотали колонны российских войск, против них действовал уже опытный полевой командир с большим боевым опытом, умеющий сколачивать иррегулярные отряды и знающий, что такое террор…