После окончания подготовки Хаттаб воевал против русских и солдат Наджибуллы. Между 1988 и 1993 годами он участвовал практически во всех крупных операциях афганских моджахедов. Во время штурма Кандагара и Джелалабада прославился среди своих «собратьев» по вере и оружию храбростью и невероятной (даже для «духов») жестокостью. Был несколько раз ранен, причем один раз тяжело — пуля из 12,7-миллимитрового пулемета КПВТ советского производства попала ему в живот. Произошло это в 1993 году во время боев за Кабул. «Очевидцы свидетельствуют, — пишет Е. Крутиков, — что Хаттаб всегда вел себя крайне безрассудно, его храбрость была чрезмерной, а тот, кто был на войне, знает, что таких людей не слишком любят — они вызывают огонь на себя, редко отступают, даже когда это необходимо, и вообще способны убить своим фанатизмом и безрассудством всех вокруг. Апологеты джихада, наоборот, видят в Хатта-бе идеального моджахеда, не бояшегося пуль неверных». Однако представляется, дело тут вовсе не в фанатизме.
Будучи прагматиком, Хаттаб понимал: сперва нужно хорошенько зарекомендовать себя — и он, рискую жизнью, «работал на зачетку», создавая образ непримиримого борца. Он избрал путь моджахеда, но моджахеда нового типа — ярого сторонника «чистого» ислама, извлекающего из своего кровавого ремесла высокую меновую стоимость в долларовом эквиваленте. Аббас, как и остальные менеджеры «исламского» терроризма, сделал организованное насилие доходным бизнесом, и порой трудно разобрать, где заканчивается религия и начинается коммерция на крови. Впоследствии, уже став Хаттабом, он говорил:
«Все, кто приехал сюда, приехали без разрешения своих семей. Но если бы они слушались своих семей и вернулись бы домой, то кто бы делал дело, которое мы делаем здесь? Каждый раз, когда я звоню своей матери, она просит меня вернуться домой, ведь я не был там уже 12 лет. Но если бы я вернулся, чтобы увидеть свою мать, то кто бы продолжил мое дело».
После лечения в одной из арабских стран Хаттаб появился в Таджикистане, где на этот раз воевал против российских войск. Там же от взрыва гранаты он потерял два пальца, за что и получил кличку Ахмед-однорукий. На Северном Кавказе Черный араб объявился в конце февраля 1995 года во главе немногочисленного отряда своих телохранителей. Командировку «оформил» Усама бен Ладен, он же щедро выделил «подъемные» средства. Имея такие солидные капиталы и полномочия от зарубежных покровителей, Аббас активно включился в военные действия. Вместе с Хабибали Мохмадом Фатхи (Фаттахом) он сколотил батальон «Джамаат», объединив под своей рукой исламских экстремистов и наемников. Отряд дислоцировался в районе населенного пункта Шуани. Его первоначальная численность составляла около ста человек, вооруженных ПТУРами, ПЗРК «Стингер», несколькими бронетранспортерами и боевыми машинами пехоты. Для связи использовались самые последние армейские модели. На складах «Джамаата» были заготовлены большие запасы продовольствия, медикаментов и медицинского оборудования японского производства. Как человек очень осторожный и предусмотрительный, Хаттаб имел также несколько баз в районе населенных пунктов Карен-Беноя и Сержень-Юрт. Эти «волчьи логова» были хорошо оборудованы в инженерном отношении, тщательно замаскированы и надежно охранялись. Во время первой кампании 1994–1996 годов Хаттаб «отметился» несколькими успешными операциями против федеральных войск. Первая — нападение на блокпост федеральных войск вблизи населенного пункта Харачой в октябре 1995 года. По сообщениям прессы, 70 человек из отряда Хатта-ба якобы участвовали в налете Басаева на Буденновск и все остались живы. Зато доподлинно известно, что Черный араб держал «коридор» банде Радуева у поселка Первомайский.