В мировую войну вступил начальником штаба Юго-Западного фронта — именно ему этот фронт был обязан громкими победами в 1914 г. Командовал Западным фронтом в тяжелый период отступления, вызванного нехваткой боеприпасов, но и здесь проявил себя блестящим полководцем, мастерски выведя свои армии из стратегического окружения, которое готовил им Людендорф. В 1915 г., когда Верховным Главнокомандующим, отстранив великого князя Николая Николаевича, стал сам царь, Алексеев был назначен у него начальником штаба, т. е. фактически главнокомандующим — конечно же, не царю, а ему приходилось решать все стратегические вопросы и осуществлять практическое руководство войсками. В этот период у него начала развиваться тяжелая болезнь почек, но генерал, сознавая легший на него груз ответственности, откладывал лечение до окончания войны.
После Февральской революции он стал и юридически Верховным Главнокомандующим. И был снят 22.5, когда высказался резко против "Декларации прав солдата", подписание которой было уже решено Керенским. Когда заслуженному полководцу, не потрафившему новому начальству, пришло неожиданное предписание об отставке, он горько усмехнулся и сказал Деникину, своему начальнику штаба:
"Рассчитали, как прислугу…"
Его отличали простота и удивительная скромность. Он никогда не лез на передний план, на первые роли. И трудился с редкой самоотдачей не ради красивой позы, а ради результата. Корнилова, дерзкого и решительного, всеобщее мнение прочило в Пожарские Белой гвардии. Алексеев стал ее Мининым. 30.10 в Петрограде, на чужой квартире, где его укрыли приближенные, он убедился в безнадежности положения столицы и выехал на Дон. Там, под прикрытием казачьих полков, — пусть пассивных, пусть нейтральных — он надеялся организовать ядро новой армии для спасения страны.
2 ноября приехал в Новочеркасск. Этот день стал новой точкой отсчета. Позже он был признан в антикоммунистических кругах как официальная дата рождения Белого Движения.
Атаман А. М. Каледин встретил его сочувственно. Но уже и на самом Дону обстановка оказалась крайне сложной. Вовсю шли конфликты между казаками и «иногородними» — крестьянами, поселившимися здесь позже казаков. Теперь они объявляли себя большевиками, желая передела в свою пользу казачьих земель. Начались конфликты между старыми станичниками, отстаивавшими традиционные казацкие порядки, и молодыми фронтовиками, которые возвращались домой изрядно развращенными, отвыкшими от труда, отравленными политикой и агитацией. Каледин опасался, что формирование Алексеева может обострить ситуацию. Убежище предоставил, но просил при первой возможности перебраться за пределы области например, в Ставрополь.