В 1903 году Толстой записал в дневнике, что другие его планы «много важнее глупого Х[аджи] М[урат]а» (ПСС, LIV, 178), но позднее признался своему биографу Павлу Бирюкову, что, навещая свою сестру в монастыре, отделывал повесть. Бирюков вспоминает:
Это было сказано тем тоном (простите за вульгарное выражение), каким школьник рассказывает своему товарищу, что он съел пирожное. Он вспоминает испытанное наслаждение и стыдится признаться в нем (ПСС, XXV, 629).
События, описанные в повести, – переход легендарного мятежника на сторону русских, его побег и гибель, – пришлись на время службы Толстого на Кавказе. История Хаджи-Мурата взволновала начинающего писателя, он много рассказывал о ней яснополянским школьникам. И через полвека вернулся к давним воспоминаниям, дополнив их сведениями из обнародованных с тех пор документов.
Толстой начал писать «Хаджи-Мурата» в 1890-х годах; после возвращения из Гаспры он возобновил работу и почти закончил ее в 1904 году, но и позже снова и снова обращался к повести. К этому времени он был уже радикальным пацифистом, и все же не мог скрыть своей завороженности фигурой свирепого и безжалостного воина. Повесть начинается с описания цветущего в поле репейника, сохранившего свою дикую красоту даже под плугом, но мгновенно увядшего и поблекшего после того, как он был сорван человеческой рукой. Первоначально Толстой намеревался назвать повесть «Репей».
В 1904 году, когда Толстой писал «Хаджи-Мурата» новая большая война началась на Дальнем Востоке. Впервые в своей истории Россия воевала с Японией. Реакция Толстого на эти события была страстной и предсказуемой. Народы обеих стран ожидали военные тяготы и лишения, людей насильно отрывали от семей и повседневного труда, обучали убивать и посылали на смерть ради отдаленных кусков территории, не нужных большинству русских и японцев. В статье «Одумайтесь!» Толстой обрушился не только на ритуализованное массовое убийство, которое представляла собой война, но и на идеологию племенного патриотизма, заражавшую людей ненавистью к другим народам и расам. Согласно его интерпретации Евангелия, пятая заповедь Христа запрещала рассматривать другого как врага и делить людей на племена.
Тем не менее он тяжело переживал известия о поражениях русской армии. Его дочь Татьяна вспоминала: узнав о том, что русские войска оставили Порт-Артур, отец сказал, что в его время крепостей не сдавали врагу, не взорвав их. Присутствовавший при этом разговоре и «задетый за живое словами своего учителя» толстовец заметил, что это привело бы к жертвам. «Что вы хотите? – ответил Толстой, – раз ты военный, ты должен исполнить свой долг»