19 марта 1896 года Столетов пишет Михельсону:
«После двух претерпенных болезней в январе и феврале, я до сих пор не выхожу из инвалидного состояния: очень истощены силы и поправляются медленно. Едва кое-как, с перерывами, дочитал лекции, и почти безвыходно сижу дома. Не знаю, поправлюсь ли к апрелю (месяц экзаменов!)».
В апреле 1896 года ему становится так плохо, что только невероятным усилием воли он заставляет себя приступить к экзаменам. Но силы его иссякают, и он ложится в постель, прервав экзамены. Друзья навещают его. Он делится с ними планами на будущее. «Скорей бы поправиться, я уеду в Киев», — говорит он своим товарищам.
Мысль уйти из университета, в котором прошла вся его научная жизнь, все настойчивее возвращается к нему. В Киеве он рассчитывает продолжать писать курс опытной физики. Там он рассчитывает встретить сочувствующую ему среду. Правда, в Киеве теперь уже нет Авенариуса. Но там остались его ученики. Он, Столетов, тоже принимал участие в их воспитании. Они приезжали к нему в физическую лабораторию. И вот теперь, на склоне лет, он думает уехать к ним в Киев. Столетов говорит своему другу Тимирязеву о совершенно определившемся решении уйти в отставку, уйти из среды, омрачившей его жизнь. У него уже нет сил выносить травлю. «Бывали у меня неприятности и похуже, — говорил он Тимирязеву, — да и силы были не те».
«Нет, не придется мне строить физический институт», — сказал как-то Столетов Соколову. Это предчувствие его не обмануло.
В середине апреля состояние здоровья ученого как будто бы улучшилось. Столетов стал строить планы уехать в мае в Крым. 16 апреля к нему пришел прощаться уезжавший на курорт Соколов. Друзья нежно простились, надеясь встретиться через некоторое время на курорте.
7 мая Столетов почувствовал себя настолько хорошо, что стал укладывать чемоданы, рассчитывая на следующий день выехать. Но в этот же день у Александра Григорьевича начались сильные боли в спине. К вечеру они настолько обострились, что он вынужден был лечь в постель.
Почувствовав приближение смерти, Столетов потребовал перо и бумагу и стал писать завещание. Свою богатейшую библиотеку Столетов завещал университету, в котором прошла вся его сознательная жизнь. Огромный шкаф с книгами Столетова и по сей день стоит в библиотеке физического института Московского университета, которой ныне присвоено имя Столетова. В своем завещании ученый просил похоронить его на родине, во Владимире.
На следующий день у Столетова обнаружилась инфлюенца, сопровождавшаяся воспалением легких и ослаблением сердечной деятельности. Александру Григорьевичу становилось все хуже.