Император Александр II начал приобщать сына к государственной деятельности: он присутствовал при докладах министров императору, состоял членом Государственного Совета и Комитета министров. В качестве наследника престола состоял атаманом всех казачьих войск. В 1868 г., во время сильного неурожая в разных губерниях, цесаревич был назначен председателем Особого комитета по сбору и распределению пособий голодающим.
28 октября 1866 г. он вступил в брак с принцессой Марией Софией Фридерикой Дагмар, дочерью короля Дании Христиана IX, получившей в православии имя великой княгини Марии Федоровны. Причем необходимо отметить, что она была ранее невестой его покойного брата Николая Александровича и этим поступком он как бы «прикрыл» девушку, так как из-за неудавшегося брака ее могли посчитать «бракованной невестой», а так честь ее была соблюдена и в Европе на него стали смотреть как на рыцаря.
В 1868 г. цесаревич был произведен в генерал-лейтенанты. Русско-турецкая война 1877–1878 гг. дала возможность великому князю на практике ознакомиться с военным делом: он командовал 40-тысячным Западным (Рущукским) отрядом, задача которого состояла в задержании движения турецких войск, расположенных в крепостях Шумле и Силистрии, и в охране тыла действующей армии. В 1877 г. он был произведен в генералы от инфантерии, награжден орденами Св. Владимира 2-й и 1-й степеней с мечами, а в ноябре 1877 г. — орденом Св. Георгия 2-й степени.
По окончании войны наследник командовал Гвардейским корпусом. В этот же период он образовал Общество Добровольного флота под председательством К. П. Победоносцева, собиравшее пожертвования на строительство нового поколения военных судов России. С 1880 г. Александр Александрович командует войсками гвардии Петербургского военного округа. Одновременно принимает участие в заседаниях высших государственных учреждений, оказывая влияние на ход внутренней политики последних лет царствования императора Александра II.
Александр Александрович вступил на престол после убийства народовольцами отца. Сын не стал продолжать реформы, начатые покойным, считая, что либеральная политика губительна для России, ведет к разрушению великой страны. В начале царствования Александра III внутри правительства разгорелась борьба между либеральными и консервативными министрами. Сам Александр III придерживался консервативных взглядов. 8 марта 1881 г. он отверг проект конституции, составленной министром внутренних дел М. Т. Лорис-Меликовым. В ней предлагалось ввести общероссийский представительный орган. Выслушав сторонников и противников проекта, император закрыл заседание и более не возвращался к этой теме. 29 апреля 1881 г. император обнародовал Манифест «О незыблемости самодержавия», составленный К. П. Победоносцевым и М. Н. Катковым, основная мысль которого состояла в гибельности реформаторства и европеизации России, и декларировался поворот в правительственной политике. После этого подали в отставку М. Т. Лорис-Меликов, Д. А. Милютин, А. А. Абаза и другие либеральные деятели прежнего царствования.