В ночь с 28 на 29 июня 1174 г. был убит заговорщиками в Боголюбове. Убийству князя была посвящена специальная «Повесть», включенная в Лаврентьевскую летопись. Инициатором заговора стал любимый слуга князя Яким — князь когда-то казнил его брата. Возглавил же заговорщиков друг ой зять боярина Кучки — Петр; с ним были сыновья Кучки и ключник князя Анбал, родом яс — осетин. Накануне убийства он выкрал меч святого Бориса, который князь держал у себя в спальне. Ночью заговорщики, упившиеся для храбрости вином, выломали дверь в спальне, но князь — опытный и сильный воин — долго сопротивлялся им. Князь попрекал своих «милостников», сравнивая их в убийцами Бориса, но те изранили его мечами, саблями и копьями и бросили в спальне. Андрей нашел еще силы подняться и выбраться из покоев; перепуганные убийцы бросились по кровавому следу и добили князя во время молитвы. После этого они разграбили сокровищниц князя, разослав богатства по своим домам. Наутро князя, лежащего во дворе, увидел его слуга Кузьма, пришедший с ним из Киева: убийцы хотели оставить его на съедение псам, но преданный Кузьма добился того, чтобы отворили церковь. Андрей был похоронен в построенном им Успенском соборе.
Князь не достиг вожделенного самовластья — монархического правления. Но даже описание его смерти составлено по византийскому образцу — так был убит в 969 г., по описаниям греческих хроник, византийский император-самовластен, Никифор Фока; убийц возглавил приближенный к нему полководец Иоанн Цимисхий — будущий император и победитель князя Святослава. Правда, Цимисхий именует Никифора «тираном» — правителем, правившим беззаконно. На Руси это понятие оставалось неизвестным — власть русского князя не могла быть «незаконной», он имел право на власть по рождению — принадлежности к княжескому роду. Традиционный «ряд» и «дружинные» отношения ограничивали власть русского князя — Андрей решился преступить их, и это его погубило. «Где закон, там и обид много», — оправдывает князя русский летописец. Как и Никифор Фока, Андрей Боголюбский был канонизирован православной церковью.
После убийства князя были разграблены княжеские дворы, перебиты тиуны и мечники. Но вскоре владимирцы, ростовцы и суздальцы собрались на вече — они оставались без князя и могли стать жертвой княжеских усобиц. Ростовские и суздальские бояре пригласили племянников Андрея, а те привели с собой «детских» из южной Русской земли. Новые князья с их дружинниками вызвали возмущение владимирцев и переяславцев своими грабежами, и тогда владимирский стол занял некогда изгнанный Андреем в Византию брат князя — Всеволод (1176–1212). В свою очередь, в изгнание отправился сын Андрея Юрий, ставший мужем грузинской царицы Тамары. Прозванный за многочисленное потомство (10 сыновей и 4 дочери) Всеволодом Большое Гнездо, князь продолжил политику брата и добился того, что русские князья признали его старейшим — великим князем. Без его поддержки южнорусские князья не решались претендовать на киевский стол, галицкий князь именовал Всеволода отцом и господином, а новгородцы звали на стол его сыновей, которые княжили и в Переяславле Русском. При нем возникли города Устюг, Кострома и другие. В 1183 г. князь совершил поход на Волжскую Болгарию, в котором принимали участие войска почти всех русских земель.