Осенью 1075 г. завуалированная угроза низложения прозвучала и в адрес императора Генриха IV, когда тот провел инвеституру трех итальянских епископов, что стало формальным поводом для длительного конфликта папства с императорами, получившего в истории название «спор об инвеституре». В ответ император в январе 1076 г. собрал в Вормсе имперских епископов и объявил о низложении папы. В этом содержалось мало нового - Оттоны и Салии не раз смещали неугодных понтификов, но беспрецедентным стало решение папы отлучить от церкви отказавшихся подчиняться ему епископов и самого императора, и тем самым освободить его подданных от клятвы верности.
Отлучение развязало руки врагам императора. Герцоги заявили, что выберут другого короля, если Генрих пробудет под отлучением больше года. Епископы начали переходить на сторону папы. Император отважился почти без войска перейти зимние Альпы и неожиданно появился в Ломбардии, где его ленники и местные епископы готовы были воевать с папой до конца. Тем не менее переговоры в замке Каносса в январе 1077 г закончились униженным покаянием императора.
Получив перемирие, Генрих IV сумел удержаться на троне и взять реванш, избрав своего папу. Григорий VII умер в изгнании под защитой норманнов Роберта Гвискара. Но история запомнит не его печальную участь, а Каноссу - как самое яркое событие эпохи «борьбы за инвеституру». И это во многом справедливо, потому что, назвав Генриха IV в булле об отлучении «немецким королем», Григорий VII уравнял его империю с другими европейскими государствами, лишив универсального характера саму имперскую идею. Теперь принцип единства христианского мира обеспечивается главой церкви, который имеет право и даже обязан при необходимости призвать к порядку любого короля. В этом смысле «Каносса» символизирует один из самых критических моментов в истории идеи императорской власти как высшей власти на земле - момент, когда теократический дуализм ее природы подвергся оспариванию. С этого времени начинается новый период в истории империи и Западной Европы, выбравшей для себя уникальный путь развития, кардинально отличный от имперского наследия.
Несмотря на запреты пап, ни Генрих IV, ни его сын Генрих V (1106-1125) не хотели, да и не могли отказаться от поставления аббатов и епископов, что давало им рычаги контроля над церковной организацией - главной опорой их власти в империи, так что «борьба за инвеституру» продолжалась еще несколько десятилетий. Только во время понтификата папы Каликста II (1119— 1124) было найдено компромиссное решение, закрепленное в 1122 г. Вормсским конкордатом. Теоретическую базу для этого соглашения еще в конце XI в. подготовил теолог Иво Шартрский, обосновав различие между «духовным» и «светским» компонентами во власти прелата. Светские сеньоры имели право инвеституры применительно к светским прерогативам епископа и вводили его во владение пожалованными землями («инвеститура жезлом»), а посвящение в сан осуществлялось актом инвеституры церковной («кольцом и посохом»). Но при этом папа настаивал на канонической свободе выборов епископов и аббатов. И лишь в спорных случаях определяющим было мнение императоров, причем только в Германии, но не в двух других королевствах - Италии и Бургундии. Еще раньше этот компромисс приняли французский король Филипп I (1104 г.), и английский Генрих I (1107 г.), поэтому в этих странах «спор об инвеституре» не принял столь жесткой формы, как в Германии.