Григорий VII начинает обновление Церкви, требуя, чтобы при назначении епископов и священников принимались во внимание их вера и добродетель, а не богатство и знатность. При этом каждый, кто купил свою должность, должен смещаться. Григорий VII заботится о том, чтобы осуществить это на практике, и отдает необходимые распоряжения. Для этой цели он использует легатов и своих личных посланников, облеченных правом смещать епископов и священников. Вновь подтверждается право папы назначать епископов, император лишается священного сана и становится мирянином, который в религиозных вопросах должен, как и все, подчиняться Церкви. Григорий VII пытается препятствовать тому, чтобы избранные епископы больше думали о своих земельных владениях, чем о спасении души.
Но его деяния приходятся не по вкусу в Германии, где бытует обычай давать в управление епископам и аббатам большие владения; больше всего этим недоволен император, который хочет сам ставить епископов и аббатов. После продолжительной борьбы («борьбы за инвеституру») папа отлучает непокорных епископов, а также императора Генриха IV и разрешает его подданных от присяги. Германские князья, воспользовавшись этим, объявляют Генриху IV, что, если он не снимет с себя отлучения, они выберут нового императора. Генрих, понуждаемый этими обстоятельствами, отправляется с покаянием в Каноссу, где в то время гостит Папа; прежде чем быть принятым папой, он три дня стоит под стенами замка, затем папа снимает с него отлучение. В это же самое время германские князья избирают нового императора, но Григорий VII никому не отдает предпочтения: от обоих он ждет соблюдения церковных законов. Тем временем Генрих IV овладевает ситуацией, одерживает верх над своим противником и вновь ставит епископов и аббатов без участия папы. На синоде в Риме Григорий VII вновь отлучает Генриха IV.
В ответ Генрих IV, укрепивший свои позиции, избирает Виберта Равеннского антипапой под именем Климента III и идет походом на Рим. Он захватывает пол-Рима, предлагает папе союз и обещает низложить «антипапу» при условии, что будет вновь венчан императорской короной. Многие кардиналы советуют папе заключить мир с Генрихом IV, но Григорий VII предпочитает изгнание и там, через короткое время, 25 мая 1085 года, умирает. Его последними словами были: «Я любил справедливость и ненавидел беззаконие, поэтому умираю в изгнании».
Почти все земли Малой Азии были заняты турками, которые угрожали и Византии. Арабы-мусульмане разрешили паломничество в Святую Землю, но теперь из-за турков это становилось все более трудным и опасным. С другой стороны, император Востока призывал рыцарей выступить, чтобы отвратить опасность, нависшую над Константинополем. Папа Урбан II надеялся устранить раскол с помощью крестового похода. Рыцарство всей Европы было готово сражаться за благое дело.