Папа Иннокентий умер в 1216г., так и не узнав, какие беды принесет церкви его подопечный. Преемник Иннокентия, Гонорий III, который был наставником Фридриха, вскоре обнаружил, что на молодого императора религиозное воспитание оказало мало влияния и что тот не чувствует себя связанным чувством благодарности по отношению к папству. Фридрих обещал, что в обмен на императорскую корону он уступит сицилийский престол своему несовершеннолетнему сыну, а сам отправится в крестовый поход. Но став императором, не выказывал ни малейшего желания выполнить первое обещание и не слишком торопился выполнять второе. Гонорий был добросердечным человеком и не хотел думать плохо о своем бывшем воспитаннике. Он, хоть и не без укоризны, позволил Фридриху действовать на свое усмотрение. Но Гонорий умер в 1227 г., а его преемник, Григорий IX, уже не был склонен к компромиссам. Он не любил Фридриха и не доверял ему. Григорий выразил протест против удержания Сицилии за императором, предал Фридриха анафеме за то, что он не отправился в крестовый поход, и снова предал анафеме, когда тот все-таки отправился в Святую Землю. Успех Фридриха в Святой Земле, где он вернул Иерусалим христианам, был небескорыстным, поскольку он женился на наследнице Иерусалимского королевства; впрочем, и сами победы Фридриха были ненадежны, как ясно видела знать Иерусалимского королевства. Он умело воспользовался временной слабостью мусульман, чтобы достигнуть соглашения, которое легко могло быть нарушено, как только мусульмане восстановят свои силы. Но возвращение Иерусалима обеспечило ему уважение в Европе, и когда Фридрих, вернувшись, обнаружил, что на его итальянские земли вторглись папские войска, всеобщие симпатии были на его стороне. Нападение Папы на земли крестоносца, воевавшего в Святой Земле, взбудоражило общественное мнение христианского мира. Даже Людовик Святой, король Франции, был потрясен. И когда Папа вскоре стал проповедовать Священную войну против императора, сама эта идея стала казаться нелепой. Но Папа был непреклонен. Жестокое противостояние длилось весь период его понтификата и было продолжено его преемниками.
С материальной точки зрения Папа не мог соперничать с империей. Папство зависело от добровольных пожертвований верующих. Преимущество Папы заключалось в обширной, хорошо построенной церковной организации, главой которой он являлся, но он не мог рассчитывать ни на покорность всех своих епископов, ни на регулярное поступление причитающихся ему десятин и налогов. У него не было своей армии, если не считать рекрутов, набиравшихся в папском государстве. Он мог бы воззвать к сочувствию итальянских гвельфов, но те были повсюду слишком заняты борьбой с гибеллинами, чтобы чем-то еще помочь Папе. Даже его собственная Римская епархия часто изменяла ему. Римлянам нравилось править самостоятельно и назначать своих чиновников и сенаторов. Многие Папы были вынуждены половину своего понтификата провести в изгнании.