Но если бы дело было только в таможенных пошлинах и принадлежности Антиохии, едва ли отношения с западноевропейцами стали предметом острых разногласий. Существовало еще кое-что, что усугубляло проблему. Хотя и византийцы, и латиняне были христианами, у всех у них усиливалось впечатление, что другая сторона впала в ересь. В 1054 году Константинополь посетили три папских легата. Они приняли участие в дискуссии с патриархом. Главным в споре был вопрос верховенства. Патриарх сопротивлялся все более жестким притязаниям Папы на власть над всей Церковью, в том числе Константинопольской. Кроме того, были разногласия по вопросам богослужения, в частности по тому, служить ли литургию на пресном или квашеном хлебе. И наконец, самым серьезным был спор по поводу формулировки Никейского символа веры. Западная (Римская) церковь добавила к нему в догмате о Троице слово «Филиокве» («и Сына»), что означало, что Святой Дух исходит не только от Бога-Отца, но «от Отца и Сына». Византийцы считали это дополнение незаконным и даже еретическим. Когда договоренность не была достигнута, три папских легата вошли в собор Святой Софии и положили на алтарь отлучительную грамоту, предающую анафеме патриарха.
События 1054 года, конечно, не означали полного разрыва между византийской и западной церквями, но Первый крестовый поход обострил и подчеркнул разногласия. Когда Боэмунд захватил Антиохию, одним из первых его действий было изгнание греческого патриарха и замена его латинским, и то же самое произошло в Иерусалиме, где новые хозяева выбрали себе латинского патриарха. Алексей, в свою очередь, назначил собственных патриархов обоих городов, но проживали они в Константинополе. Имея в наличии две эти параллельно существующие иерархии, восточная и западная церкви фактически пребывали в состоянии раскола. В средневековом мире, где религия занимала главное место в повседневной жизни, этот раскол затрагивал не только епископов, но все общество в целом и имел важные политические последствия. Когда в 1107 году Боэмунд пошел походом на Византию в отместку за попытки Алексея отбить Антиохию, он заявил Папе, что это вполне оправданно, так как византийцы – раскольники. Таким образом он создал опасный прецедент для будущей агрессии со стороны западноевропейцев и еще больше встревожил тех, кто сомневался в полезности латинян.
Эти сомнения разделял сын и преемник Алексея Иоанн II. Он считал, что в отношениях с латинянами политически оправданно будет проявлять твердость. Взойдя на престол, Иоанн отказался продлевать налоговую льготу, предоставленную его отцом венецианцам, и дважды, в 1137 и 1142 годах водил свою армию на Восток по следам Никифора Фоки, чтобы вернуть Антиохию и подтвердить свой сюзеренитет над армянскими княжествами в Киликии. Во всех этих начинаниях он потерпел неудачу. Венецианцы не собирались терять полученные когда-то привилегии. Когда он отправился в Иерусалимское королевство на помощь крестоносцам, венецианский флот атаковал византийские порты и острова в Эгейском море. Последствия были столь разрушительны, что Иоанну пришлось отступить и возобновить договор на тех же условиях, что предоставил его отец. В Антиохии наследники Боэмунда теоретически признали власть Иоанна над собою, когда он стоял в непосредственной близости от города с мощной армией, но под разными предлогами тянули с принесением клятвы верности до тех пор, пока он не ушел наконец и не получил на охоте смертельное ранение. Кроме того, при решении вопроса с Антиохией Иоанн столкнулся с тем, что вопросы религии могут быть чрезвычайно опасны. Когда Папа узнал, что Иоанн удалил латинских епископов из городов вокруг Антиохии и заменил их греческими, он издал гневную энциклику, призывающую всех латинян в византийской армии немедленно покинуть ее под угрозой вечного проклятия.