Зародилась ересь в результате внешнего воздействия. Им стало появление в Новгороде в 1470 году иудейского проповедника Захарии Скары. Влияние иудаизма в его караимской версии вполне отчетливо прослеживается в теологии «жидовствующих» и признается многими современными, в том числе и еврейскими историками. Впоследствии именно этот факт надолго испортит отношения между иудаизмом и русским православием, и положит начало государственному антисемитизму в России.
Первыми прозелитами иудейского проповедника стали новгородские книжники из местного духовенства, усомнившиеся в основных догматах православия на фоне бурных городских событий в канун присоединения Новгорода к Москве. Трудно упрекать новгородских священников в том, что они разуверились в христианстве, ведь каждый человек должен иметь свободу религиозного выбора. Но, изменив своей прежней вере, они предпочли остаться служителями церковного культа, и это двуличие изначально делало их положение нравственно уязвимым.
Переместившись затем в столицу, новгородские еретики нашли здесь единомышленников в высшей чиновной среде, и прежде всего среди дипломатов, заразившихся на Западе идеями гуманизма вкупе с псевдознанием (астрологией, алхимией, каббалой). Открывшаяся миру Россия впитывала достижения западной цивилизации, которые толкали к переосмыслению многих традиционных представлений, в том числе религиозных. На этом этапе ересь превращается в своеобразный клуб интеллектуалов-вольнодумцев, принадлежавших к тогдашнему высшему обществу. Господствующим настроением в этом клубе было враждебное отношение к православной церкви, которая представлялась просвещенным вольнодумцам главным тормозом на пути России в Европу.
Такое настроение соответствовало интересам государственной власти в лице великого князя Ивана III, который вынашивал планы полного подчинения церкви и захвата ее богатств. С этого времени еретическое сообщество превращается в придворную политическую группировку. Оказавшись между двумя могучими силами — государством и церковью, — еретики попали в жернова большой политики. Собственно религиозные разногласия с ортодоксальным христианством теперь уже играли подчиненную роль, главная борьба разворачивалась вокруг политических целей.
Если духовно-просветительский вклад «жидовствующих» выглядит достаточно скромным, то в российской политической истории пятнадцатого века эти люди оставили след весьма заметный, хотя и не всегда бесспорный. В своей внешнеполитической деятельности еретики ориентировались на запад и были инициаторами союза с Литвой. Этот курс поначалу соответствовал интересам бурно растущего Московского государства, но картина резко изменилась, когда с помощью православного населения Литвы Иван III начал отвоевывать земли, некогда входившие в состав Киевской Руси.