Все сказанное должно было необычайно вдохновить далекого автора письма к царю. Тогда вся еврейская история была полна легенд о потерянных после ассирийского и вавилонского пленения еврейских коленах, которые якобы где-то там, за мифической рекой, существуют и придут в конце времен, чтобы собрать евреев, рассеянных по земле. Хазарское царство в этом смысле естественно воспринималось как заря новой эры.
Евреи жили в Хазарии давно. В начале VI века, после резни, связанной с гражданской войной в Иране, некоторая часть евреев бежала сначала на Кавказ, а потом осела по соседству с хазарами на Тереке, еще до начала истории Хазарского каганата. Поселенцы мирно пасли скот, стараясь не ссориться с соседями, и исповедовали свою веру, о которой мы знаем лишь то, что она была крайне упрощена. Один из древнееврейских источников, известный как «кембриджский аноним» (по местонахождению рукописи), называл их евреями колена Симова, позабывшими веру предков. О хазарах той поры он сообщает, что те жили «без закона и без письма». И письмо, и закон были приняты хазарами много позже. Те же первоначальные евреи-переселенцы, как сообщает аноним, «породнились с жителями той страны, и смешались с язычниками, и научились делам их».
В «Хазарской книге» Иегуды Галеви рассказывается, что, решив принять иудаизм, царь Булан поведал о своих видениях своему «визирю», и они вместе пошли в пустынные горы и нашли пещеру, «в которой некоторые из иудеев праздновали каждую субботу», там они открылись им, приняли их веру и совершили обрезание; мало-помалу они открыли свою тайну всем приближенным, а когда сторонников новой веры стало много, они «осилили» остальных хазар и заставили их принять иудаизм. Когда это произошло, неясно. Называемая в комментариях к «еврейско-хазарской переписке» цифра – 740 год – кажется правдоподобной. Что касается того, какой иудаизм восприняли вчерашние язычники, можно лишь строить предположения. Несомненно, эта вера очень отличалась от правильного раввинистского иудаизма, что признает и царь Иосиф, сообщая в своем письме, что только внук Булана, царь Обадия, «поправил царство и утвердил веру надлежащим образом и по правилу. Он выстроил дома собрания и дома учения и собрал мудрецов израильских, дал им серебро и золото, и они объяснили ему 24 книги священного писания, Мишну, Талмуд и сборники праздничных молитв…» В конце концов хазары обрели, надо полагать, «правильную» веру. Гаон Саадия (882—942), возглавлявший талмудическую академию Багдада, неоднократно в своих писаниях упоминает хазар; в частности, он так рассказывает об одном месопотамском еврее, отправляющемся в Хазарию на поселение, как будто это случалось чуть ли не ежедневно… Авраам ибн Дауд сообщал, что в Толедо ему доводилось видеть потомков знатных хазар, «которые были ученые (талмудисты)…» Хазария несомненно обрела известность среди еврейства и вошла в еврейский мир, но в то же время на хазар поглядывали с опаской: «…воинственные тюрки-иудеи казались, наверное, раввинам невидалью, вроде единорога, подвергнутого обрезанию», – едко замечает Артур Кестлер.