Йосеф был последним правителем могущественного Хазарского каганата, и когда он отправлял в далекую Испанию свое письмо - не позже 961 года, то не знал еще, что дни его царства уже сочтены.
В конце восьмого - начале девятого века хазарский каган Овадия сделал иудаизм государственной религией. Это не могло произойти случайно, на пустом месте: наверняка уже тогда в Хазарии было достаточное количество евреев, говоря сегодняшним языком - некая "критическая масса", приближенных ко двору правителя, которые и повлияли на принятие такого решения.
Еще при Булане, который первым принял иудаизм, многие евреи переселились в Восточное Предкавказье, спасаясь от преследования мусульман. При Овадии, как отмечал арабский историк Масуди, "много евреев переселилось к хазарам из всех городов мусульманских и из Рума (Византии), потому что царь Рума преследовал евреев в своей империи, чтобы совратить их в христианство". Евреи заселили целые кварталы хазарских городов, особенно в Крыму. Многие из них осели и в столице Хазарии - Итиле. Каган Йосеф писал про те времена: Овадия "поправил царство и укрепил веру согласно закону и правилу. Он выстроил дома собрания и дома учения и собрал множество мудрецов израильских, дал им много серебра и золота, и они объяснили ему двадцать четыре книги Священного Писания, Мишну, Талмуд и весь порядок молитв".
Эта реформа Овадии, очевидно, не прошла спокойно. Хазарская аристократия в дальних провинциях восстала против центральной власти. На ее стороне были христиане и мусульмане; восставшие призвали на помощь мадьяр из-за Волги, а Овадия нанял кочевников-гузов. Византийский император и историк Константин Порфирородный писал об этом: "Когда у них произошло отделение от их власти и разгорелась междоусобная война, центральная власть одержала верх, и одни из восставших были перебиты, а другие бежали". Но хотя центральная власть и победила, возможно, что в этой борьбе погиб сам Овадия и оба его сына: иначе как объяснить тот факт, что после Овадии власть перешла не к его прямому наследнику, а к его брату?
Иудаизм продолжал оставаться государственной религией, и евреи жили в спокойствии на территории Хазарского каганата. Все историки тех времен отмечали веротерпимость хазарских правителей-иудеев. Под их властью мирно жили евреи, христиане, мусульмане и язычники. Арабский географ Истахри писал в "Книге стран": "Хазары - магометане, христиане, евреи и язычники; евреи составляют меньшинство, магометане и христиане - большинство; однако царь и его придворные - евреи… Нельзя выбрать каганом лицо, не принадлежащее к еврейской религии". Арабский историк Масуди писал в книге "Промывальни золота": в столице Хазарского царства "семь судей, двое из них для мусульман, двое для хазар, которые судят по закону Торы, двое для тамошних христиан, которые судят по закону Евангелия, один же из них для славян, руссов и других язычников, он судит по закону языческому, то есть по разуму". А в "Книге климатов" арабского ученого Мукаддаси сказано совсем просто: "Страна хазар лежит по ту сторону Каспийского моря, очень обширна, но суха и неплодородна. Много в ней овец, меду и евреев".
Были попытки сделать христианство государственной религией Хазарии. С этой целью отправился туда в 860 году знаменитый Кирилл - создатель славянской письменности. Он принял участие в диспуте с мусульманином и иудеем, и хотя в его "Житии" и написано, что он победил в споре, но каган все-таки не переменил религию, и Кирилл вернулся ни с чем. "Наши глаза устремлены к Господу, Богу нашему, и к мудрецам израильским, к академии, которая находится в Иерусалиме, и к академии, которая в Вавилонии", - писал каган Йосеф в своем письме. Узнав о том, что мусульмане в своих землях разрушили синагогу, хазарский каган даже приказал разрушить минарет главной мечети в Итиле и казнить муэдзинов. При этом он сказал: "Если бы я, право же, не боялся, что в странах ислама не останется ни одной неразрушенной синагоги, я обязательно разрушил бы и мечеть".