Под впечатлением от подобной угрозы многие из жителей обратились в христианство или мусульманство, но кое-кто воздержался от этого. Хотя вскоре во время еще продолжавшейся кампании халиф аль-Мамун умер и так и не вернулся, чтобы привести свою угрозу в исполнение, после встречи с ним горожане сообразили, в сколь опасном положении оказались бы, если бы снова были поставлены перед выбором. Поэтому они назвались сабинянами по имени одной из разрешенных кораном религий и объявили своим пророком не кого иного, как Гермеса Тризмегиста, писания которого у них имелись в форме «Корпус Герметикум». По счастью, никто — и меньше всех мусульмане — не знал, кто такие эти сабиняне и во что вообще они верили, так что этого оказалось достаточно, чтобы обеспечить им защиту закона. С тех пор христианские сабиняне стали признанной группой со своей собственной религией.
Хотя многие — если не большинство — харраняне оставались простыми язычниками, для которых религия значила чуть больше сохранения религиозных ритуалов, среди них встречались и люди философского склада ума. Это были высокообразованные люди, сообразившие назвать признанный законом сборник «Герметик», или речей Гермеса, в качестве своих священных книг. Что же касается арабов, то Гермеса следовало отождествить с Идрисом, как они называли Еноха, а упоминавшийся в «Герметиках» Осирис был отождествлен как Сиф — третий сын Адама. Подобный расклад удовлетворил всех, и на протяжении следующих двух столетий мусульмане оставляли более или менее в покое харранских сабинян, позволяя им следовать своим догматам. Воспользовавшись своим новым положением, некоторые харраняне перебрались в Багдад. Лидер этой группы Сабит ибн Курра стал известен как учитель, писавший свои труды на арабском и переводивший с древнегреческого и арамейского на арабский. Следующие полтора столетия сабиняне, все еще оставаясь изолированной сектой, пользовались привилегированным положением в багдадском обществе, служа каналом передачи античной мудрости арабам.
Однако подобное счастливое состояние их дел не могло длиться вечно. Золотой век халифата завершался, и империя, которой правили аль-Мансур, ар-Рашид и аль-Мамун, стала распадаться. Багдадские халифы уступили власть правителям провинций и турецким полководцам, которые были их номинальными вассалами. С возвышением бувайхидов в качестве «дворцовых мэров» халифы стали лишь теневыми первоосвященниками. Со временем религиозные ортодоксы набирались сил за счет подавления более либеральных течений в мусульманстве, позволявших процветать таким группам, как сабиняне. Указанный процесс ускорился, когда по «приглашению» халифа в 1055 году Багдадом завладели сельджуки, а их лидер Тогрул-бек стал султаном Востока и Запада. К несчастью для сабинян, сельджуки, будучи поборниками суннитской ортодоксии, косо смотрели на философов-последователей Гермаса.