Арабы, в отличие от ортодоксальной христианской церкви, не пытались навязать покоренным религиозное единообразие. Таким образом, переход власти к арабам принес облегчение и удобство еретическим сектам и иудеям. Быстро смирились с завоеванием и мелькиты — ортодоксальные христиане, когда увидели, что мусульмане их особо не преследуют и налоговый гнет завоевателей гораздо слабее, чем под властью Византии.
Христиане, евреи и персы-зороастрийцы должны были платить джизью — подушный налог, тогда им обеспечивалась свобода веры и они становились джиммис — охраняемыми народами. Вскоре джизья превратилась в плату за освобождение от воинской службы и к ней был добавлен харадж — земельный налог. Каждая конфессия покоренных народов рассматривалась арабами как милет — полуавтономная община во главе со своим религиозным вождем, который отвечал за ее лояльность и добронравие. Таким образом, верность по отношению к религии на многие века на Ближнем и Среднем Востоке заняла место верности по отношению к национальности.
Джиммис не разрешалось ездить на лошадях, носить оружие, пытаться обратить мусульман в свою веру, жениться на мусульманках, они обязаны были лояльно относиться к мусульманскому государству. Однако стоило неверному принять ислам, как он вступал в ряды правоверных и получал все преимущества господствующего класса.
Византийские императоры во всех своих переговорах и договорах с халифами приняли на себя ответственность за ортодоксальных христиан, живших в завоеванных арабами странах, поддерживая таким образом идею единства и неделимости христианства. У христианских еретических сект такого покровительства не было. Поэтому в ислам, отстоявший достаточно близко от христианства, переходили в гораздо большем количестве представители еретических сект, нежели ортодоксального христианства.
На покоренных мусульманами землях оставалось все же большое количество людей, не исповедовавших ислам. Постепенно первоначальный религиозный порыв ислама, провозгласивший священную войну против неверных, выдохся под влиянием необходимости сосуществования, повседневных отношений с малыми и большими группами людей, исповедовавших другие религии. Арабы оказались этнически разбавленными вовлечением в ислам больших масс, сохранивших связь со своими немусульманскими народами. Ранее всего это произошло именно в Сирии, объявленной вначале землей джихада. Таким образом, в отличии от христианских Римской и Византийской (Греческой) церквей, ислам стал отличаться терпимостью.
При взятии Иерусалима в 638 г. мусульмане не тронули живших в нем христиан, как и церковные здания при Гробе Господнем. Мусульмане никогда на них не претендовали.
В конце VII в. на Храмовой горе в Иерусалиме руками византийских мастеров была воздвигнута восьмиугольная мечеть Куббат ас-Сахра («Купол над Скалой»). Со Скалы, на которой, по мусульманскому преданию, Мухаммед оставил след ноги, еще и сегодня почитаемый мусульманами, пророк вознесся в небо на крылатом коне аль-Бурак («Молния») с головой прекрасной женщины и хвостом павлина, и там архангел Джибрил (Гавриил) передал ему заветы Божьи, начертанные на ткани из серебра. В небольшой башенке возле скалы хранятся три волоска из бороды Мухаммеда. В начале VIII в. вблизи Купола над Скалой, на Храмовой горе, на месте иудейского Храма и римского храма Юпитера, была построена крупнейшая городская мечеть аль-Акса — в честь ночного путешествия Мухаммеда из Мекки в Иерусалим, после чего, как мы уже говорили, он вознесся в небо на встречу с архангелом.