Муавия сделал столицу своего бывшего сирийского наместничества Дамаск главной столицей халифата вместо прежней Медины. Власть халифов стала наследственной. За Муавией последовало более дюжины халифов Омейядов. В 750 г. кровавый переворот сверг Омейядов. К власти в Дамаске пришел Абу аль-Аббас ас-Саффах, ведший род от аль-Аббаса, дяди Мухаммеда. Он стал родоначальником династии Аббасидов. Все Омейяды были беспощадно перебиты, сумел спастись лишь Абд ар-Рахман, основавший в 756 г. на Пиренейском полуострове Кордовский халифат Омейядов. Халиф Аббасид аль-Мансур основал в 762 г. город Багдад, ставший резиденцией халифа и за короткое время достигший необыкновенного расцвета. И так как шииты постоянно устраивали заговоры с целью свержения халифов в пользу потомков Али, Аббасиды, прийдя к власти как родственники пророка и союзники шиитов, стали ортодоксальными суннитами, врагами шиитов.
Шииты отрицают светское правление в любых его формах. Если сунниты, стиснув зубы, признают Али Праведным халифом, то шииты первых трех халифов считают незаконными, а Омейядов и Аббасидов — узурпаторами. Сунниты, превосходящие шиитов по численности, считаются ортодоксами, в то время как шииты — раскольниками, сектантами.
С самого начала среди шиитов не могло быть единства, так как у Али было несколько жен. Главным в догматике шиитов было представление о Махди (Спасителе), потомке Али, который должен явиться уже вскоре, незадолго до Страшного суда, установить царство справедливости и обратить людей в истинную веру. Поэтому ряд имамов прервется, так как последний имам должен скрываться и пребывать невидимо, он-то и есть Махди. Раскол среди шиитов произошел затем и по поводу того, с каким по счету скрывшимся имамом должен прекратиться их ряд. В числе уже признанных скрывшихся имамов различали «пятого», «седьмого» и «двенадцатого». В конце концов возобладали сторонники исчезнувшего в 878 г. «двенадцатого имама» аль-Мунтазара, представлявшие умеренное крыло. Однако в VIII-X вв. были сильны сторонники «седьмого имама», видевшие Махди в седьмом имаме Исмаиле, исчезнувшем в 760 г. Они образовали экстремистское крыло и стали называться исмаилитами.
В 909 г. исмаилиты в ходе восстания захватили власть в Тунисе, а затем распространили ее на запад до Магриба (Марокко, Алжир, по-арабски — Запад) и на восток до Египта. Убайд Аллах был объявлен потомком Али от Фатимы, а затем провозглашен халифом. Фатимиды основали Каир, ставший их столицей в 973 г. В борьбе с Аббасидами Фатимиды завоевали также Палестину и часть Сирии и получили контроль над священными городами ислама Меккой и Мединой, помимо Иерусалима. Оба враждующих халифа, и каирский, и багдадский, со временем попали в полную зависимость от армии и бюрократии.
Четких различий между суннитским и шиитским учениями не было, и многие сунниты сочувствовали шиитам, а шииты служили Аббасидам. В крупных мусульманских городах сунниты и шииты мирно жили рядом друг с другом. Шиитам, когда они живут среди суннитов, разрешается скрывать свою веру. Убежденных фанатичных сторонников того и другого течения было немного, и народные массы без труда меняли религиозную ориентацию при ее изменении на верху государства. Так было в XII в. в Египте, ставшем суннитским, когда там был свергнут шиитский халиф Фатимид, так было в XVI в. в Иране, который стал шиитским после того, как там к власти пришла династия Сефевидов.
Исмаилитов преследовали постоянные расколы. В начале XI в. откололись друзы, получившие свое название по имени своего предводителя, проповедника Дарази, считавшие скрывшимся имамом — Махди — таинственно исчезнувшего (видимо, тайно убитого) в 1021 г. сумашедшего фатимидского халифа аль-Хакима, прославившегося жестокими преследованиями христиан. Когда в 1094 г. египетский визирь аль-Афдал сделал халифом не старшего непокорного сына халифа аль-Мустансира — Низара, а младшего — послушного аль-Мустали, многие исмаилиты отвернулись от Фатимидов и образовали в Иране экстремистскую секту низаритов. Их преследовали как еретиков, но они не покорились и позже стали известны как «ассасины».
Население завоеванных земель легко подчинилось арабам. Этому способствовала его этническая и религиозная разобщенность. Ереси V-VII вв. отделили от ортодоксального христианства несториан, монофиситов и монофелитов. Несториане — сторонники константинопольского епископа Нестория, учение которого подчеркивало человеческую сущность Христа, — распространились в Сирии, Месопотамии, Иране, Индии и Китае. Монофиситы, приверженцы александрийского епископа Евтихия, учение которого, напротив, приписывало Христу единственно Божественную сущность, распространились в Египте и Сирии. Позже монофиситы Сирии, объединенные епископом Яковом Барадеем, стали называться яковитами, а монофиситы Египта — коптами. К монофиситам примкнула и армянская церковь. Армяне и сирийцы-яковиты не любили греков сильнее, чем мусульман, не желая принимать навязываемый им ортодоксальной христианской церковью догмат о божественной и человеческой природах Христа. Попытка примирить учение монофиситов с ортодоксальным христианством привела к образованию в Сирии монофелитской секты маронитов, названной по имени своего основателя, отшельника и проповедника Мар Марона, утверждавшего, что Христос обладает двумя природами, но одной «богочеловеческой энергией». Сторонники ортодоксального христианства в Сирии и Египте оказались в меньшинстве по сравнению с еретиками, сохранив большинство только в городах Палестины. Их пренебрежительно называли мелькитами — людьми императора. Еще одной религиозной общиной были евреи, достигавшие значительной численности во всех городах Востока, лишенные в христианской Византийской империи гражданских прав.