Перед лицом конфликтов и амбиций халифам требовались институциональные механизмы для сохранения власти. Они создали формальную структуру управления, разделив государство на провинции с губернаторами и военными властями, а также учредив суды для обеспечения соблюдения исламского права. Как и византийцы, они разработали систему сбора налогов, которые делились между провинциями и центром, и использовали доходы для оплаты (или покупки) солдат и чиновников. Они заключали менее формальные соглашения с племенами, которые способствовали завоеваниям или захватам.
В поисках посредников для управления империей мусульмане обращались к чужакам, причем не только как к союзникам, но и как к людям, которых можно было оторвать от родных общин. Люди с периферии или за пределами уммы уравновешивали собственных родственников и соплеменников правителя, для которых верность могла слишком легко превратиться в предательство. Личные клиенты (по-арабски - мавали) были крайне важны для халифа, свита, напрямую подчиненная ему , которая могла раздавать награды или наводить ужас от его имени. Высшие чиновники и генералы иногда были рабами, которых захватывали или покупали в юном возрасте, воспитывали во дворце, обращали в ислам и лишали всех связей, кроме связей с халифом. Некоторые должности занимали евнухи, которые не могли иметь собственных династических амбиций. Подобные стратегии ранее использовали византийцы и персы.
Таким образом, некогда тесно сплоченная умма, а теперь расширяющаяся империя, стала все больше зависеть от неарабских солдат - персов, курдов и особенно рабов из Евразии , говоривших на тюркских языках. Такие рабы обладали таинственностью и мастерством евразийских народов - они были бесстрашными солдатами и отличными наездниками. Если западноевропейский король полагался на вассалитет - отношения со знатными людьми, которые могли привлечь на службу своих сторонников, то халиф полагался на превращение людей без социального положения и родственных связей в зависимые инструменты, с помощью которых он осуществлял власть над подданными. Аристократия, основанная на влиятельных, местных семьях, заметно отсутствовала в исламских государствах.
Вершиной системы была взаимная зависимость халифа и его высшего чиновника, визиря, - отношения, наполненные эмоциями. В арабской литературе рассказывается о тесной связи между самым могущественным аббасидским халифом Харуном аль-Рашидом (786-809) и его визирем, выходцем из семьи Бармакидов из далекой долины Оксуса, который ранее набирал сторонников для аббасидской революции. В конце концов Харун начал бояться своего друга и визиря и приказал казнить его и его семью. Мы видим здесь интенсивность и хрупкость личных, но неравных отношений императора и посредника. Эту историю часто рассказывали как мораль: предостережение всемогущему визирю, обществу от корыстного иностранца, который встает между халифом и народом, а халифу - от того, что личная власть может привести к слепоте по отношению к подчиненным и безответственности по отношению к своему народу.
То, что разные исламские правители могли распространять свою власть на других и то, что ведущие подчиненные могли выходить из своих ролей, делало политику империи нестабильной. Аббасидские халифы могли попасть в зависимость от своих турецких солдат, которые в девятом веке навязывали свой выбор визиря, а в 869 году убили халифа. Как мы уже видели, возникли местные царства, лишь смутно признававшие религиозный авторитет аббасидского халифа, которые оставляли налоговые поступления себе. Богатая провинция Египет перешла под власть другой династии, Фатимидов. А после 945 года шиитская династия Буйидов некоторое время контролировала сам Ирак, оставив халифа главой только суннитской общины. Более сильным потрясением стали мусульманские тюркоязычные сельджуки, которые в 1055 году захватили Багдад, присвоили своему лидеру титул султана и оставили аббасидского халифа практически без временной власти. В 1258 году по Аббасидскому халифату был нанесен последний удар другой быстро растущей империей. Монголы из степей Внутренней Азии снова разграбили Баг дад, вырезали большую часть его населения, установили свое собственное правление и двинулись дальше, к новым завоеваниям (глава 4).
Другие халифаты столкнулись с подобными угрозами в мире ислама. В конце XII века Салах ад-Дин, курд по происхождению и военачальник сирийского правителя, бросил вызов Фатимидам в Египте, победил их и вернул шиитский оплот в лагерь суннитов. После смерти своего покровителя Салах ад-Дин захватил власть и стал доминирующей силой в Египте, Сирии и западной Аравии, включая Мекку и Медину. Он успешно противостоял европейским крестоносцам в Иерусалиме.