Через год после смерти Харуна путем обещаний Мамуну удалось склонить на свою сторону вождя восстания Рафи ибн-Лейса. Свою роль в примирении Рафи ибн-Лейса с халифской властью, несомненно, сыграла позиция, которую занял Мамун по отношению к Алидам и шиизму.
В 811–813 гг. в Сирии происходили небольшие шиитские волнения, направленные против Амина. Как и восстание Рафи ибн-Лейса, сирийские восстания подсказали Мамуну политическую линию компромисса с шиизмом, и он воспользовался этим в личных целях. Шииты приобрели большое влияние при дворе Мамуна. Своим наследником Мамун объявил Алила Али Риза, визирем был назначен перс-шиит Фадль ибн-Сахль, который раздал все высшие административные должности своим родственникам и приверженцам.
Когда в 810 году Амин объявил наследником своего сына, Мамуна, лишенный права наследования, собрал войско, поставил во главе его знатного перса, талантливого военачальника Тахира, и выступил против брата. А войска Амина возглавил Али ибн-Иса, неистовые поборы которого вызвали восстание в Хорасане. В 811 году около Рея войска Мамуна нанесли поражение войскам Амина, и все области к востоку от Тигра перешли в руки Мамуна. В 813 году Тахир занял Месопотамию и штурмом взял Багдад; Амин был схвачен и убит.
В 821 году Тахир за свои военные заслуги был назначен наместником Хорасана. Год спустя, в одну из пятниц, когда в мечети совершалась молитва и, по обычаю, упоминалось имя правившего халифа, Тахир приказал опустить имя Мамуна. Попытка стать независимым от центрального правительства стоила Тахиру жизни.
В это время началось восстание Бабека. В связи с этим резко изменилась и политика Мамуна. В 818 году во время стоянки халифского лагеря у реки Аракса неожиданно погиб всемогущий до того времени визирь Фадль ибн-Сахль. Он был убит в бане собственными рабами. На допросе рабы заявили, что совершили убийство по приказу халифа. «Оскорбленный» Мамун тут же приказал распять рабов: он заметал следы: если бы даже кто-нибудь вздумал начать расследование, убийц уже не было в живых. В Тусе также неожиданно умер наследник Али Риза. Мамун все меньше проявляет склонности к шиизму.
В 830 году, в самый разгар борьбы халифата с Бабеком, началась война с Византией и одновременно — восстание в Египте. Сломив восстание, Мамун вернулся на северную границу, где и начал деятельно готовиться к наступлению на Византию. Было решено построить к северу от Тарса новую крепость, Тиану. Мамун лично руководил этой постройкой. Здесь его настигла смерть — 7 августа 833 года. Мамун оставил своим наследником своего брата Мутасима (833–842).
Положение для халифата было весьма угрожающим. Неудачная война с Византией содействовала расширению территории занятой азербайджанскими повстанцами во главе с Бабеком. Используя раздоры в Византии, Мутасим поспешил заключить мир.
После долгих усилий и подкупа сопротивление Бабека было сломлено. После казни Бабека снова начались военные действия между халифатом и Византией. Успешный поход Мутасима завершился присоединением Амории к арабскому халифату.
Начиная с правления Мутасима все большее влияние в обществе получают гулямы. Гулямы — рабы-гвардейцы, начинавшие свою военную карьеру еще мальчиками. Оторванные от семьи и своего племени, они проходили при дворце халифа длительный период выучки, основной целью которой было создание воина, беспрекословно преданного халифу и не имеющего связей с населением.
Из числа рабов рекрутировалась свита халифа; они же назначались халифом командующими другими войсковыми соединениями. Командующий таким войском приобретал не меньшее влияние, чем эмир.
Бесцветное правление халифа Васика, наследника Мутасима, ознаменовалось таким событием, как захват Мекки арабами-бедуинами, наложившими на священный город тяжелый налог.
При Мутеваккиле (847–861) борьба за установление единоверия принимает самые резкие формы. Халифатом был выпущен ряд эдиктов, запрещающих христианам и евреям появляться на улицах города в одеждах, одинаковых с одеждами мусульман. Христиан и евреев не принимали на государственную службу. Христианским и еврейским детям запрещалось учиться в мусульманских школах.
В 859 году рядом территориальных мероприятий Мутеваккиль пытается заставить армянскую знать принять мусульманство. По всему Кавказу поднялось большое движение против халифата. Халифатская армия огнем и мечом подавила армянское восстание и осадила Тбилиси. В результате применения огнеметательных снарядов город, окруженный деревянной стеной и состоявший в основном из деревянных домов, сгорел дотла. Заложники из числа армянской и грузинской знати были отправлены в столицу халифата, где часть из них была насильно обращена в ислам.