Строй, заведенный Омаром, недолго сохранился после его смерти. Неизбежно было отклонение от обычаев степной жизни. Военные колонисты, поселенные в покоренных землях, начали сближаться с туземными жителями, принимать их понятия. Чем дальше, тем менее халиф в Медине мог удержать управление новым огромным государством. Сила и значение перешли к наместникам завоеванных областей. Первое место между ними занял сирийский наместник Моавия, из богатого мекканского купеческого рода Омейядов. Моавия отказал в повиновении халифу Али, двоюродному брату Мохамеда и мужу единственной дочери пророка.

В единой до тех пор общине верующего народа произошел раскол. Западные арабы и мекканское купечество держались Омейядов; они допускали вместе с тем ряд добавлений к Корану Мохамеда. Из добавлений составилась особая книга — Сунна; отсюда имя этой партии — сунниты. На другой стороне были мединцы и восточные арабы, поселенцы в бывших персидских областях. Они считали законным лишь халифа из семьи Мохамеда, старались очистить веру и удалить из нее все то, что не шло от самого Мохамеда; их название — шииты (раскольники). Была еще третья партия — непримиримых, отрицавших власть халифа вообще.

После смерти Али, убитого одним из непримиримых, халифом стал Моавия. Он не поехал в Аравию, а остался в Дамаске среди сирийских христиан и западноарабских поселенцев. Моавия и его преемники с новой силой повели завоевания. Они построили флот и захватили Кипр и Родос. Арабы направились также из Египта на запад вдоль североафриканского берега. Около 700 г. они отняли у империи Карфаген.