Der Tradition zufolge haben die Familie der Umayyaden (auch bekannt als die Banu Abd-Shams) und der islamische Prophet Mohammed einen gemeinsamen Vorfahren, Abd Manaf ibn Qusai. Muhammad stammte über seinen Sohn Hashim von Abd Munaf ab, die Umayyaden stammten über einen anderen Sohn, Abd-Shams, von Abd Munaf ab. Die beiden Familien werden daher als verschiedene Clans (die der Hashim bzw. der Umayyaden) desselben arabischen Stammes (der der Quraisch) betrachtet.
Die Umayyaden und die Hashimiten waren erbitterte Rivalen. Die Rivalität entstand aus der anfänglichen Opposition von Abu Sufyan ibn Harb, dem Enkel der Umayyaden, zu Mohammed und zum Islam. Er versuchte, sich der neuen Religion durch eine Reihe von Kämpfen zu entledigen. Doch schließlich akzeptierte er den Islam, wie auch sein Sohn (der künftige Kalif Muawiyah I.), und die beiden stellten das dringend benötigte politische und diplomatische Geschick für die Verwaltung des rasch expandierenden islamischen Reiches zur Verfügung.
Die Ursprünge der Herrschaft der Umayyaden gehen auf die Ermordung Uthmans im Jahre 656 zurück. Zu dieser Zeit wurde Ali, ein Mitglied des Hashim-Clans und ein Cousin des Propheten Muhammad, Kalif. Er stieß bald auf den Widerstand mehrerer Fraktionen und verlegte seine Hauptstadt von Medina nach Kufa. Der daraus resultierende Konflikt, der von 656 bis 661 dauerte, wird als "First Fitna" ("Zeit der Prüfung") bezeichnet.
Ali wurde zunächst von einem Bündnis unter Führung von Aisha, der Witwe Muhammads, sowie Talhah und Al-Zubayr, zwei Gefährten des Propheten, bekämpft. Die beiden Seiten trafen 656 in der Kamelschlacht aufeinander, in der Ali einen entscheidenden Sieg errang.
Als Ali 661 ermordet wurde, marschierten die Muawiyah nach Kufa. Dort überredete er eine Reihe von Alis Anhängern, ihn anstelle von Alis Sohn Hasan als Kalifen zu akzeptieren. Dann verlegte er die Hauptstadt des Kalifats nach Damaskus. Syrien sollte bis zum Ende der Dynastie die Basis der umayyadischen Macht bleiben.