بدأ سقوط الدولة الأموية في عصر مروان بن محمد آخر خلفاء الدولة الأموية، حيث كثر منازعو مروان بن محمد على الخلافة، وفي مقدمتهم أبو العباس الهاشمي أول خلفاء الدولة العباسية، وكان قد بايعهُ الفرس في أقصى الشرق "خراسان" بمساعدة أبي مسلم الخراساني، وكان قد أرسله إليها داعيًا وهو لم يبلغ التاسعة عشرة من العمر، لكنه أظهر همة ودراية لا تتفقان إلا بالرجال العظام؛ فتملك قلوب الناس، وجمع كلمتهم إليه، وحارب جيوش مروان في خراسان فظفر بها، فتقدم إلى العراق حتى أتى الكوفة فافتتحها، وخطب فيها لأبي العباس كما يذكر جرجي زيدان.
أما مروان فلم يظفر بحمص، وسار إلى الموصل فاضطهده أهلها فقنط من الفوز؛ فعاد على أعقابه إلى سوريا، فرآها مجمعة على عصيانه، فلم ير له ملجأ إلا مصر؛ لأنها كانت لا تزال إلى ذلك الحين على بيعته.
يقول جرجي زيدان في كتاب تاريخ مصر الحديث: من الفتح الإسلامي إلى الآن أما أبو العباس فلما استتب له الأمر في الكوفة جعل على البلاد التي صارت تحت حكمه ولاة اختارهم من ذويه، ثم بايعه أهل الشام ومن والاهم، وهكذا كانت نشأة الدولة العباسية التي أقيمت على أنقاض الدولة الأموية
ماذا فعل أبو العباس؟
ثم رأى أبو العباس تثبيتًا لقدمه في الخلافة أن يقتل كل من بقي من أبناء الدولة الأموية ودعاتها ولو بايعوه، فأمر بالقبض عليهم، وهم ثمانون نفسًا بين نساء ورجال وأولاد، فأمر بذبحهم معًا بغير شفقة؛ فلُقب من ذلك الحين بالسفاح، ولم ينجُ من هذه المذبحة إلا شاب يقال له: عبد الرحمن حفيد الخليفة هشام فرَّ إلى الأندلس (إسبانيا) وأسس فيها دولة أخرى أموية.
أما مروان فجاء مصر على أن يستبقيها له؛ فأرسل عبد الله عم أبي العباس أخاه صالح بن علي يقتفي أثره، وأمره أن يقبض عليه بأي وسيلة كانت، فسار صالح في جيش عظيم، ومعه أبو عون عبد الملك بن يزيد، ونزل على جبل يشكر حيث جامع ابن طولون اليوم، وكان قسمًا من الفسطاط في أول عهدها، ثم صار خرابًا. فأمر أبو عون أصحابه بالبناء فيه؛ فابتنوا وقاموا فيه معسكرهم، ودعوه بالعسكر، واتصل بناؤه ببناء الفسطاط، وبُنيت فيه بعد ذلك دار الإمارة، وجامع عرف بجامع العسكر، ثم عرف بجامع ساحل الغلة، وصار هناك مدينة ذات أسواق ودور عظيمة، وصار أمراء مصر ينزلون فيه من بعد أبي عون إلى أن بنى أحمد بن طولون القطائع، وأقام فيها قصره.
ثم أخذ صالح بن علي في مطاردة مروان، فأدركه في قرية بوصير من الجيزة، وقتله في 27 جمادى الآخرة سنة 132 هجرية وسنه سبعون سنة، وقال آخرون 59، ونقل رأسه إلى أبي العباس السفاح، وكانت مدة خلافة مروان خمس سنوات وشهرًا واحدًا، وهو آخر خليفة من الدولة الأموية بالشام.