يقول المؤرخون ومنهم الطبرى، لما انهزم مروان بن محمد، آخر خلفاء بنى أمية فى معركة الزاب، أمام جند العباسيين بقيادة عبد الله بن على العباسى، سار لا يلوى على أحد، فأقام قائد الجيوش العباسية عبد الله بن على فى مقام المعركة سبعة أيام، ثم سار خلفه بمن معه من الجنود، وذلك عن أمر السفاح له بذلك.
ولما جاء عبد الله بن على قائد الجيوش العباسية الى دمشق نزل على الباب الشرقي، ونزل صالح أخوه على باب الجابية، ونزل أبو عون على باب كيسان، ونزل بسام على الباب الصغير، وحميد بن قحطبة على باب توما، وعبد الصمد ويحيى بن صفوان والعباس بن يزيد على باب الفراديس، فحاصرها أياما ثم افتتحها يوم الأربعاء لعشر خلون من رمضان هذه السنة، فقتل من أهلها خلقا كثيرا وأباحها ثلاث ساعات، وهدم سورها.
ويقال: إن أهل دمشق لما حاصرهم عبد الله اختلفوا فيما بينهم، ما بين عباسى وأموى، فاقتتلوا فقتل بعضهم بعضا، وقتلوا نائبهم ثم سلموا البلد، وكان أول من صعد السور من ناحية الباب الشرقى رجل يقال له: عبد الله الطائي، ومن ناحية الباب الصغير بسام بن إبراهيم، ثم أبيحت دمشق ثلاث ساعات حتى قيل: إنه قتل بها فى هذه المدة نحوا من خمسين ألفا.
وقال ابن عساكر فى حديثه عن محمد بن سليمان بن عبد الله النوفلى قال: كنت مع عبد الله بن على أول ما دخل دمشق، دخلها بالسيف، وأباح القتل فيها ثلاث ساعات، وجعل جامعها سبعين يوما إسطبلا لدوابه وجماله، ثم نبش قبور بنى أمية فنبش قبر عبد الملك بن مروان فوجد جمجمته، وكان يجد فى القبر العضو بعد العضو، إلا هشام بن عبد الملك فإنه وجده صحيحا لم يبل منه غير أرنبة أنفه، فضربه بالسياط وهو ميت وصلبه أياما ثم أحرقه ودقَّ رماده ثم ذره فى الريح، وذلك أن هشاما كان قد ضرب أخاه محمد بن علي، حين كان قد اتهم بقتل ولد له صغير، سبعمائة سوط، ثم نفاه إلى الحميمة بالبلقاء.