لما احتضر أيوب بن سليمان بن عبد الملك دخل عليه أبوه وهو يجود بنفسه ومعه عمر بن عبد العزيز وسعد بن عقبة ورجاء بن حيوة فخنقته العبرة وقال ما يملك العبد أن يسبق إلى قلبه الوجد وليست منكم وحشة وإني أجد في قلبي لوعة إن لم أسكنه بعبرة انصدعت كبدي كمدا وأسفا فقال عمر بن عبد العزيز يا أمير المؤمنين الصبر أولى بك فنظر إلى سعد ورجاء نظرة مستغيث فقال له رجاء يا أمير المؤمنين افعل ما لم تأت الأمر المفرط فقد بلغني أن رسول الله صلى الله عليه و سلم وجد على ابنه إبراهيم قال تدمع العين ويحزن القلب ولا نقول ما يسخط الرب فبكى سليمان بكاء شديدا ثم رقأت عبرته وغسل وجهه ثم مات أيوب فلما فرغ من دفنه وقف على قبره فنظر إليه ثم قال (وقوف على قبر مقيم بقفرة... متاع قليل من حبيب مفارق) ثم قال السلام عليك يا أيوب ثم قال (كنت لنا أنسا ففارقتنا... فالعيش من بعدك مر المذاق) وقربت إليه دابته فركب ثم عطف إلى القبر فقال (فإن صبرت فلم ألفظك من شبع... وإن جزعت فعلق منفس ذهبا).