قال ابن وارة رحمه الله : حضرت أنا وأبو حاتم عند وفاة أبي زرعة ، فقلنا : كيف نلقن مثل أبي زرعة ؟ فقلت : حدثنا أبو عاصم، حدثنا عبد الحميد بن جعفر. وقال أبو حاتم : حدثنا بندار في آخرين، حدثنا أبو عاصم، حدثنا عبدالحميد، ففتح عينيه، وقال: حدثنا بندار، حدثنا أبو عاصم، أخبرنا عبد الحميد، حدثنا صالح بن أبي عريب، عن كثير بن مرة، عن معاذ، قال: قال رسول الله - صلى الله عليه وسلم -: «من كان آخر كلامه: لا إله إلا الله » وخرج روحه معه. ورئي أبو زرعة يؤم الملائكة في السماء الرابعة ؛ فقيل بم نلت هذه المنزلة قال برفع اليدين في الصلاة عند الركوع وعند الرفع منه. ورئي في المنام : ألحقوا أبا عبيد الله بأصحابه - يعني أبا زرعة - وهم: أبو عبد الله، وأبو عبد الله، وأبو عبد الله سفيان ومالك وأحمد بن حنبل .