المقرئ، يقول: سمعت الحصين بن إبراهيم القطان بنيسابور يقول: سمعت أبا الفضل جعفر بن درستويه، يقول: سمعت علي بن المديني، يقول: مر بي حديثٌ فاحتاج بعض الحروف، فجعلت أتفكر أزيد فيه الحرف أم لا؟ فسمعت هاتفًا يقول: ﴿يا أيها آمنوا اتقوا الله وكونوا مع الصادقين﴾ فتركت الحرف.
أنبأنا أحمد بن محمد، عن أبي مكتوم، أخبرنا أبي إجازة، عن أحمد بن عبد الله المعدل، قال: أجاز لي ابن أبي حاتم، قال: سمعت أبي يقول: «كان علي بن المديني علمًا في الناس في معرفة الحديث والعلل، وكان أحمد بن حنبل لا يسميه إنما يكنيه أبا الحسن تبجيلًا له، وما سمعته سماه قط» .
قال ابن أبي حاتم: حدثنا علي بن الحسين بن الجنيد، قال: سمعت يحيى ابن معين، وقال له إنسان: علي بن المديني، فقال يحيى: «علي من أهل الصدق» .