وحكى أن أبا جعفر العتبى وزير السلطان ألزم أبا عبد الله عن أمر السلطان أن يتقلد ديوان الرسائل فامتنع فقال له هذا قضاء القضاة بكور خراسان ولا تخرج عن حد العلم ولو عرفت اليوم فى مشايخ خراسان من يدانيك فى شمائلك لأعفيتك فبكى أبو عبد الله وقال له إن أعفانى السلطان عن هذا العمل فبفضله على وعلى أصحابى بهراة وإن أكرهنى عليه لبست مرقعة وخرجت على وجهى حتى لا يعلم بمكانى أحد فأعفى
وعن أبى عبد الله ما مست يدى دينارا ولا درهما منذ ثلاثين سنة هذا مع كثرة أمواله وصدقاته
قال الحاكم سمعت أبا عبد الله بن أبى ذهل يقول سمعت أبا بكر الشبلى وسئل عن الرجل يسمع الشئ ولا يفهم معناه فيتواجد عليه لم هذا فأنشأ الشبلى يقول
(رب ورقاء هتوف بالضحى ... ذات شجو صدحت فى فنن)
(ذكرت إلفا ودهرا سالفا ... فبكت حزنا فهاجت حزنى)
(فبكائى ربما أرقها ... وبكاها ربما أرقنى)
(ولقد تشكو فما أفهمها ... ولقد أشكو فما تفهمنى)
(غير أنى بالجوى أعرفها ... وهى أيضا بالجوى تعرفنى)
استشهد ابن أبى ذهل فى رستاق خواف من نيسابور بعد ما خرج من الحمام لطخ ثوبه وألبسه فمات لتسع بقين من صفر سنة ثمان وسبعين وثلاثمائة