ورحل إلى المشرق، فلقي أبا جعفر النحاس، فحمل عنه كتاب سيبويه رواية، ولازم علان وناظره، وكان يذكر من دقة نظره وجودة قياسه. وقدم قرطبة فلزم التأديب بها في داره، فانجفل الناس إليه، ثم انتقل إلى أحد الحديريين فمكث عنده مدة، وقرئ عليه كتاب سيبويه، وأخذ عنه رواية، وعقد للمناظرة فيه مجلسا في كل جمعة. ولم يكن عند مؤدبي العربية ولا عند غيرهم من عني بالنحو كبير علم، حتى ورد محمد بن يحيى عليهم، وذلك أن المؤدبين إنما كانوا يعانون إقامة الصناعة في تلقين تلاميذهم العوامل وما شاكلها، وتقريب المعاني لهم في ذلك، ولم يأخذوا أنفسهم بعلم دقائق العربية وغوامضها، والاعتلال لمسائلها، ثم كانوا لا ينظرون في إمالة ولا إدغام ولا تصريف ولا أبنية، ولا يجيبون في شيء منها، حتى نهج لهم سبيل النظر، وأعلمهم بما عليه أهل هذا الشأن في الشرق، من استقصاء الفن بوجوهه، واستيفائه على حدوده؛ وإنهم بذلك استحقوا اسم الرياسة.
وكان من ذلك ذا وقار وسمت وصيانة، وتزاهة نفس، وكريم خليقة، وصحة نية، وسلامة باطن، إلى عفاف وحياء ودين، وكان له من قرض الشعر حظ صالح، وكان سريع الاستخراج للمعمى، جيد الفطنة فيه، وكتب إلي بأبيات طير فيها بيتا من الشعر -وقلما رأيت التطيير موزونا-:
اسمع ورد الجواب عما ... فيه أحاجيك بالمعمى
بيتا من الشعر ذا حدود ... تدعى حروفا وهن أسما
يبدأ فيها سم عجيب ... ما إن يرى تحته مسمى
وبعده اسم الرئيس فيها ... أميرها والمطاع حكما
مكرر فيه وهو فرد ... في غير إذ تخط رسما
والنسر يتلوه وهو فيه ... أقصى حروف الذي يعمى
ثم الشقراق وابن ماء ... وبالحبارى يجد عزما
والديك والصقر والقماري ... مع الحبارى، فقدك علما