ولد الشّيخ محمد النخلي بالقيروان في شهر ربيع الأوّل سنة 1286هـ/1869م. يروى عن القدماء أنّهم نزحوا من بلد تعرف بقصر النّخيل تقع جنوب مكّة المكرّمة منهم من استوطن العاصمة بحيّ الحلفاوين أين يوجد نهج النخلي، ومنهم من نزل بالقيروان بربض خضراوة.

حفظ القرآن، وتلقّى مبادئ العربيّة بمسقط رأسه. ولمّا بلغ الثّانية عشرة شهد الاحتلال العسكري الأجنبي يقتحم بلده، ويتطاول على مقدّساته.

التحق بجامع الزيتونة المعمور في سنة 1314هـ/1886م، فانكبّ على الدّرس والتّحصيل، وتتلمذ على فطاحل علماء عصره في ذلك الوقت كالمشائخ سالم بوحاجب، والطيّب النّيفر، وعمر ابن الشّيخ، ومحمّد ابن يوسف، وغيرهم.

ترشّح لشهادة التطويع في السّنة الخامسة من دخوله للزيتونة، فأظهر نبوغاً وتفوّقاً. واصل سيره بالزيتونة لاجتياز مناظرة التدريس من الطّبقة الثّانية سنة 1895م، ثمّ الطّبقة الأولى سنة 1902م.

ساهم رحمه الله في الحركة الإصلاحيّة، حيث عاصر تأسيس الخلدونيّة في سنة 1896م، وكان عضواً ومدرّساً بها. وكان مدافعاً عن اللّغة العربيّة المهدّدة من قبل الاستعمار الأجنبي، إضافة إلى ما علق بذهنه في سنوات الدّراسة من ضعف التّحرير بالعربيّة عند جلّ الطّلبة.

شارك رحمه الله في تأسيس الجمعيّة الزيتونيّة في أوائل سنة 1906م، وكان ضمن هيئتها. وكان له نشاط كعضو بلجنة إصلاح التّعليم العربي بالمدرسة الصّادقيّة، فوجد معارضة من مدير المعارف الفرنسي.

ولكن هذه الآراء الإصلاحيّة، لم تجد قبولاً من المستعمر الفرنسي، ممّا أدّى إلى معاقبته بعزله من الكاتب العام الفرنسي (روا) من عضويّة لجنة تنظيم الكتب بجامع الزيتونة. ومنع أيضاً من الترشّح للمجلس المختلط العقّاري خلال سنة 1907م معلّلاً بأنّ له أفكار مخالفة للسنّة.

توفّي رحمه الله بعد مرض لازمه مدّة في 11 رجب 1342هـ / 16 فيفري 1924م، ودفن من الغدّ بالقيروان.