İlk ve ortaöğrenimini Diyarbakır’da tamamladı (1966). Yükseköğrenim için gittiği İngiltere’de önce Londra’daki bir kolejde okuyarak dilini geliştirdi, daha sonra Leeds Üniversitesinde Arapça ve Dinler Tarihi alanında lisans öğrenimini tamamladı. Doktorasını Manchester Üniversitesinde “The 1518 Ottoman Cadastral Survey of the Sancak of Amid” (1518 Tarihli Osmanlı Tapu Tahrir Defterlerine Göre Amid Sancağı)” adlı teziyle tamamladı.

1975-77 yılları arasında Manchester Üniversitesinde Türk dili okutmanı olarak görev yaptı. 1978’de Ankara Üniversitesi DTCF Tarih Bölümüne doktor asistan olarak girdi. 1982’ye kadar İstanbul Başbakanlık Arşivi ve Ankara TKGM Kuyud-i Kadime Arşivinde araştırmalar yaptı. 1982’de yardımcı doçent oldu. 1982-85 yıllarında Suudi Arabistan’daki çeşitli şirketlerde İngilizce öğretmeni olarak çalıştı. 1985’ten itibaren bu ülkedeki Kral Suud Üniversitesi, Fen Edebiyat Fakültesi Tarih Bölümünde iki yıl öğretim üyesi olarak görev yaptı.

1989-90 yıllarında yardımcı doçent olarak ODTÜ Fen Edebiyat Fakültesi Tarih Bölümünde ders verdi. Burada 1992 yılında doçentliğe, 1997’de profesörlüğe yükseldi. 1994-95 yılları arasında Al-Bayt Üniversitesi Fen Edebiyat Fakültesi Tarih Bölümünde kurucu üye olarak görev yaptı. Çalışmalarını ODTÜ Tarih Bölümünde öğretim üyesi olarak sürdürdü. Makaleleri 1981’den itibaren Tarih Enstitüsü Dergisi, AÜ Tarih Araştırmaları Dergisi, Belleten dergileri ile ortak kitaplarda yayımlandı.

2016-2020 yılları arasında İstanbul Sabahattin Zaim Üniversitesi Tarih Bölümünde dersler verdi. Üniversitemizde bulunduğu yıllarda birçok sempozyum ve konferansta yer alan İlhan, aynı zamanda Halil İnalcık Tarih ve Toplum Bilimleri Araştırma Uygulama Merkezimiz ’in de müdürlüğü görevinde bulundu.

İngilizce ve Arapçayı çok iyi, Farsça ve Fransızcayı orta derecede bilen Prof. Dr. M. Mehdi İlhan'ın, basılı kitaplarından başka, yurt içi ve dışında yayımlanan çeşitli dergilerde çıkmış otuzu aşkın bilimsel araştırması ve 10'u aşkın bildirisi vardır.

Uzun yıllar Canberra National Üniversitesinde görev yapan Prof. Dr. M. Mehdi İlhan, 5 Aralık 2020 günü Canberra’da vefat etti. Cenazesi memleketi Diyarbakır’a götürülerek toprağa verildi.

Hocamızı, rahmetle anıyoruz.