Beliau lahir di Dompu, Nusa Tenggara Barat dari pasangan terhormat dan mulia, Habib Mahdi bin Idrus bin Syekh Abu Bakar bin Salim dengan Syarifah Balqis binti Hasan bin Solah bin Salim Al Idrus hari rabu, 15 Agustus 1945, dua hari menjelang kemerdekaan Republik Indonesia dan sebagai anak sulung dari sebelas bersaudara.
Beliau mulai memasuki Jenjang pendidikan di Sekolah Dasar dan Sekolah menengah Pertama di tanah kelahirannya. Di dalam masa sekolahnya Beliau dikenal sebagai anak cerdas serta selalu mendapatkan nilai tertinggi di kelasnya. Hal ini pun terlihat dari banyaknya teman beliau yang sengaja datang ke rumahnya untuk minta diajarkan.
Suatu ketika tengah tertidur di pangkuan ibunya, beliau bermimpi langit bolong (terbelah) dan muncul suara memanggil – manggil namanya. Ketika ia terbangun, diceritakan kejadian dalam mimpi itu kepada Ibuanya. Serentak sang Ibu menjawab “kau akan pergi jauh”. Sore itu juga beliau dikabarkan akan berangkat ke Malang diantar Habib Abu Bakar Al Mukhdor, seorang pedagang kuda yang juga teman dekat Habib Mahdi yang bermukim di Situbondo.
Gaya hidupnya yang serba berkecukupan berubah total ketika mulai menapakkan kakinya untuk menuntut ilmu Allah pada Guru besar Pondok Pesantren Darul Hadist, Al Habib Abdul Qadir Bil Fagih di Malang selama 13 tahun. Pada masa pembelajarannya Beliau sagatlah rajin dan perihatin, setiap hari beliau menyapu dan membersihkan lingkungan pondok. Waktunya tak pernah beliau lalui kecuali hanya untuk ilmu. Karena kesungguhannya dalam belajar, hanya dalam waktu dua tahun delapan bulan Beliau sudah diangkat mengajar fikih, nahwu, hadits, bahasa Arab dan cabang ilmu lainnya serta menjadi pengajar paling disukai karena kelebihannya dalam public speaking hingga banyak santri yang tidak ingin melewatkan mata pelajaran yang beliau ajarkan.
Setelah lulus di Pesantren Darul Hadits beliau pergi ke timur tengah, berguru pada Syekh Muhammad Balqaid di Aljazair selama 9 bulan. Dan di Bahrain selama 6 bulan. Selanjutnya beliau berguru kepada Syekh Nadimul ‘Ash di Baghdad, Irak selama 9 bulan dan I’tikaf di masjidil haram, Mekkah kepada Syekh Ahmad Assaggaf selama 5 tahun.
Atas dasar petunjuk dari Rasulallah Saw, beliau diminta kembali ke Indonesia karena di sanalah ada barakat. Beliau kemudian mendirikan Pondok Pesantren Ar-Rahman di dompu. Setelah itu, beliau mendirikan juga Pondok Pesantren internasional Nurul Ulum di Kali Mas Madya, Surabaya. Pondok Pesantren Nurul Ulum banyak menerima murid dari Singapura, Malaysia, Brunei Darussalam, dan Afrika. Sejak saat itu, undangan ceramah banyak datang dari negara tetangga. Ratusan ribu jama’ah selalu memadati majelis beliau baik di Singapura maupun negara lainnya.
Kesempurnaan ilmunya di semua bidang, menuntut Beliau untuk mengeluarkan fatwa tentang permasalahan agama yang terkini, dan salah satu fatwanya adalah berkenaan ginjal dan Beliau menjadi orang pertama yang menfatwakan bahwa organ tubuh manusia boleh di transfer ke orang lain, sedang banyak ulama termasuk mufti singapura yang tidak sepakat dengan pandangannya pada saat itu, sehingga masalah merambat kepada lembaga pendidikannya yang lantas ditutup serta membatasinya pemerintah singapura kepada dakwah beliau.
Akhirnya tahun 1980 an Beliau memutuskan untuk membuka Majlis Ta’lim di Bintaro, Jakarta tepatnya di masjid agung bintaro. Jamaahnya mencapai ribuan orang bahkan sampai memenuhi hingga keluar masjid. Namun tahun 1998 Negara Indonesia mengalami krisis ekonomi, berbagai konplik pun mulai muncul di Jakarta sehingga hal ini berdampak juga dengan keadaan keamanan di bintaro. Akhirnya 14 Mei 1998 Beliau Habib Saggaf bin Mahdi bin Syekh Abu Bakar bin Salim beserta Istri tercinta Umi Waheeda memutuskan untuk tinggal di Parung Bogor, dan mulai merintis untuk mendirikan Pondok Pesantren Al ashriyyah Nurul Iman.
Beliau wafat pada hari Jumat, 12 November 2010 bertepatan 05 Dzul Hijjah 1430 H. Meninggalkan sejuta jejak indah untuk diteladani oleh para santri dan kini estafet kepemimpinan Pondok Pesantren Al Ashriyyah Nurul Iman berada di tangan sang istri tercinta, Umi Waheeda binti Abdul Rahman, S.Psi, M.Si, bersama tujuh anaknya.