Syekh Muhammad Yunus merupakan gurunya para ulama Kota Medan. Di antara muridnya adalah Kiai Abdurrahman Syihab, Haji Ismail Banda dan Syekh Muhammad Arsyad Thalib Lubis pengarang banyak Kitab Arab dan Jawo. Syekh Muhammad Yunus merupakan tokoh penting dibalik penamaan Al-Jam’iyatul al-Washliyah. Dimana para murid-muridnya meminta sebuah nama yang sesuai untuk sebuah organisasi yang mereka gagas di tahun 1930. Setelah istikharah dan bermunajat kepada Allah SWT, beliau kemudian memilih nama Al-Jam’iyatul Al-Washliyah yang bermakna menyambung hubungan vertikal, horizontal dan alam semesta demi mewujudkan Islam yang rahmatan lil ‘alamin.
Mengawali pengembaraan keilmuannya, Syekh Muhammad Yunus yang lahir pada tahun 1889 ini belajar dasar-dasar keilmuan Islam kepada ayahnya yang dikenal sebagai seorang yang taat dan shalih yaitu Haji Muhammad Arsyad yang berasal dari Penyabungan Mandailing. Kepada Ayahnya beliau belajar ketauhidan dan komitmen beragama yang baik, mengingat mereka hidup berdampingan dengan pemeluk agama lainnya.
Setelah belajar dari sang ayah, Syekh Muhammad Yunus kemudian belajar kepada beberapa ulama lainnya yang berada di wilayah Sumatera Utara. Beliau pernah belajar kepada Syekh Haji Abdul Muthalib Binjai yang juga seorang dai terkenal di daerah Mandailing Natal.
Selanjutnya beliau memperdalam kajian ilmunya, terutama tasawuf, kepada Tuan Guru Basilam, Syekh Haji Abdul Wahab Rokan yang masyhur sebagai ulama dan Mursyid Tarekat Naqsyabandiyah. Karena selain Syekh Abdul Ghani Kampari yang dikenal sebagai Mursyid dan gurunya Syekh Muda Waly, maka ulama lainnya yang termasuk Mursyid terbilang adalah Syekh Abdul Wahab Rokan yang dikenal dengan Tuan Guru Basilam.
Setelah memiliki perbekalan ilmu yang memadai, Syekh Muhammad Yunus kemudian merantau ke Negeri seberang untuk memperdalam kajiannya. Beliau belajar kepada para ulama Fathani yang menetap di Malaysia seperti Syekh Muhammad Idris Fathani. Karena pada masa yang lalu banyak para ulama dari alam melayu memilih menetap di Malaysia seperti Teungku Chik Muhammad Arsyad yang menetap Diyan Kedah Malaysia dan ulama lainnya, umumnya untuk membentuk jaringan ulama baru pada masa perang Belanda dan Jepang.
Puncak dari pengembaraan intelektual Syekh Muhammad Yunus ketika beliau belajar di Makkah kepada beberapa ulama terpandang di sana. Salah satu ulama besar yang menjadi guru Syekh Muhammad Yunus adalah Syekh Abdul Qadir Mandailing yang merupakan murid khusus Syekh Ahmad Khatib Minangkabau, juga berasal dari Sumatera Utara. Dalam beberapa tahun beliau di Makkah telah mengantarkan Syekh Muhammad Yunus menjadi alim yang bijaksana. Beliau juga disebutkan pernah menjadi pengajar di Madrasah Saulatiah Makkah yang didirikan oleh Syekh Rahmatullah Hindi dan dipimpin oleh anaknya Syekh Salim Rahmatullah Hindi.
Setelah belajar dan mengajar di Makkah, Syekh Muhammad Yunus kembali ke kampung halamannya untuk mengayomi masyarakatnya. Namun sebelum tiba kembali di Medan, beliau singgah di Malaysia beristifadah dengan beberapa ulama dan menimba pengalaman dari ulama Malaysia seperti Syekh Jalaluddin.
Pada tahun 1918, Syekh Muhammad Yunus membangun sebuah lembaga pendidikan agama pertama di Tapanuli yang disebut dengan MIT Madrasah Islamiyah Tapanuli. Dimana murid-muridnya pada periode awal merupakan ulama kota Medan yang berafiliasi ke Al-Washliyah seperti Syekh Arsyad Thalib Lubis, Kiai Abdurrahman Syihab, Kiai Ismail Banda dan para ulama lainnya. Sehingga tidak mengherankan bila kemudian Syekh Muhammad Yunus ditunjuk sebagai penasihat organisasi tersebut ketika berdirinya di tahun 1930 sezaman dengan PERTI di Minangkabau yang dibangun oleh Syekh Sulaiman Arrasuli dan Syekh Muhammad Jamil Jaho.
Barulah pada tahun berikutnya, seorang ulama besar lainnya yang juga dikenal di Medan Syekh Hasan Maksum Mufti Kerajaan Deli bergabung sebagai penasihat dari Al -am’iyatul Washliyah tersebut. Sehingga kehadiran Syekh Hasan Maksum juga memiliki arti penting untuk memperkuat organisasi keislaman Al-Washliyah.
Syekh Muhammad Yunus selain sebagai ulama, beliau juga pejuang kemerdekaan yang turut bahu membahu untuk mewujudkan kemerdekaan Indonesia. Beliau sama kiprahnya dengan ulama-ulama lain di Nusantara seperti Hadhratussyaikh Hasyim Asy’ari dan Kiai Wahab Hasbullah dan para ulama kharismatik lainnya. Beliaulah tokoh yang menempa murid muridnya seperti Kiai Abdurrahman Syihab untuk membawa semangat kemerdekaan dalam berbagai momen dan kesempatan.
Kiprah beliau begitu luas dalam berbagai sisi kehidupan, sehingga tidak mengherankan bila para ulama sesudahnya menempatkan beliau dengan figur ulama besar lainnya seperti Syekh Hasan Maksum dan Syekh Mustafa Husen Purba Baru yang bergerak dalam pendidikan dan pencerdasan umat. Maka setelah berbagai kontribusi yang besar untuk masyarakat Islam Medan, Pada tahun 1950, dalam usia 61 tahun wafatlah ulama besar tersebut.[] Rahimahullah Rahmatan Wasi’atan.
