Ia berasal dari keluarga yang agamis. Haji Muhammad merupakan seorang petani dan nelayan. Di luar pekerjaannya itu, bapak kandung Junaihil itu mengajarkan Alquran kepada anak-anak dan warga umumnya. Ini seturut dengan profil kakeknya, Abdul Karim Abbatalahi, yang seorang hafiz.
Saat masih berumur anak-anak, Junaihil lebih tertarik pada pelajaran-pelajaran agama daripada ilmu umum. Ia mendapat pendidikan ilmu Alquran dari kakeknya langsung. Tak mengherankan bila sejak usia dini dirinya telah mengkhatamkan Alquran beberapa kali. Capaian ini melampaui teman-teman sebayanya.
Menjelang usia remaja, ia lebih giat dalam menguasai bahasa Arab. Karena itu, ia menekuni ilmu-ilmu gramatika, seperti nahwu dan sharaf, dari sejumlah guru di Pambusuang.
Setelah itu, ia pergi ke Pulau Salemo untuk menimba ilmu-ilmu agama Islam. Saat berusia 15 tahun, Junaihil mengikuti pamannya, Haji Buhari, ke Padang, Sumatra Barat. Tujuannya tidak hanya membantu sang paman untuk berdagang kain sutra, tetapi juga meneruskan rihlah keilmuan.
Di Tanah Minang, dirinya berguru kepada ulama-ulama yang masyhur. Sekembalinya dari Sumatra Barat, ia melanjutkan perjalanan ke luar negeri, tepatnya Hijaz. Perjalanan ke Makkah al-Mukarramah dilakukannya untuk berhaji sekaligus menambah ilmu.