Sesudah itu, Kiai Abdul Manaf mendirikan Yayasan Kesejahteraan Masyarakat Islam (YKMI). Dirinya dan KH Kamaruzzaman bertindak selaku bendahara, sedangkan ketuanya adalah H Muhammad Kosim.
Pembentukan YKMI disambut positif tokohtokoh masyarakat di Ulujami dan sekitarnya. Salah seorang dari mereka, Haji Abdillah Amin, bahkan menyerahkan lembaga pendidikan taman kanak-kanak (raudhatul athfal) di Petukangan agar bergabung dengan YKMI.
Sejak 1 Agustus 1961, raudhatul athfal ini diubah formatnya sehingga juga mengadakan pendidikan dasar. Namanya pun menjadi Balai Pendidikan Darunnajah. Pada 1962, Kiai Abdul Manaf menunaikan ibadah haji untuk pertama kalinya.
Usai berhaji, dirinya menemui KH Abdullah Syafii. Ia pun mengungkapkan rencananya untuk mendirikan pondok pesantren di Ulujami. Sebelum kerja membuat pesantren, harus ziarah dulu ke Makkah ini, ke Ka'bah ini, demikian nasihat sang perintis Perguruan asy-Syafi'iyah itu.
