Seluruh anak-anaknya selalu diarahkannya agar rutin mengaji. Maka, sepulang dari sekolah, pada sore hari Abdul Manaf kecil menuntut ilmu di madrasah dekat rumahnya.
Rutinitas tersebut dijalaninya sejak masa belajar di Volksschool (sekolah dasar) hingga Vervolegschool (sekolah lanjutan). Malahan, sebelum lulus dari sekolah tersebut, dirinya gemar mengikuti majelis-majelis yang diadakan banyak ulama sepuh, semisal Haji Sidik dari Bendungan Hilir.
Setamat dari Vervolegschool Abdul Manaf meminta izin kepada orang tuanya untuk belajar di sekolah Jam'iyyat Khair di bilangan Karet, Tanah Abang. Jam'iyyat Khair (harfiah: 'Perkumpulan untuk Kebaikan') didirikan oleh tokoh-tokoh keturunan Arab di Batavia (Jakarta) pada 1901.
Sembilan tahun kemudian, organisasi ini gencar mendirikan berbagai sekolah untuk meningkatkan kualitas pendidikan, tidak hanya bagi kaum perana kan Arab, tetapi juga Pribumi Muslim. Gerakannya didasarkan pada solidaritas kebangsaan dan keumatan.