Pada 1965, Rifa'i dinyatakan lulus. Para kiai Gontor kemudian mengangkatnya sebagai guru atau ustaz. Tugasnya sehari-hari tidak hanya mengajar para santri di kelas. Sebab, dirinya juga diminta untuk menjadi sekretaris pribadi gurunya, KH Imam Zarkasyi. Tugas yang dipikulnya cukup berat seperti menjadwalkan kegiatan pimpinan, membuat konsep-konsep kebijakan pondok, menyunting bahan-bahan ceramah, dan lain sebagainya. Namun, semua itu dikerjakannya dengan ringan hati dan cermat. Alhasil, wawasannya kian luas, reputasinya di mata para kiai pun semakin bersinar.

Sekitar dua tahun lamanya Rifa'i mengabdi di almamaternya. Sesudah itu, ia pun kembali ke kampung halamannya. Demi memenuhi keinginan kedua orang tuanya, sang pemuda saleh ini mengamalkan ilmu dan pengalamannya selama di Gontor kepada masyarakat. Namun, hal itu dilakukan tidak secara seketika. Sebab, dirinya masih memerlukan beberapa penyesuaian. Seperti diketahui, metode pendidikan di Gontor tidak cukup marak mengajarkan kitab-kitab klasik. Padahal, umumnya pesantren di Banten melakukan cara tersebut.

Karena itu, Rifa'i tidak langsung memimpin atau mendirikan sebuah pondok pesantren, sebagaimana yang didambakan ayah dan ibunya. Mula-mula, ia mengasah kemampuannya dalam bertutur bahasa asing. Ia pun mendaftar pada Akademi Bahasa Asing (ABA) di Bandung, Jawa Barat. Di luar itu, ia juga memanfaatkan waktu un tuk mendalami kitab-kitab klasik. Dengan demi kian, kelak dirinya benar-benar siap ketika diminta mengasuh sebuah pesantren.

Beberapa bulan kemudian, Haji Qasad memanggil pulang putra sulungnya itu. Rupanya, Rifa'i diajaknya untuk turut merumuskan rencana pendirian pondok pesantren. Ada beberapa tokoh lokal yang duduk bersama. Mereka membahas sistem, metode pembelajaran, dan pengajaran yang akan dijalankan di pesantren tersebut.

Ikuti Whatsapp Channel Republika