Tatkala usianya baru 15 tahun, Abdurrahman telah menghafal belasan juz Alquran. Proses hafalan itu pun dilaluinya dalam waktu tujuh bulan. Tidak hanya mendapatkan pengajar an agama dari ayah, ibu, dan kakeknya. Ia juga mengenyam pendidikan lembaga formal di Madrasah Islam Paciran (MIP) pada 1935. Begitu lulus dari sana, dirinya mulai berpisah dari orang tuanya karena menjadi santri kelana.

Perjalanannya menempuh sejumlah pesantren di tanah Jawa. Pertamatama, anak lelaki ini menjadi santri di Pondok Pesantren Kranji yang diasuh oleh KH Mushtofa Abdul Karim (1871- 1950). Sekitar tiga tahun lamanya pendidikan ditempuhnya di sana. Setelah itu, ia nyantri di Pondok Pesantren Tunggul Paciran yang dipimpin oleh KH Mohammad Amin Mushtofa (1912-1949). Malahan, ia menjadi salah satu santri kebanggaan Kiai Amin. 

Tidak jarang sang guru meng ajaknya untuk berdakwah dari satu desa ke desa lainnya. Safari dakwah itu menimbulkan kesan yang mendalam pada diri Abdurrahman. Bahkan, kadang kala ia ditunjuk menjadi pengganti (badal) bilamana gurunya itu berhalangan hadir. Kesempatan ini dimanfaatkannya sebagai ajang latihan sebelum benar-benar terjun menyiarkan Islam ke tengah masyarakat.

Abdurrahman belajar di Tunggul antara tahun 1938 dan 1940. Di pondok ini, ia memperdalam ilmu alat, seperti nahwu dan sharaf, ilmu tafsir Alqur an dan hadis. Pengalaman baru juga dirasakannya selama menimba ilmu di bawah bimbingan Kiai Amin, khususnya dalam soal akidah dan ibadah. Pengembaraannya dalam mencari ilmu tidak berhenti sampai di situ.

Abdurrahman kemudian meneruskan perjalanannya ke sebuah pesantren yang diasuh Kiai Abdul Fattah di Tulungagung. Di pesantren ini, ia belajar selama empat tahun, yakni sejak 1940 hingga 1944. Setelah mendalami berbagai ilmu kepada Kiai Fattah, barulah dirinya menjadi santri di Pondok Pesantren Tebuireng, Jombang, di bawah asuhan KH Hasyim Asy'ari.

Ikuti Whatsapp Channel Republika