Pada 18 Oktober 1948, dibangunlah Asrama Santri al-Hijrah. Dalam prosesnya, Kiai Abdurrahman mendapatkan du kungan penuh masyarakat Paciran. Mereka bergotong-royong untuk membuat gota'an, sebuah bangunan kayu berbentuk persegi panjang yang kemudian dibaut kotak-kotak untuk memisahkan kamar-kamar santri. Bangunan tersebut menjadi tonggak awal Pondok Pesantren Karangasem Muhammadiyah, Paciran.
Pondok Pesantren Karangasem semakin berkembang. Keteguhan hati dan sikap Kiai Abdurrahman pun semakin kokoh sebagai pengasuh pondok pesantren. Setiap pagi hari sebelum shalat subuh, ia berkeliling pondok untuk melihat langsung keadaan para santrinya. Usai shalat subuh, para santri mengaji kitab tafsir Jalalain di hadapan sang kiai. Ulama ini pun menyimak dengan saksama bagaimana mereka membaca dan memaknai teks bahasa Arab.