Dalam sejarah perjuangannya untuk bangsa, Pak Idham tercatat sebagai Sekretaris Panitia Kemerdekaan Indonesia Daerah (HSU) di kota Amuntai pada 1945. Pada saat itu, Pak Idham juga menjadi Ketua Partai Masyumi Amuntai. Aktivitasnya di partai inilah yang kemudian melambungkan namanya di pentas politik nasional.
Karier politik Ke ak tif an Pak Id ham di ranah politik pergerakan dimulai ketika dirinya mendapatkan amanah sebagai ketua Partai Masyumi Cabang Amuntai, yakni antara tahun 1944 dan 1945. Pada masa mempertahankan kemer dekaan, dia juga aktif sebagai anggota Badan Keamanan Rakyat (BKR).
Pak Idham juga pernah duduk sebagai anggota DPR pada masa pemerintahan Republik Indonesia Serikat (RIS) sejak 1949 hingga 1950. Selain itu, dia juga pernah menjadi sekretaris pribadi KH A Wahid Hasyim, yang pada saat itu menjabat sebagai Menteri Agama dalam Kabinet Hatta.
Hubungan Pak Idham dengan ayahanda Gus Dur itu pun menimbulkan simpati dari kalangan NU. Pak Idham kemudian diangkat sebagai ketua Maarif NU, yang selama ini dipegang oleh Kiai Wahid Hasyim. Dia juga mendapatkan kepercayaan sebagai pimpinan Gerakan Pemuda Anshor selama beberapa tahun lamanya.
Pada 1952, Pak Idham menjabat sebagai Sekretaris Umum PBNU. Pada Muktamar NU ke19 di Palembang, NU memutuskan keluar dari Masyumi untuk kemudian menjadi partai politik tersendiri. Saat itu, Pak Idham mendampingi KH Abdul Wahab Hasbullah dalam menghadapi perkembangan baru tersebut.