Masjid Raya an-Nilin dibangun pada periode 1970-an atau ketika Gaafar Nimeiry menjadi presiden Sudan. Dia sendiri mengepalai negara tersebut dari tahun 1969 hingga 1985. Sejak awal perencanaan, Nimeiry bervisi menjadikan an-Nilin masjid kebanggaan nasional Sudan. Untuk itu, pembangun an mas jid itu menggunakan tenaga- tenaga ahli dari da lam negeri.
Pada 1983, masjid ini secara resmi di buka untuk umum. Situs Aga Khan menyebutkan, desain Masjid Raya an-Nilin merupakan karya seorang mahasiswa departemen arsitektur Universitas Khartoum. Mahasiswa ini sebelumnya memenangkan sayembara desain yang digelar presiden Sudan saat itu untuk menjaring ide-ide terbaik buatan anak negeri.