Hajj menuturkan, ada tiga versi mengenai tahun yang sempat disebut-sebut sebagai tahun wafatnya Ibnu al-Jazzar ini. Pertama, sebelum tahun 400 H/1010 M, kedua tahun 400 H/1010 M, dan ketiga setelah tahun ini.

Sementara, Brockelmann (GI, 238) menyebutkan, al-Jazzar tutup usia pada tahun 395 H/1004 M. Ilmuwan lainnya, seperti Idris, mengadopsi pendapat Brockelmann soal tahun wafatnya al-Jazzar.

Sedangkan, Ibnu Juljul merujuk pada karyanya bertajuk Tabaqat al-Atibba menyebutkan Ibnu Al-Jazzar meninggal pada 987 M. Sementara, Ibnu 'Idhari dalam karyanya al-Bayan al-Mughrib I, mengatakan wafatnya Ibnu Al-Jazzar sekitar 369 H/979 M-980 M.

Namun, baru-baru ini ada bukti yang menunjukkan bahwa ia meninggal di kota kelahirannya di Kairouan, sekitar tahun 979-980 M (369 H). Dia hidup selama 84 tahun. Sejak lahir hingga meninggal dia berada di Kairouan.