Pada suatu ketika, Rasulullah SAW mengajukan pertanyaan kepadanya. "Wahai Abu Dzar, bagaimana pendapatmu bila menjumpai para pembesar yang mengambil upeti untuk diri mereka?"

Ia menjawab, "Demi Allah yang telah mengutus anda dengan kebenaran, akan saya tebas mereka dengan pedangku!"

"Maukah kau kutunjukkan jalan yang lebih baik dari itu? Bersabarlah hingga kau menemuiku!"

Abu Dzar akan selalu ingat wasiat guru dan Rasul ini. Ia tidak akan menggunakan ketajaman pedang terhadap para pembesar yang mengambil kekayaan dari harta rakyat sebagaimana ancamannya dulu. Namun ia juga tidak akan bungkam atau berdiam diri mengetahui kesesatan mereka.