Keteguhannya ingin berjumpa Rasulullah di Mekkah, ia lakukan dengan cara menyamar agar bisa masuk ke Kota Mekkah. Ia bergaya seolah-olah hendak melakukan thawaf mengelilingi berhala-berhala di sekitar Ka’bah, atau seperti musafir tersesat di perjalanan, yang memerlukan istirahat dan menambah perbekalan.
Seandainya orang-orang Mekkah tahu bahwa kedatangannya itu untuk menjumpai Nabi Muhammad dan mendengarkan keterangan beliau, pastilah mereka akan membunuhnya. Dialah Abu Dzar Al-Ghifari.
Suatu pagi, Abu Dzar pergi ke tempat tersebut. Didapatinya Rasulullah sedang duduk seorang diri, lalu ia menyapa, “Selamat pagi, wahai kawan sebangsa.” “Wa alaikum salam, wahai sahabat,” jawab Rasulullah.
Lalu ia meminta untuk membacakan syair yang sudah Rasulullah ubah, namun Rasulullah menimpali, “Ia bukan syair hingga dapat digubah, tetapi al-Qur’an yang mulia.” Kemudian Rasulullah membacakan wahyu Allah.
Tak berselang lama, Abu Dzar berseru, “Aku bersaksi bahwa tiada Tuhan selain Allah, dan aku bersaksi bahwa engkau adalah hamba dan utusan-Nya.”
Lalu Rasulullah bertanya dari mana asal pemuda ini. Abu Dzar menjawab, ”Dari Ghifar,” jawabnya. Rasulullah tersenyum dan wajahnya diliputi rasa kagum dan takjub. Abu Dzar juga tersenyum, karena ia mengetahui rasa terpendam di balik kekaguman Rasulullah setelah mendengar bahwa orang yang telah mengaku Islam di hadapannya secara terus terang itu adalah seorang laki-laki dari Ghifar.
Ghifar adalah suatu kabilah atau suku yang tidak ada taranya dalam soal menempuh jarak. Mereka jadi contoh perbandingan dalam melakukan perjalanan yang luar biasa. Malam yang kelam dan gelap gulita tak jadi soal bagi mereka. Dan celakalah orang yang kesasar atau jatuh ke tangan kaum Ghifar di waktu malam.
Abu Dzar termasuk orang yang pertama-tama masuk Islam. Urutannya di kalangan Muslimin adalah yang kelima atau keenam. Jadi ia telah memeluk agama itu di masa-masa awal, hingga keislamannya termasuk dalam barisan terdepan.
Lelaki yang memiliki nama Jundub bin Junadah ini termasuk seorang radikal dan revolusioner. Telah menjadi watak dan tabiatnya menentang kebatilan di mana pun ia berada. Dan kini kebatilan itu tampak di hadapannya, berhala-berhala yang disembah oleh para pemujanya—orang-orang yang merendahkan kepala dan akal mereka.
Baru saja masuk Islam, ia sudah mengajukan pertanyaan kepada Rasulullah. “Wahai Rasulullah, apa yang sebaiknya saya kerjakan menurut Anda?”
“Kembalilah kepada kaummu sampai ada perintahku nanti!” jawab Rasulullah.
“Demi Tuhan yang menguasai jiwaku,” kata Abu Dzar, “Saya takkan kembali sebelum meneriakkan Islam di depan Ka’bah.”
Ia pun menuju Haram dan menyerukan syahadat dengan suara lantang. Akibatnya, ia dipukuli dan disiksa oleh orang-orang musyrik yang tengah berkumpul di sana.
Rasulullah kembali menyuruhnya pulang dan menemui keluarganya. Ia pun pulang ke Bani Ghifar dan mengajak sanak kerabatnya memeluk agama baru ini.
Ketika Rasulullah dan kaum Muslimin telah berhijrah ke Madinah dan menetap di sana, pada suatu hari, barisan panjang yang terdiri atas para pengendara dan pejalan kaki menuju pinggiran kota. Kalau bukan karena takbir yang mereka teriakkan dengan suara bergemuruh, tentulah yang melihat akan menyangka mereka adalah pasukan tentara musyrik yang akan menyerang kota.
Begitu rombongan besar itu mendekat, lalu masuk ke dalam kota dan masuk ke Masjid Rasulullah, ternyata mereka tiada lain adalah kabilah Bani Ghifar. Semuanya telah masuk Islam tanpa kecuali; laki-laki, perempuan, orang tua, remaja dan anak-anak.
Abu Dzar telah mencurahkan segala tenaga dan kemampuannya untuk melakukan perlawanan secara damai dan menjauhkan diri dari segala kehidupan dunia. Ia menjadi mahaguru dalam seni menghindarkan diri dari godaan jabatan dan harta kekayaan.
Abu Dzar wafat di tempat sunyi bernama Rabadzah, pinggiran Kota Madinah.
“Janganlah menangis,” kata Abu Dzar, “Pada suatu hari, ketika aku berada di majelis Rasulullah bersama beberapa sahabat, aku mendengar beliau bersabda, ‘Pastilah ada salah seorang di antara kalian yang akan meninggal di padang pasir liar, dan disaksikan oleh serombongan orang beriman.” Benarlah, ada rombongan kaum Muslimin yang lewat yang dipimpin oleh Abdullah bin Mas’ud.
Sebelum sampai ke tujuan, Ibnu Mas’ud melihat sosok tubuh terbujur kaku, sedang di sisinya terdapat seorang wanita tua dan seorang anak kecil, keduanya menangis. Ketika pandangan Ibnu Mas’ud ke mayat tersebut, tampaklah Abu Dzar Al-Ghifari. Air matanya mengucur deras. Di hadapan jenazah itu, Ibnu Mas’ud berkata, “Benarlah ucapan Rasulullah, Anda berjalan sendirian, mati sendirian, dan dibangkitkan kembali seorang diri!” [Fathurroji]
