Pada tanggal 19 Ramadan 40 H, di saat fajar menjelang, Imam Ali a.s. dilukai oleh lelaki paling gelap hatinya di dunia bernama Abdurrahman bin Muljam Muradi yang akhirnya mengatarkan beliau pada kesyahidan pada tiga hari kemudian yaitu pada tanggal 21 Ramadan 40 H. Abdurrahman membubuhi pedangnya dengan racun lalu menyerang kepala Imam Ali. Berdasarkan riwayat, pada malam pembunuhan itu, lbnu Muljam ada di rumah Asy’ats bin Qais. (Maqtal al-Imam Amir al-Mu’minin, hal.36)

Menurut riwayat lbnu Saad, tiga orang Khawarij bernama Abdurrahman bin Muljam, Burak bin Abdullah Tamimi, dan Amr bin Bukair Tamimi telah bersumpah di Mekkah untuk membunuh Imam Ali a.s., Muawiyah, dan Amr bin Ash. Untuk mengunjungi sahabat Khawarijnya, Abdurrahman pergi ke Kufah. Ketika dia dalam perjalanan untuk menemui sekelompok Bani Taim Rabab, dia melihat seorang gadis bernama Qutsam binti Syajannah bin Adi yang ayah dan saudara-saudaranya telah terbunuh dalam perang Nahrawan. Ketika Ibnu Muljam melamarnya, dia meminta mahar sebesar 3000 dinar ditambah pembunuhan atas Imam Ali. (Thabaqat al-Kubra, 3/35-38)

Berbagai riwayat menunjukkan bahwa Imam Ali diserang Ibnu Muljam saat berada di dalam masjid. Menurut riwayat lainnya, beliau diserang saat membangunkan orang-orang untuk salat subuh. Banyak sumber sejarah mendukung pernyataan pertama begitu pun riwayat yang menyebutkan bahwa beliau di serang ketika sedang melakukan salat. Maitsam bin Tammar meriwayatkan bahwa Imam baru saja memulai salat subuh. Tidak lama kemudian, saat beliau sedang membaca sebelas ayat dari surah Nabi, Ibnu Muljam menyerang dan melukai kepala beliau. (Maqtal al-Imam Amir al-Mu’minin, hal.30, no.5)

Sejumlah besar hadis telah diriwayatkan dari jalur Ahlulbait maupun Ahlusunah mengenai firasat Imam Ali pada malam sebelum terjadinya peristiwa itu. Ibnu Abi Dunya mengutip dari Imam Baqir a.s. berkata bahwa Imam sangat menyadari syahadah akan menjemputnya. Begitu terluka, Imam langsung berseru, “Aku telah menang, demi Tuhan pemilik Ka’bah.” (al-Imamah wa as-Siyasah, hal. 160)

Ibnu Abi Dunya juga telah meriwayatkan wasiat Imam dari beberapa jalur sanad. Pesan paling penting yang diwanti-wanti oleh Imam a.s. adalah sebagai berikut: “Peliharalah hubungan kekerabatan, perhatikanlah fakir miskin dan tetangga, ikutilah tuntunan Al-Qur’an, dirikanlah salat sebagai tiang agama, haji, puasa, jihad, zakat menurut ajaran Ahlulbait Nabi yang maksum, layanilah hamba-hamba Allah, laksanakanlah yang makruf dan cegahlah kemungkaran.”

Diriwayatkan, pada tanggal 21 Ramadan menjelang wafatnya, beliau menggumamkan zikir Laa ilaaha ilallah lalu beliau membaca ayat ke-7 dan 8 surat al-Zalzalah: “Barangsiapa membuat kebajikan seberat zarrah dia akan melihat buah kebajikannya, dan barangsiapa melakukan kejahatan seberat zarrah dia akan melihat buah kejahatannya”. Beliau lalu menghembuskan nafas terakhirnya. (Maqtal al-Imam Amir al-Mu’minin, hal.45-46)

Setelah syahadah beliau, Imam Hasan, Imam Husain, Muhammad bin Hanafiyah, Abdullah bin Jakfar dan beberapa orang anggota keluarga Ahlulbait membawa jenazah Imam a.s. keluar dari kota Kufah di malam hari dan menguburkan beliau secara rahasia sesuai wasiat beliau. Ini dilakukan mengingat kaum Khawarij dan pengikut Umayah dikhawatirkan akan menggali kuburan Imam. (Maqtal al-Imam Amir al-Mu’minin, hal. 79)