Sepak terjangnya di dalam medan pertempuran, ‘Ammar termasuk pejuang militan yang tangguh. Ia senantiasa ikut bergabung bersama Rasulullah dalam semua perjuangan bersenjata seperti: perang Badar, Uhud, Khandak, dan Tabuk. Bahkan, tatkala Rasulullah telah mendahuluinya ke Ar-Rafiqul A’la, ia tidaklah berhenti, tetapi melanjutkan perjuangannya secara terus menerus.
Saat pasukan kaum muslimin berhadap-hadapan dengan kaum Persi dan Romawi, termasuk kaum murtad, ‘Ammar – sebagai seorang prajurit yang gagah perkasa – selalu berada dibarisan pertama.
Pada masa khalifah Umar, ‘Ammar bin Yasir, tokoh yang sangat perkasa dan kokoh imannya, juga dipilih untuk menjadi wali negeri di Kuffah; Ibnu Mas’ud sebagai bendaharanya. Kepada penduduknya, Ummar menulis sepucuk surat berita gembira dengan diangkatnya wali negeri baru itu, katanya:
“Saya kirim kepada tuan-tuan ‘Ammar bin Yasir sebagai Amir, dan Ibnu Mas’ud sebagai bendahara dan wazir… Keduanya adalah orang-orang pilihan, dari golongan sahabat Muhammad SAW, dan termasuk pahlawan-pahlawan Badar!”
Dalam melaksankan pemerintahan, ‘Ammar melakukan suatu sistem yang tidak dapat diikuti oleh orang-orang yang rakus akan dunia. Pangkat dan jabatannya tidak menambah kecuali keshalihan, zuhud dan kerendahan hatinya. Salah seorang yang hidup pada masanya di Kufah, Ibnu Abil Hudzail, bercerita, “Saya melihat ‘Ammar bin Yasir sewaktu menjadi amir di Kufah membeli sayuran di pasar, lalu mengikatnya dengan tali dan memikulnya di atas punggung dan membawanya pulang.”
Suatu ketika, salah seorang awam berkata (menghina) kepada ‘Ammar bin Yasir, “Hai, yang telinganya terpotong!” Mendengar omongan orang itu, sang amir yang tidak kelihatan keamirannya, berkata, “Yang kamu cela itu adalah telingaku yang terbaik karena ia ditimpa kecelakaan waktu perang fi sabilillah.”
Memang, telinga ‘Ammar itu putus dalam perang sabil di Yamamah. Ketika itu, Ammar bin Yasir maju bagaikan angin topan dan menyerbu barisan tentara Musailamatul Kadzab sehingga melumpuhkan kekuatan musuh. Ketika gerakan pasukan muslimin mengendor, pasukan kafirin segera membangkitkan semangatnya dengan seruannya yang gemuruh, hingga mereka kembali maju menerjang bagaikan anak panah yang lepas dari busurnya.

Abdullah bin Umar r.a. menceritakan peristiwa itu sebagai berikut:
“Waktu perang Yamamah, saya melihat ‘Ammar sedang berada disebuah batu karang. Ia berdiri sambil berseru, “Hai kaum muslimin, apakah tuan-tuan hendak lari dari Syurga…? Inilah, saya: ‘Ammar bin Yasir, kemarilah tuan-tuan…! Ketika saya melihat dan memperhatikannya, kiranya sebelah telinganya telah putus beruntai-untai, sedang ia berperang dengan amat sengitnya.”

Sementara itu, musuh-musuh Islam bergerak dibawah tanah: berusaha menebus kekalahannya dimedan tempur dengan jalan meyebarkan fitnah. Terbunuhnya Umar merupakan hasil pertama yang dicapai oleh gerakan atau subversi ini. Berhasilnya usaha mereka terhadap Umar, membangkitkan minat dan semangat mereka untuk melanjutkannya, mereka sebarkan fitnah dan nyalakan apinya disebagian besar negeri-negeri Islam. Gerakan ini menjalar ke Madinah.
Apa yang terjadi pada Umar, khalifah kedua, terjadi pula pada diri Utsman, khalifah ketiga. Peristiwa itu menyebabkan meninggalya Utsman. dan terbukanya pintu fitnah yang melanda kaum muslimin. Sepeninggal Utsman, kekalifahan dipegang oleh imam Ali as. Mu’awiyah bangkit hendak merebut jabatan khalifah dari tangan imam Ali as. Para sahabat, disamping berpihak kepada imam Ali, ada juga yang membela Mu’wiyah.
Tahukah anda, di pihak mana, ‘Ammar berdiri waktu itu? Ia berdiri di samping Ali bin Abi Thalib: bukan karena fanatik tetapi karena tunduk kepada kebenaran dan teguh memegang janji – Ali adalah Khalifah kaum muslimin.
Dengan cahaya pandangan ruhani dan ketulusannya, ‘Ammar dapat mengetahui pemilik hak satu-satunya dalam perselisihan ini. Menurut keyakinannya: tak seorang pun berhak atas hal ini, selain imam Ali. Oleh karena itu, ia berdiri disampingnya. Ali r.a. merasa gembira atas sokongan yang diberikan oleh ‘Ammar. Keyakinan Ali r.a. bahwa ia berada pada pihak yang benar kian bertambah karena dukungan sahabatnya itu.
Kemudian, datanglah saat perang Shiffin yang mengerikan itu. Imam Ali menghadapi pekerjaan penting ini sebagai tugas memadamkan pembangkangan dan pemberontakan. Sementara, ‘Ammar ikut bersamanya. Waktu itu, usianya telah mencapai 93 tahun. Ia bangkit menghunus pedangnya demi membela kebenaran yang menurut keimanannya harus dipertahankan.

Pandangan terhadap pertempuran ini telah lama di maklumkannya dalam kata-kata sebagai berikut:
“Hai ummat manusia! Marilah kita berangakat menuju gerombolan yang mengaku-ngaku hendak menuntutkan bela Utsman! Demi Allah, maksud mereka bukanlah hendak menuntutkan bahaya itu, tetapi sebenarnya mereka telah merasakan manisnya dunia dan telah ketagihan terhadapnya, dan mereka mengetahui bahwa kebanaran itu menjadi penghalang bagi pelampiasan nafsu serakah mereka. Mereka bukan yang berlomba dan tidak termasuk barisan pendahulu pemeluk agama Islam. Argumentasi apa sehingga mereka merasa berhak untuk ditaati oleh kaum muslimin dan diangkat sebagai pemimpin, dan tidak pula dijumpai dalam hati mereka perasaan takut kepada Allah, yang akan mendorong mereka mengikuti kebenaran?! Mereka telah menipu orang banyak dengan mengakui hendak menuntutkan bela kematian Utsman, padahal tujuan mereka yang sesungguhnya ialah hendak menjadi raja dan penguasa adikara!”

Kemudian diambilnya bendera dengan tangannya, lalu dikibarkannya tinggi-tinggi diatas kepala sambil berseru, “Demi Dzat yang menguasai jiwaku, saya telah bertempur dengan mengibarkan bendera ini bersama Rasulullah SAW, dan inilah aku siap berperang pula dengan mengibarkannya sekarang ini! Demi nyawa saya berada dalam tangan-Nya, seandainya mereka menggempur dan menyerbu hingga berhasil mencapai kubu pertahanan kita, saya tahu bahwa kita pasti berada di pihak yang haq, dan mereka di pihak yang bathil”
Orang-orang mengikuti ‘Ammar, mereka percaya kebenaran ucapannya. Berkatalah Abu Abdirrahman Sullami, “Kami ikut serta dengan imam Ali as. dipertempuran Shiffin, maka saya melihat ‘Ammar bin Yasir r.a. setiap ia menyerbu ke sesuatu jurusan atau turun ke suatu lembah, para sahabat Rasulullah pun mengikutinya, tak ubahnya ia bagai panji-panji bagi mereka”
‘Ammar teringat akan sabda Rasulnya, “Ammar akan di bunuh oleh golongan pendurhaka,” sehingga ia merasa peristiwa ini akan mengantarkannya menjadi syahid. Ia menerjuni akhir perjuangan hidupnya yang menonjol dengan gagah berani. Sebelum ia berangkat ke Rafiqul A’la, ia tanamkan pendidikan terakhir tentang keteguhan hati membela kebenaran.
Berita tewasnya ‘Ammar segera tersebar, dan sabda Rasulullah SAW yang didengar oleh semua sahabatnya, sewaktu mereka sedang membina masjid di Madinah dimasa yang telah jauh sebelumnya, berpindah dari mulut ke mulut.
Maka, sekarang jelaslah, siapa kiranya golongan pendurhaka itu, tidak lain adalah golongan yang membunuh ‘Ammar: yaitu dari pihak Mu’awiyah.
Dengan kenyataan ini semangat dan kepercayaan pengikut-pengikut imam Ali as kian bertambah. Sementara di pihak Mu’awiyah, keraguan mulai menyusup kedalam hati mereka, bahkan sebagian telah bersedia hendak memisahkan diri dan begabung dengan imam Ali as.
Setelah pemakaman ‘Ammar, beberapa saat kemudian kaum muslimin berdiri keheran-heranan dikuburnya?! ‘Ammar berdendang di depan mereka di atas arena perjuangan, hatinya penuh dengan kemgembiraan, tak ubahnya bagi seorang perantau yang merindukan kampung halaman, tiba-tiba dibawa pulang, dan terlontarlah seruan dari mulutnya:
“Hari ini aku akan berjumpa dengan para kekasih tercinta, dengan Nabi Muhammad SAW dan para sahabatnya.”
Apakah ia telah mengetahui hari yang mereka janjikan akan dijumpainya? Para sahabat saling jumpa-menjumpai dan bertanya, “Apakah anda masih ingat waktu sore hari itu di Madinah, ketika kita sedang duduk-duduk bersama Rasulullah SAW, dan wajahnya berseri-seri lalu bersabda, “Syurga telah merindukan ‘Ammar.”
“Benar,” ujar yang lain. “Dan waktu itu, juga disebutnya nama-nama yang lain, diantaranya: ‘Ali, Salman dan Bilal.