Pada awalnya, Rasulullah Saw salat ke arah Masjid al-Aqsa di Yerusalem. 13 tahun di Makah dan 1 tahun 5 bulan di Madinah. Kaum Yahudi menyatakan keberatan dan berkata dengan congkaknya, ” Jika kami dalam kesesatan, lalu mengapa kalian melakukan salat mengarah pada kiblat kami. “

Atas peristiwa itu, Malaikat Jibril turun ke bumi membawa wahyu ketika Rasulullah Saw sedang khusyuk mengerjakan salat. Malaikat Jibril As berkata : ” Allah Swt telah memerintahkan engkau untuk menghadapkan wajahmu ke arah Ka’bah.

 ” Sejak saat itu Ka’bah menjadi kiblat bagi kaum Muslimin. Kaum Yahudi berpikir buruk tentang perubahan itu dan menyatakan keberatan serta bertanya, ” Jika Ka’bah arah kiblatmu, lalu mengapa engkau melakukan salat menghadap ke Masjid al-Aqsa (Yerusalem) ?”
Kaum Yahudi itu tidak menyadari bahwa perubahan arah kiblat adalah untuk membedakan siapa kawan dan siapa lawan Islam, sehingga dapat dikenali siapa yang mentaati dengan siapa yang menentang Rasulullah Saw.