Menurut ajaran Rasulullah saw ibadah dan salat tidak memerlukan tempat khusus. Seseorang dapat beribadah dan salat di mana saja. Nabi saw bersabda: جُعِلَت لِی كُلَّ أرضٍ طَیبَةٍ مَسجِداً وَ طَهوراً

“Seluruh bumi telah dijadikan untukku sebagai tempat bersujud dan alat suci.” [14]

Karena itu, kaum muslimin sebelum melakukan hijrah tidak memiliki tempat khusus untuk salat. Mereka salat di mana saja yang memungkinkan untuk digunakan. Ketika itu Nabi saw bersama beberapa orang, termasuk Imam Ali as, menunaikan salat dengan cara sembunyi-sembunyi. [15] Menurut sejarah, setelah melakukan dakwah secara terang-terangan Nabi saw terkadang salat di samping Ka’bah.[16]

Masjid Quba adalah masjid pertama yang dibangun kaum muslimin. Ketika Nabi saw hijrah dari Mekah ke Madinah beliau singgah di Quba selama seminggu. Atas permintaan masyarakat, Nabi saw bersama kaum muslimin membangun masjid di sana. Sebagian menyebutkan, Masjid Quba dibangun atas saran Ammar Yasir. [17]

Setelah berhijrah ke Madinah, Nabi saw memilih sebuah tempat untuk salat dan berkumpul kaum muslimin. Lalu bersama para sahabatnya beliau membangun tempat sederhana yang kemudian dinamakan Masjid Nabawi. Dengan cepat Masjid Nabawi menjelma sebagai tempat terpenting bagi kaum muslimin. Masjid ini digunakan untuk keperluan pendidikan agama, aktifitas sosial, dan tempat pengambilan keputusan masalah-masalah penting. Memang sebelumnya, ketika di Mekah, Nabi saw sudah mendirikan salat jamaah bersama [Para Sahabat|para sahabatnya]], namun saat itu belum ada tempat khusus yang dijadikan sebagai masjid.

Setelah hijrahnya Nabi saw ke Madinah, masjid tidak hanya digunakan sebagai tempat ibadah namun juga pusat pemerintahan, pendidikan dan dakwah Islam. Begitu Darul Imarah dan madrasah-madrasah berdiri, masjid lebih banyak difungsikan sebagai tempat ibadah.[18]

Setelah kaum muslimin menaklukkan Irak dan Afrika Utara pada abad pertama hijriah, mereka meniru Rasulullah saw ketika di Madinah dengan mendirikan masjid di pusat pangkalan militer. Begitu pangkalan-pangkalan pasukan Islam berubah menjadi kota, sebagaimana Basrah, Kufah, Fustat, dan Kairouan, masjid yang dibangun di sana pun menjadi bangunan masjid permanen. Hal sama juga terjadi di Baghdad pada abad ke-2 H dan di Kairo pada abad ke-4 H. Begitu juga di Damaskus, Baitul Makdis, dan Madain. [19]

Setelah pembangunan Masjid Quba dan Masjid Nabawi, kaum muslimin banyak membangun masjid di wilayah-wilayah Islam lainnya, di antaranya, Masjid Kufah (17 H/638), Masjid Fustat (21 H/642), dan Masjid Jami Basrah (24 H). [20]

Menurut Ibnu Khaldun, ada dua macam masjid kota: 1- Masjid agung yang dikelola pemerintah dan digunakan untuk Salat Jumat dan perkumpulan kaum muslimin, 2- Masjid kecil yang dibangun dan dikelola warga. Di masa awal Islam biasanya para khalifah dan pejabatnya membangun kediaman mereka di dekat masjid jami, tujuannya adalah meneladani Rasulullah saw di Madinah dan memelihara tradisi lama. Sedangkan masyarakat umum membangun masjid di lingkungan masing-masing kabilah mereka. Dengan bertambahnya kekuasaan dan makin banyaknya harta pemerintah Islam, masjid-masjid juga makin banyak didirikan. Dengan ditunjang dana wakaf, biasanya masyarakat berperan serta dalam membangun dan mengelola masjid-masjid di lingkungan mereka. [21]

Saat ini masjid lebih banyak difungsikan sebagai tempat ibadah sehari-hari dan Salat Jumat. Dalam salat atau acara-acara yang diselenggarakan di masjid biasanya perempuan berada di belakang laki-laki bersekat kain atau di ruang terpisah. [22]

Masjid memiliki aturan khusus, karena itu biasanya tempat wudhu dipisah dari ruang aslinya.[23] Dalam sejarah Syiah, begitu juga Ahlussunnah, masjid memiliki nilai sangat penting bagi kaum muslimin. Di masanya, Dinasti Alu Buyah (abad ke-4 hingga ke-5 H) dan Dinasti Shafawi (abad ke-10 hingga ke-11 H) sangat mendukung dan menyokong keberadaan masjid dan makam kaum Syiah di Karbala dan Najaf. Di masa Kekhalifahan Fatimiah Ismailiyah (abad ke-4 hingga ke-6 H) banyak masjid dibangun di Afrika Utara hingga Mesir dan Hijaz. Begitu juga Dinasti Shafawi di Iran dan negera-negara sekitar Teluk Persia, mereka membangun banyak masjid sekaligus mengelolanya. Dengan berkembangnya Syiah yang begitu pesat bukan berarti pembangunan dan aktifitas masjid menjadi berkurang, malah bertambah banyak dan ramai, termasuk aktifitas Salat Jumat. [24]