Madinah menjadi sebuah ruang dakwah baru bagi Rasulullah Saw, setelah dakwah di Mekah terasa sempit bagi dakwah Rasulullah Saw dan umat Islam pada waktu itu. Berawal dari respon orang-orang Yatsrib (Madinah) yang datang  ke Mekah pada bulan haji, atau yang kemudian dikenal dengan Perjanjian Aqabah. Di sisi lain hal tersebut juga tidak bisa lepas dari pribadi Nabi Muhammad Saw yang jujur.

Keberhasilan dakwah Rasulullah Saw pada waktu itu, bisa dilihat dari orang-orang Yatsrib baik ketika Perjanjian Aqabah satu maupun dua. Di mana mereka mau mengubah sikap dan perilaku mereka, bahkan bersedia menjadi pelindung Rasulullah Saw.  Karena pada hakekatnya, dakwah merupakan suatu media atau sarana seorang dai untuk mengubah masyarakat dari negative menjadi positif atau berakhlak mulia, dari yang tertinggal menjadi maju.

Untuk membentuk dan membangun sebuah masyarakat baru di Yatsrib, dengan ragam suku dan kultur masyarakat yang beragam. Rasulullah Saw mempunyai berbagai langkah dan strategi dalam mewujudkan hal tersebut. Diantaranya adalah dengan membangun masjid, menciptaka persaudaraan baru, membangun pranata social dan pemerintahan, mengadakan perjanjian dengan masyarakat Yahudi di Madinah.

Waktu Rasulullah Saw hijrah ke Madinah, sudah banyak penduduk Madinah yang memeluk Islam atau yang kemudian dikenal dengan Kaum Anshar. Setelah beberapa bulan berada di Madinah, Rasulullah Saw kemudian membangun Masjid Nabawi. Pembangunan masjid tersebut selain berfungsi sebagai tempat ibadah juga berfungsi sebagai pusat kegiatan dakwah, pemerintahan, bermusyawarah dan lain sebagainya. pembangunan masjid yang saling bahu-membahu tersebut, telah mengajarkan arti sebuah persaudaraan dan semangat persamaan antar umat manusia.

Strategi kedua Rasululllah Saw dalam membangun sebuah peradaban baru adalah dengan menciptakan sebuah persaudaraan. Sebagaimana kita ketahui, ketika Kaum Muhajirin atau pengikut Rasulullah Saw yang hijrah dari Mekah ke Madinah, banyak yang menderita kemiskinan karena harta benda mereka semuanya ditinggal di Mekah.

Pada moment ini lah, Rasulullah Saw menciptakan persaudaraan baru antara Kaum Anshar dan Muhajirin. Rasulullah Saw kemudian menjadikan Ali bin Abi Thalib sebagai saudara Nabi Saw sendiri, lalu Abu Bakar Rasulullah Saw disaudarakan dengan Kharijah Ibnu Zuhair, Ja’far Ibnu Abi Thalib dengan Mu’adz bin Jabal.

Dengan hal tersebut, Rasulullah Saw telah mempertalikan keluarga-keluarga Islam. Di mana masing-masing keluarga mempunyai talian erat dengan keluarga yang lainnya, sehingga persaudaraan tersebut membentuk sebuah kekuatan baru yang kemudian membantu dakwah Rasulullah Saw.

Setelah melakukan kedua hal di atas, Rasulullah Saw kemudian mengadakan perjanjian dengan orang-orang Yahudi di Madinah dan berbagai elemen penting yang ada di Madinah. Hal ini juga merupakan salah satu strategi yang dilakukan oleh Rasulullah Saw, ketika berdakwah di Madinah. Yang kemudian perjanjian tersebut dikenal dengan Piagam Madinah, yang ditulis pada tahun 623 M atau tahun ke-2 H.

Di mana dalam Piagam Madinah tersebut terdapat beberapa point penting, diantaranya yaitu;  Kaum Muslimin dan Kaum Yahudi hidup secara damai, bebas memeluk dan menjalankan ajaran agamanya masing-masing. Apabila salah satu pihak diperangi musuh, maka mereka wajib membantu pihak yang diserang. Di antara mereka saling mengingatkan, dan saling berbuat kebaikan, serta tidak akan salingberbuat kejahatan. Kaum muslimin dan Yahudi wajib saling menolong dalam melaksanakan kewajiban untuk kepentingan bersama. Nabi Muhammad Saw adalah pemimpin umum untuk seluruh penduduk Madinah. Bila terjadi perselisihan di antara kaum muslimin dengan kaum Yahudi, maka penyelesaiannya dikembalikan kepada Nabi sebagai pemimpin tertinggi di Madinah.

Setelah berhasil mengikat masyarakat Madinah yang beragam tersebut dalam satu ikatan, dengan Piagam Madinah. Kemudian Rasulullah Saw membangun pranata sosial dan pemerintahan. Yang juga termaktub dalam Piagam Madinah, sehingga ketika Rasulullah Saw berdakwah di Madinah beliau bukan hanya sebagai penyampai risalah wahyu dari Allah Swt, tetapi juga sebagai pemimpin negara. Sebagaimana diungkapkan oleh Bernard lewis dalam The Middle East, bahwa Rasulullah Saw di Madinah juga sebagai seorang penguasa yang menjalankan kekuasaan politik dan militer, sekaligus pemimpin keagamaan.

Begitulah dakwah yang disampaikan oleh Rasulullah Saw, selain dengan Mauidzah dan Uswah Hasanah. Juga dengan membangun toleransi di tengah keragaman, untuk mencapai sebuah kemaslahatan bersama tanpa ada paksaan.