Ini adalah masjid yang pertama kali dibangun dalam sejarah Islam. Dengan kedua tangannya yang mulia, Nabi Shallallahu alaihi wasallam meletakkan pondasinya. Kaum Muhajirin dan Anshar lalu membangun di atas pondasi tersebut. Allah menjelaskan keutamaan masjid ini dalam Al-Qur'an yang dibaca hingga hari kiamat. Firman Allah: “Sesungguhnya mesjid yang didirikan atas dasar takwa (mesjid Quba), sejak hari pertama adalah lebih patut kamu sholat di dalamnya. Di dalamnya mesjid itu ada orang-orang yang ingin membersihkan diri. Dan sesungguhnya Allah menyukai orang-orang yang bersih.” (At-Taubah: 108)