Pembangunan Mesjid Al Syarifah berawal dari rasa peduli dr Sofyan Tan saat menyaksikan beberapa guru dan karyawan harus melaksanakan salat di ruangan guru yang sempit. Lalu dengan bergotong royong, pihak yayasan, guru, karyawan, siswa dan masyarakat mengumpulkan sumbangan sukarela untuk mewujudkan pembangunan mesjid. Tanggal 1997 proses pembangun Mesjid Al Syarifah selesai dilakukan.
Peresmiannya dilakukan tanggal 15 April oleh Pangdam I Bukit Barisan Mayjend TNI H. Soedaryanto. Sesuai namanya, Al Syarifah yang berarti mulia, diharapkan keberadaan mesjid itu mampu menumbuhkan akhlak mulia bagi mereka yang melakukan ibadah di mesjid itu.
Namun mesjid Al Syarifah bukan hanya digunakan sebagai tempat ibadah salat wajib, salat Jumat, praktek pembelajaran tadarus Alquran/TPA Iqra’ dan praktek Fardu Kiyafah (pengurusan jenazah), tetapi juga sebagai pusat kegiatan keagamaan seperti lomba MTQ, pidato, Kaligrafi, tahfizh Qur’an, pengajian bulanan bina mental Islam ( Bintalis), Pesantren Kilat dan diskusi serta mentoring pendalaman Al-Qur’an.