Masjid Huaisheng dibina pada zaman Dinasti Tang (619-907) apabila pedagang Islam datang ke China melalui laluan sutera. Hubungan terawal Islam dengan China berlaku di kawasan ini, seterusnya merebak ke kawasan lain. Oleh yang demikian Guangzhou boleh digelar sebagai tempat lahirnya Islam Cina. Dikatakan bahawa masjid itu dibina oleh Sa’ad bin Abi Waqqas, bapa saudara Nabi Muhammad semasa pemerintahan Maharaja Gaozong (649–683), maharaja Tang ketika itu.
Masjid Huaisheng kekal sebagai salah satu masjid tertua di China, dan juga salah satu masjid tertua yang masih hidup di dunia, walaupun ia telah dimusnahkan dan dibina semula berkali-kali. Ia telah dibina semula pada 1350 dan sekali lagi pada 1695 selepas musnah dalam kebakaran, dan mungkin diubah suai atau dibina semula pada masa lain juga. Kini, ia merupakan masjid yang aktif dan tempat penting bagi umat Islam di China. Sebilangan besar umat Islam, baik asing mahupun Cina, datang mengunjunginya dan menunaikan solat.
Masjid ini meliputi kawasan seluas 3600 meter persegi. Ia adalah Masjid Model Negara dan unit perlindungan peninggalan budaya utama negeri. Persatuan Islam Guangzhou dan Persatuan Penyelidikan Budaya Sejarah Guangzhou Hui berada di kompleks ini. Kira-kira 2000 umat Islam datang pada hari Jumaat untuk menunaikan solat berjemaah. Pada hari-hari lain, jumlahnya lebih sedikit, tetapi semua solat lima waktu dilakukan secara berjemaah di masjid. Bangunan-bangunannya adalah gabungan seni bina tradisional Cina dan gaya Arab. Kaligrafi Arab boleh dilihat pada dinding dan tiang. Sesetengah tulisan kelihatan seperti aksara Cina kerana ia adalah tulisan Arab berbentuk empat segi yang diletakkan dan dijarakkan pada tiang dan tanda dengan cara yang sama seperti aksara Cina akan ditulis pada tanda dan tiang di kuil Cina. Terdapat beberapa ciri menarik di dalam masjid yang patut diberi perhatian.
Sebagai ciri utama masjid, menara adalah struktur besar setinggi 36 meter. Ia pernah berfungsi sebagai rumah api untuk memandu bot ke sungai Zhujiang. Sebaik bot tiba di sini, mereka mengambilnya sebagai tanda bahawa mereka telah sampai ke permulaan laluan sutera maritim. Aci bata tirus menara itu ditetapkan pada tapak 10 meter dan mempunyai tangga dalaman. Ia mempunyai permukaan licin seperti menara lain dalam seni bina Islam dan tidak seperti pagoda biasa dalam seni bina Cina. Balkoni di atas digunakan untuk azan orang Islam. Sehingga baru-baru ini, menara ini adalah struktur tertinggi di Guangzhou dan merupakan mercu tanda bandar. Bagi orang Islam, ia adalah salah satu tarikan utama di Guangzhou dan merupakan tarikan seni bina Guangzhou kerana sejarahnya yang panjang dan gaya yang berbeza.
Masjid ini terkenal dengan integrasi seni bina tempatan dengan gaya Arab yang diimport. Terdapat koridor di pintu masuk yang membuka ke halaman. Terdapat tumbuhan dan pokok di halaman rumah. Ruang solat utama terletak di seberang halaman. Ia adalah bangunan bata merah dengan pintu melengkung, dan pada kedua-dua belah pintu, terdapat papan tanda hijau yang mempunyai perkataan Arab yang ditulis seperti aksara Cina. Sentuhan yang menarik dan luar biasa ialah bumbungnya diperbuat daripada jubin biru-hijau yang memberikan warna hangat pada kawasan masjid. Dewan yang luas itu dipenuhi dengan sejadah dan dindingnya dihiasi dengan tulisan khat Arab. Terdapat tempat yang berasingan untuk wanita.
Plak dengan perkataan "Jiao Chong Xi Yu" telah diberikan kepada masjid oleh Maharaja Guangxu Dinasti Qing (1901). Ia dicop oleh maharaja dan empat perkataan itu dianggap telah ditulis oleh Permaisuri Janda Cixi. Perkataan itu bermaksud "Islam berasal dari Makkah Barat".
Ukiran Bayangan Batu Guangta Ukiran Batu Guangta pada dinding koridor barat masjid menunjukkan sejarah Masjid Huaisheng dan Minaret Guangta dengan ukiran batu moden. Gambar-gambar menunjukkan pelbagai tempoh dalam sejarah, bersama-sama dengan penerangan. Koridor Stele Koridor ini mempunyai beberapa prasasti yang diukir dengan kepingan puisi kuno tentang Masjid Huaisheng dan Minaret. Kata-kata itu ditulis oleh ahli kaligrafi Hui kontemporari.
