Lebih dari 100 tahun yang lalu, bangunan istana umat Islam di pusat kota Kembang berdiri kokoh. Seperti halnya bayi yang baru lahir, dia tidak begitu saja bisa langsung berjalan apalagi berlari. Semua ada tahapan-tahapan tertentu yang harus dilalui. Begitu pula dengan mesjid yang terletak di pusat Kota Bandung ini. Tidak serta merta bisa kokoh dan nampak indah seperti sekarang.
Dalam riwayatnya, Mesjid Agung Bandung dulu awal dibangun hanya berbalutkan dinding-dinding yang terbuat dari anyaman bambu. Begitu pula dengan aksesoris mesjid yang lain masih menggunakan bahan-bahan tradisional. Bahkan ada kolam cukup luas yang digunakan untuk berwudhu, sumber air ini pun bermanfaat untuk memadamkan si jago merah yang terjadi di sekitar Mesjid Agung Bandung pada waktu itu.
Sejarah lain mengatakan pembangunan pusat ibadah umat Islam terbesar di Kota Bandung ini “berduet” dengan pembangunan Pendopo Kabupaten Bandung di selatan pusat Kota Kembang ini. Selain itu mesjid ini adalah salah satu elemen pusat kota tradisional waktu negeri ini, di jajah oleh negeri kincir angin yaitu sebagai simbol religiusitas serta sebagai pusat keagamaan kota.
Masyarakat Priangan sangat memanfaatkan mesjid ini sebagai lahan untuk beribadah. Tidak terbatas melaksanakan shalat saja tapi juga aktivitas agama yang lain. Begitu pula yang dimanfaatkan oleh para pengelola mesjid, berusaha untuk bisa memakmurkan tempat ibadah ini dengan berbagai aktivitas seputar Islam. Contohnya adalah menggali potensi masyarakat terhadap Al-Quran dengan mengadakan pengajian, ataupun memperingati hari-hari besar umat Islam.
Mesjid Agung ini juga sering disebut Bale Nyungcung (Bale: tempat pertemuan masyarakat, nyungcung: lancip). Dikatakan seperti itu, karena bentuk atapnya yang lancip (nyungcung) seperti gunungan. Menurut catatan sejarah, mesjid yang bertempat di Alun-Alun Bandung ini berhadapan dengan Bale Bandong yang berfungsi sebagai tempat pertemuan tamu kehormatan Kabupaten Bandung.
Sama seperti halnya kantor lembaga biasa, mesjid ini pun memiliki struktural kepengurusan agar tata tertib dan kemakmuran mesjid lebih terjaga. Karena ketekunan para teknokrat masjid dalam melaksanakan amanahnya, syi’ar dan kemakmuran rumah Allah ini senantiasa terpancar ke setiap penjuru kota kembang.
Karena mengikuti arus zaman, pusat ibadah ini pun mengalami metamorfosis dalam perwajahannya. Mulai dari bongkar pasang bangunan mesjid sampai perombakan di sekitarnya agar lebih luas. Beberapa ornamen masjid dibuat lebih menarik dengan gaya khas Priangan.
Meskipun demikian, bangunan mesjid tidak luput dari wajah tradisional Sunda dari bentuk mesjid sampai aksesoris yang terpajang pun menyampaikan bahwa seni Sunda tidak akan pernah hilang meskipun tergiring ombak perubahan zaman menjadi lebih modern. Di tahun-tahun berikutnya, Mesjid Agung dilengkapi dengan serambi depan dan sepasang menara yang tidak begitu tinggi dengan tutup menara dibuat tumpang susun di kiri-kanan bangunan.
Mesjid yang juga dijuluki “Kaum Bandung” ini terus mengalami pembedahan bangunan. Perubahan drastis tampak pada atap mesjid, atap mesjid tumpang susun yang dipakai dari awal mesjid ini terbentuk, kini diubah menjadi kubah model bawang bergaya Timur Tengah. Lalu dibangun menara tunggal yang berdiri tegak di halaman depan mesjid. Masa demi masa telah dilalui, seiring bergulirnya perubahan perkembangan kota yang terkenal dengan oncomnya ini, kini Masjid Agung pun menjadi pusat pendidikan Islam serta pusat kesehatan masyarakat.
Kemakmuran mesjid yang pernah menjadi tempat pertemuan besar seperti Konferensi Asia Afrika ini semakin nampak jelas. Kumandang takbir yang berkoar-koar memanggil umat Islam sekitar sana untuk segera menunaikan ibadah shalat terdengar sangat lantang. Gemuruh orang-orang yang menuntut ilmu dari anak-anak sampai kakek-nenek berkumpul disana. Pelayanan kesehatan kepada masyarakat sekitar pun tak terelakan. Kini Masjid Agung memiliki multi fungsi, bukan hanya sebagai sarana ibadah saja.
Gema tausiyah yang disampaikan oleh para da’i bukan hanya dapat didengar oleh para jama’ah yang hadir di tempat, tetapi juga dengan mengudara melalui media elektronik seperti radio. Sehingga masyarakat juga dapat mendengarkan ceramah melalui radio.
Setelah adanya pelantikan pemimpin baru Jawa barat pada waktu itu, Mesjid Agung dibedah total. Beberapa tubuh mesjid yang sudah tidak digunakan diwakafkan kepada mesjid-mesjid yang ada di Kota Peuyeum (tape singkong) ini. Tanpa tinggal diam, Gubernur Jawa Barat yang baru itu langsung mengerahkan pasukan untuk merombak kembali Mesjid Agung. Untuk tahap pertama yaitu, pembuatan bangunan yang menjulang tinggi serta dibuatnya jalan penghubung antara Mesjid Agung dengan pusat kota. Pembangunan itu memakan biaya puluhan juta rupiah.
Perombakan itu membuat wajah mesjid semakin modern. Lantai mesjid kini sudah bertingkat, semua bahan pembuatan bangunan yang terbuat dari bata dan beton, ornamen menara yang dilapisi logam, atap kubah model bawang yang diganti dengan model joglo. Namun, atap tradisional mesjid diganti dengan kubah, sehingga kesan bangunan mesjid akan lebih mudah dikenali.
Perubahan ini semakin memberikan kesan modern yang kini telah menguasai arus zaman hingga mesjid pun tak luput dari korban modernitas. Meskipun demikian, bangunan baru ini dapat menampung ribuan orang, selain itu terdapat ruangan khusus untuk meminjam ataupun membaca buku bagi para pengunjung mesjid.
Perlu diketahui pula, bahwa Presiden pertama RI pun pernah berkontribusi dalam perombakan Mesjid Agung Bandung. Namun beberapa tahun setelah kemerdekaan RI, perwajahan Mesjid Agung sungguh sangat memprihatinkan. Dinding mesjid saat itu di penuhi ornamen batu granit serta pintu gerbang yang dikerangkeng besi.
Perubahan itu membuat tempat ibadah terisolasi. Di tambah dengan hiruk pikuk pertokoan yang dari tahun ke tahun semakin menghimpit mesjid bersejarah ini. Beberapa puluh tahun kemudian, di tangan seorang arsitek, mesjid ini mengalami kembali perubahan yang cukup signfikan. Yaitu dengan diperluasnya beberapa pijakan kaki mesjid serta me-reshuffle beberapa bangunan.
Hingga akhirnya renovasi besar-besaran ini mengundang perhatian tokoh besar Jawa Barat. Maka beliau mengadakan pertemuan dengan beberapa pasukan yang turut andil dalam pembangunan mesjid untuk merubah nama Mesjid Agung menjadi “Mesjid Raya Bandung Jawa Barat”. Proyek renovasi ini memberikan nuansa baru dengan dibangunnya dua menara kembar dengan ukuran ketinggian yang melambangkan asma Allah SWT. Bangunan yang mejulang tinggi ini juga dimanfaatkan untuk kepentingan komersial, telekomunikasi dan obyek wisata.