Masjid Klebang Besar dibina pada sekitar tahun 1910-an secara gotong royong oleh orang-orang kampung. Pada mulanya, masjid ini diperbuat daripada kayu, tetapi pada tahun 1929, Masjid Klebang Besar telah diubahsuai dengan binaan separa batu, sesuai dengan peredaran zaman, dengan bantuan orang ramai serta Kerajaan Negeri.

Masjid Klebang Besar telah diiktiraf oleh Perbadanan Muzium Melaka (PERZIM) sebagai salah sebuah masjid yang tertua dalam negeri Melaka. Banyak tinggalan sejarah masih dapat dilihat dalam reka bentuk masjid ini, antaranya:

• pintu gerbang;
• empat batang tiang kayu yang terletak di ruang utama sembahyang;
• mimbar khutbah;
• beduk;
• tangga; dan
• sebuah perigi lama yang pada satu ketika digunakan untuk mengambil wuduk.

Pentadbiran