Masjidul Rahman Tanah Merah pada asalnya dibina pada tahun 1926 di atas tapak yang dimiliki oleh Allahyarham Tuan Hj. Muslim Bin Tahir sebagai suatu projek gotong royong oleh para penduduk kampung di kawasan itu. Bahan-bahan untuk membina masjid itu disumbang oleh Fauziah, penghulu Kg. Paya Rumput, Melaka, dengan mimbar masjid dipercayai disumbang oleh Masjid Paya Rumput.

Pada suatu ketika, kawasan Masjidul Rahman Tanah Merah dipergunakan untuk mendirikan sebuah Sekolah Agama Rakyat. Sekolah itu kemudian dijadikan sekolah untuk orang dewasa, dengan ia kini dipergunakan sebagai Tadika KEMAS untuk para penduduk Kg. Lanjut Manis dan Tanah Merah.