Sekolah Rendah Arab JAIM Tun Razak telah ditubuhkan pada bulan Januari 2002. Status sekolah ini adalah menumpang iaitu menggunakan seluruh tingkat 2 bangunan Sekolah  Rendah Agama JAIM Kampung Tun Razak.

Pada peringkat awal penubuhan, sekolah ini hanya mempunyai seramai 29 orang murid iaitu 17 orang murid lelaki dan 12 orang murid perempuan. Bilangan guru dan kakitangan sekolah pula seramai 5 orang.

Sekolah ini mempunyai 2 jenis kurikulum, iaitu menggunakan kurikulum Agama dan Bahasa Arab dan kurikulum Kebangsaan.

Kurikulum Agama dan Bahasa Arab terdiri daripada 8 matapelajaran yang menggunakan bahasa Arab sebagai bahasa pengantar iaitu:-

Bagi kurikulum kebangsaan pula terdiri daripada 8 matapelajaran akademik iaitu:-

Sejak ditubuhkan sehingga sekarang seramai 5 orang Guru Besar telah berkhidmat di Sekolah ini iaitu:-

Bilangan murid bertambah dari setahun ke setahun menjadikan bilangan murid sehingga 2016 seramai 473 orang (Tahun 1 hingga Tahun 6). Pertambahan murid secara tidak langsung memerlukan pertambahan guru. Sehingga kini guru yang mengajar di Sekolah Rendah Arab JAIM Tun Razak ialah seramai 35 orang termasuk Guru Besar.

Pembangunan ini bermula dalam era pentabiran YAB Datuk Seri Mohd Ali bin Mohd Rustam Ketua Menteri Melaka.Pembangunan dan pembinaan bangunan baru ini adalah hasil kerjasama pihak JAIM, JKKK Kg Tun Razak dan PIBG sekolah. Usaha ini telah di gerakkan bermula September 2006, setelah pengurusan sekolah diletakkan di bawah Kementerian Pendidikan Malaysia Bahagian Pendidikan Islam (SABK)