Nama Alor Gajah berpunca daripada tabiat sekumpulan gajah liar yang kononnya diketuai oleh seekor gajah putih. Gajah berkenaan dilihat sangat gemar berjalan secara berkumpulan menurut alur sebatang sungai yang terdapat di bandar ini. Atas keadaan itu penduduk tempatan menamakan bandar ini sebagai Alor Gajah.

Alor Gajah pada mulanya didiami oleh orang Minangkabau pada kurun ke-12. Apabila berlaku penghijrahan beramai-ramai penduduk Minangkabau di Tampin pada masa pemerintahan Kesultanan Melayu Melaka maka wujudlah pemerintahan Melayu di Bandar Alor Gajah.

Semasa zaman penjajahan British di Tanah Melayu seorang pegawai British telah ditempatkan di Alor Gajah bagi mengutip hasil. Sesuai dengan peranan dan tanggungjawab tersebut, Pejabat Daerah telah ditubuhkan agar perlaksanaan tugas dapat dijalankan dengan sempurna. Alor Gajah juga terkenal dengan pahlawan Naning iaitu Dato' Dol Said yang menentang British di dalam Perang Naning pada tahun 1832 adalah dari sebuah kawasan hutan yang dipercayai menjadi laluan gajah-gajah liar.Selain itu, Alor Gajah juga pernah mempunyai landasan kereta api dari Pulau Sebang terus ke Bandaraya Melaka (melalui Alor Gajah) tetapi telah ditutup semasa pendudukan Jepun 1942.Stesen Kereta Api Pulau Sebang yang dibuka pada tahun 1905 masih lagi beroperasi pada masa kini yang lebih dikenali dengan nama stesen Kereta Api Tampin/Pulau Sebang. Pihak KTMB sedang merancang untuk membina semula laluan kereta api hingga ke Bandaraya Melaka dari Pulau Sebang. Jika diluluskan projek itu dimasukkan dalam Rancangan Malaysia ke-10. Daerah Alor Gajah juga turut terlibat Projek Landasan Kereta Api Berkembar Elektrik yang sedang giat dilaksanakan sekarang antara Seremban ke Gemas. Lokasi stesen KTMB Pulau Sebang sekarang akan dipindahkan beberapa meter ke arah selatan dari stesen sedia ada. Apabila stesen KTMB Pulau Sebang siap pada tahun 2012 turut dilengkapi dengan Perhentian Bas dan Teksi Pulau Sebang. Hal ini kelak menjadikan Pulau Sebang mempunyai sistem pengangkutan yang bersepadu yang melibatkan kereta api bas dan teksi. Secara tidak langsung Projek Sebang Sentral yang pernah diuar-uarkan menjadi kenyataan. Potensi Bandar Pulau Sebang akan bertambah maju. Limpahan pembangunan bukan sahaja akan berlaku di Bandar Alor Gajah tetapi turut dirasai dengan lain-lain kawasan yang berhampiran. Kerajaan Negeri Melaka mahukan Stesen KTMB Pulau Sebang kelak tidak lagi dibayangi dengan Tampin sebaliknya Stesen KTMB ini merupakan stesen yang terletak di daerah Alor Gajah, Melaka.

Sehingga kini Daerah Alor Gajah telah mempunyai 25 orang Pegawai Daerah sejak tahun 1938.