Dalam bahasa-bahasa Melayu (termasuk Indonesia), Jawa, Sunda, Minangkabau, dan Aceh, haiwan ini dipanggil "gajah". Sementara itu, gajah dikenali dengan sebutan "elephant" dalam bahasa Inggeris. Kata "elephant" berasal daripada bahasa Latin elephas (genitif elephantis) (yang bererti "gajah"), yang merupakan Latinisasi daripada kata ἐλέφας (elephas) (genitif ἐλέφαντος (elephantos)) dalam bahasa Yunani;[1] kata tersebut kemungkinan berasal daripada bahasa bukan Indo-Eropah, iaitu bahasa Phoenicia.[2] Kata e-re-pa dan e-re-pa-to digunakan di Yunani Mykenai dalam aksara suku kata Linear B.[3][4] Seperti di Yunani Mykenai, Homer menggunakan kata tersebut untuk gading, namun setelah zaman Herodotus istilah tersebut juga merujuk pada haiwan gajah.[1] Pendahulu kata "elephant", iaitu olyfaunt, baru muncul dalam bahasa Inggeris Pertengahan sekitar tahun 1300, dan kata tersebut dipinjam daripada kata dalam bahasa Perancis Kuno, oliphant (abad ke-12).[2] Dalam bahasa Swahili, gajah dipanggil Ndovu atau Tembo. Gajah digelar hastin dalam bahasa Sanskrit,[5] sementara dalam bahasa Hindi dipanggil hāthī (हाथी).[6] Loxodonta, yang merupakan nama genus gajah Afrika, berasal daripada bahasa Yunani yang bererti “gigi bersisi miring ".[7]