Jepun disebut Nippon atau Nihon dalam bahasa Jepun; kedua-duanya ditulis dengan aksara kanji yang sama, iaitu 日本 ("punca matahari"). Sebutan Nippon sering digunakan dalam urusan rasmi, termasuk nama negara dalam duit yen Jepun, setem, dan pertandingan sukan antarabangsa. Sementara itu, sebutan Nihon digunakan dalam urusan tidak rasmi seperti pembicaraan seharian.

Istilah Nippon dan Nihon sama-sama bererti "negara matahari terbit". Nama ini disebut dalam wakil Maharaja Jepun ke Kerajaan Sui di China, dan merujuk kepada kedudukan Jepun yang terletak di sebelah timur tanah besar China. Sebelum Jepun menjalin hubungan dengan China, negara ini dikenali sebagai Yamato (大和).[19] Di China sewaktu zaman Tiga Kerajaan, Jepun dikenali sebagai negara Wa (倭) atau Wagoku (倭国).[20]

Nama negara Jepun dalam bahasa Melayu lama ialah "Jepang" (kini diterapkan dalam bahasa Indonesia) yang dipinjam daripada suatu loghat bahasa Cina, lalu ditemui oleh para pedagang Portugis di Melaka pada abad ke-16. Oleh itu, dipercayai bahawa pedagang Portugis inilah yang memperkenalkan nama negara Jepun ke Eropah. Nama Jepun julung kali dicatatkan dalam bahasa Inggeris dieja Giapan dalam sepucuk surat bertarikh tahun 1565[21]; nama Jepun dalam bahasa Inggeris kini dieja Japan. Nama Jepun dalam bahasa Melayu masa kini mungkin berasal daripada bahasa Hokkien, iaitu "Ji̍t-pún'. Ataupun ia dipanggil Japanese atau Japang dalam bahasa Indonesia