Pada zaman ais, Jepun tercantum dalam benua Asia dari Sakhalin di utara dan Kyushu di selatan; memudahkan penghijrahan manusia, haiwan dan tumbuhan ke kepulauan Jepun dari kawasan yang kini adalah negara China dan Korea.

Budaya Jomon timbul sekitar 11,000 sebelum Masihi dengan berakhirnya zaman ais. Gaya hidup mereka berputik dari cara mesolitik ke neolitik. Masyarakat Jomon juga merupakan penghasil barang-barang tembikar yang terawal di dunia. Difahamkan bahawa kaum Jomon merupakan leluhur kaum Proto Jepun dan Ainu.

Permulaan era Yayoi di sekitar 300 SM ditandakan dengan kedatangan teknologi baru seperti penanaman padi dan sistem pengairan yang dibawa oleh pendatang dari Korea, China dan tempat-tempat lain di Asia.