Japon takımadalarına, ilk olarak adaların hala Asya kıtasının bir parçası olduğu dönemde, yaklaşık 100 bin yıl önce yerleşilmişti. Arkeolojik araştırmalar yontma taş devrinde takımadalarda yaşayan insanların temelde avcılık ve toplayıcılıkla geçindiklerini ortaya çıkarmıştır. Cilalı taş devrinde zarif taş aletler yapılmış, ok ve yay kullanılarak ileri avlanma teknikleri geliştirilmiş ve yemek pişirmek ve saklamak için toprak kaplar üretilmiştir. Jomon stili (sicim desenli) kaplar nedeniyle, MÖ 8 bin ile MÖ 300 zxxyılları arasındaki dönem Jomon dönemi olarak adlandırılır.

MÖ.300 yıllarında Asya kıtasından tarım, basit pirinç ekimi ve metal işçiliği teknikleri gelmiştir. Japonya'da yaşayanlar tarımsal üretimi artırmak için günlük yaşamlarında tarım aletleri ve demir silahlar, ayrıca dini ayinler için bronz kılıçlar ve aynalar kullanmışlardır. Bu dönemde işbölümü, yöneten ve yönetilenler arasındaki ayrılığı derinleştirmiş ve ülkede pek çok küçük devlet kurulmuştur. MÖ. 300 ile MS 300 yılları arasına rastlayan ve çömlekçi çarkında seramiklerin üretildiği döneme Yayoi dönemi denmiştir.