【旧石器時代】
今から約500万年前、地質学的には鮮新世の初期に、人類の最初の祖先はアフリカにおいて誕生したと考えられている。その後アフリカにおいて進化した人類は、ホモ・エレクトスの段階においてアフリカ大陸からアジア・ヨーロッパ地域へと進出していった。彼らは原人と呼ばれ、アジアにおいては北京原人（ホモ・エレクトス・ペキネンシス）や、かつてピテカントロプスと呼ばれたジャワ原人（ホモ・エレクトス・エレクトス）がこれに当たる。ホモ・エレクトスはアジア大陸に広く分布したが、後に日本列島となる地域には到達しなかったとみられている。
鮮新世の次の更新世は氷河時代に当たり、地球上で寒冷な氷期と温暖な間氷期とが交互に訪れ、そのたびに海面の上昇と下降が繰り返された。この時代は日本列島はまだアジア大陸と地続きで、そのの東の縁にあったが、その後の地殻変動により次第に大陸から切り離され、今から1万年ほど前の完新世に入った頃に、宗谷・津軽・対馬などの海峡によって大陸から切り離された。
今から約20万年前にアフリカにおいて現在の人類であるホモ・サピエンス（新人）が誕生した。ホモ・サピエンス以前の人類には旧人と呼ばれるネアンデルタール人（ホモ・ネアンデルターレンシスまたはホモ・サピエンス・ネアンデルターレンシス）があり、彼らはヨーロッパ大陸から西・中央アジアにかけて生息していたが、東アジアには進出しなかった。
更新世の間にホモ・エレクトスやネアンデルタール人は絶滅したが、約7万年前にその一部がアフリカを出てユーラシア大陸全体に広がり、オセアニア・南北アメリカ大陸にまで進出したホモ・サピエンスは氷河時代を生き延び、現在生存している唯一の人類種となった。
アフリカを出てユーラシア大陸を東に向かったホモ・サピエンスの集団は約5万年前に東アジアに到達したと考えられている。更新世の日本列島は、氷期に海岸線が大きく後退して大陸と地続きになっており、大陸からナウマンゾウ・マンモス・オオツノジカなどの大型動物が渡ってきたが、人類もこれらの群れを追って日本列島に移住してきたと思われる。
1949（昭和24）年に群馬県岩宿（いわじゅく）で、更新世後期の関東ローム層から打製石器が発見されたことをきっかけに、全国各地の更新世の地層から各種の石器が発掘され始め、更新世時代の日本にも旧石器文化（先土器文化・無土器文化）が存在したことが確認された。
【縄文時代】
約1万年前から完新世に入ると気候は温暖化し、氷河も溶けて海水面が上昇し、日本列島は海峡によって完全に大陸と切り離された。大型動物に代わってシカ・イノシシ・ウサギなどの小型の動物が増え、森林や湖沼の多い環境の中で食料も豊富になった。
このような環境の変化につれて人々は土器を伴う新たな文化を生み出した。最古の土器は約12,000年前のものと推定されている。初期に作製された、さまざまな形と文様を持ち、低温で焼かれた厚手の黒褐色ないし茶褐色の土器は縄文土器と呼ばれ、その時代の文化は縄文文化と呼ばれる。
縄文文化は新石器時代に属し、土器の製作・使用のほか、打製石器と並んで磨製石器が用いられるようになり、弓矢・骨角器なども作られた。
縄文時代の人々は、湧き水のある台地の周辺部などに竪穴式住居の集落を形成した。集落の背後には豊かな森があり、その近くに環状または馬蹄形の貝塚ができた。また、女性をかたどった土偶が作られ、成人を示す抜歯や、死者を折り曲げて葬る屈葬などの習俗が行われた。
【弥生時代】
紀元前6000〜5000年頃に中国大陸の黄河中・下流域に始まった農耕は、紀元前4世紀頃に日本列島に伝わってきた。始めに九州北部で水稲耕作と青銅器・鉄器を特徴とする農耕文化が起こり、紀元前後には関東地方から東北地方南部へ、紀元2世紀頃には東北地方北部にまで及んだ。鉄は朝鮮半島からの輸入が主体だったが、日本でも中国地方の山地などで砂鉄の採取が行われるようになった。
この時代の土器は高温で焼かれた薄手で硬い茶褐色のものが主体となり、その土器は弥生土器と呼ばれ、その時代の文化は弥生文化と呼ばれる。弥生土器は用途に応じて壺（貯蔵用）、瓶（かめ：煮炊き用）、高坏（たかつき：盛り付け用）、甑（こしき：蒸し器）などが作られ、機織りも始まった。
住居は、数個の竪穴住居や平地住居に、主に穀物を貯蔵する高床倉庫が付属する形式がみられ、また住居群を濠や溝で囲む環濠集落も現れた。弥生社会では集落内や集落間に貧富の差が生じ、身分の別が起こった。中期以降は、一つの水系を単位とする地域集落をまとめる必要から、強大な権力を持つ首長が出現するようになった。
中国の史書「漢書」地理志によると、紀元前後1世紀の日本は倭と呼ばれ、100余の国々に別れ、朝鮮半島北部に置かれた漢の楽浪郡（らくろうぐん）に定期的に使者を送っていたという。
「後漢書」東夷伝には、紀元57年に倭の奴（な）の国王が後漢の光武帝のもとに使者を送り、印綬を与えられ、107年にも倭国王らが生口160人を時の皇帝に献じたとある。これらから、弥生時代中期の日本は、小国に別れ、それぞれ中国と通交していたと考えられている。
2〜3世紀の弥生時代後期になると倭の社会にも変化が起こり、九州では銅矛・銅戈が、瀬戸内海沿岸では平形の銅剣が盛んに作られるようになり、近畿地方ではわが国独特の形状を持つ銅鐸が作られ、中国地方にも広まっていった。
3世紀初め、中国では後漢が滅び、代わって魏・呉・蜀の三国時代となると、朝鮮半島では韓族の力が増し、楽浪郡から独立する動きをみせていた。
「魏志」倭人伝によると、同じ頃に倭も国内が乱れ、何年にも渡って国々が攻めあった後、卑弥呼という女性を連合王国の王に立て、乱を収めたという。卑弥呼を女王とする邪馬台国は30カ国ほどを勢力下に置く連合王国であり、後漢末期に楽浪郡の南に設けられた帯方郡を経由して魏と通交した。朝鮮半島北部を勢力下に置いていた公孫氏が滅びると、卑弥呼は239年に魏に使節を送り、皇帝から「親魏倭王」の称号と印綬などを授けられた。
卑弥呼の死後、倭国は再び乱れたため、宗女の壱与を女王に立てることで再び戦乱は収まった。壱与が魏に朝貢した記事を最後に、しばらくの間中国の史書から倭国に関する記述は姿を消す。