日本这个国家，出现得比较晚。但它的历史，还算久远。大约两万年前的旧石器时代晚期，日本就有古人类居住，他们采集和渔猎、制造打制石器、用火烧烤食物、死后建墓埋葬，文明程度不亚于中国大陆。
大约距今一万年前，日本进入新石器时代，他们培植粟、麦、稻等作物，发明了原始农业，创造了绳文陶器，故称绳纹时代。日本出土的绳文陶器，距今有1.2万年的历史，曾长期被视为世界上最早的陶器，直到后来被中国发现的陶器年代打破。
绳纹时代的日本，文明进程非常缓慢。直到公元前四世纪，日本才出现明显的进步，这时日本人使用一种比绳文陶更先进的陶器，叫做弥生陶器，故称这个时代为弥生时代。弥生时代的日本，在农业、手工业领域，取得了巨大进步，一是水稻的传入和农耕技术进步，二是出现了铁、铜等金属器及冶炼技术，三是出现父权制并进入父系氏族公社。这些进步大多得益于中国大陆的影响。当时中国大陆已是秦汉帝国。
弥生时代后期，大约公元前一世纪，日本出现了众多部落联盟，最初有百余个，经过不断兼并，最后仅剩三十余个，其中倭奴国在东汉初，遣使来朝贡，光武帝赐以印绶。公元一世纪，日本北九州的邪马台国强大起来，兼并了周边二十多小国，这个国家有严格的等级秩序，有复杂的官僚体制，有强大的武装军队，是日本历史上第一个真正意义上的国家。
公元二世纪，日本的邪马台国衰落，奈良新兴的大和国崛起，兼并其他小国，至公元四世纪时，完成了全日本的统一，这是日本第一个统一的奴隶制王朝。
大和国后期，各大贵族把持朝政，争权夺利的斗争愈演愈烈，公元592年，大和国权臣苏我马子杀崇峻天皇，拥立自己的外甥女、敏达天皇的王后炊屋姬为王，称为推古天皇（593—628年在位），这是日本第一位女天皇。
推古天皇继位后，册立其子立厩户为皇太子，这就是圣德太子。圣德太子主政时，颁布《十七条宪法》，大力发展佛教，派遣小野妹子等使隋，与隋朝建立外交关系，学习隋朝制度，推行初步的封建化改革，为此后大化改新奠定了基础。
公元622—628年，圣德太子、推古天皇先后病逝，改革随之流产。权臣苏我虾夷、苏我入鹿父子把持朝政，先后拥立舒明、皇极两位天皇。公元645年，舒明天皇的儿子中大兄发动政变，诛杀权臣苏我入鹿。皇极天皇也传位于弟弟孝德天皇，孝德天皇册立中大兄为皇太子。
孝德天皇及外甥、皇太子中大兄，都是深受隋唐文化影响的革新派，他们主政期间，掀起了一系列改革，史称大化改新。如改国号日本，废除部民制，实行班田收授法，废除贵族世袭制，实行官僚制度，推行租庸调制。这是日本迈入封建社会的标志，日本成为中央集权的天皇专制国家。
8世纪初，日本地方豪强蠢蠢欲动，中央集权制遭到破坏。公元781年，雄才大略的桓武天皇（781—806年在位）继位，将都城从平城（今奈良）迁至平安城（今京都），推行一系列改革，使日本中央集权制得以恢复和巩固。桓武天皇死后的三百年中，日本历任天皇多庸碌无能，或为儿童天皇，朝政落入外戚家族。
九世纪中叶，外戚藤原良房发动政变，拥立亲外甥道康亲王为皇太子，道康亲王继位后，藤原良房把持朝政，开启了藤原氏家族百余年的擅政生涯，史称“摄关政治”。十一世纪中叶，后三条天皇（1068—1072）即位，这是唯一一位与藤原氏无联姻关系的天皇，他重用亲信参与朝政，牵制权臣藤原赖通，使皇权得到显著增强。
公元1086年，后三条天皇的继承者白河天皇，传位于年仅八岁的掘和天皇，自称上皇，居住于宫内的院厅，继续把持朝政，开启了日本历史上的院政时代（1086—1192年）。
院政时代的日本，地方庄园制经济迅速发展，各庄园主为争夺土地，保护私有财产，纷纷组建私人武装，这就是日本武士的来源。在众多武士集团中，平氏和源氏最为强盛，公元1185年，源氏家族首领源赖朝，在后白河法皇的支持下，全歼平氏家族的势力。1192年，后白河法皇去世，后鸟羽天皇亲政，任命源赖朝为征夷大将军，标志着日本院政的结束和幕府政治的确立。
源赖朝开创的幕府，称为镰仓幕府（1192—1333年）。在此期间，天皇形同虚设，实权尽归源氏家族。1199年，源赖朝去世，其子源赖家继任征夷大将军，专横骄奢，胡作非为，使幕府矛盾重重，外戚北条时政、北条义时父子，逐渐掌握了幕府大权。
镰仓幕府前期的日本，推行闭关锁国政策，但与高丽、宋朝的民间贸易，始终没有中断。元朝建立后，觊觎日本的领土，1274、1281年，元世祖忽必烈两次攻日，皆遭遇惨败，但它加速了镰仓幕府的衰亡。
1318年，后醍醐天皇继位，积极筹备倒幕运动，结果被镰仓幕府打败，后醍醐天皇被流放。但这时镰仓幕府内部，也是矛盾重重，1333年，幕府中的足利尊氏发动政变，联合后醍醐天皇的倒幕军，攻陷镰仓幕府，杀死将军府执政北条高时，镰仓幕府宣告终结。
后醍醐天皇复位后，改年号建武，推行一系列改革，史称建武中兴。但这时足利尊氏权势滔天，与天皇家族的矛盾白热化，1335年，足利尊氏攻克平安京，废除后醍醐天皇，拥立光明天皇，受封征夷大将军，开启了室町幕府（1335—1573年）统治的时代。
公元十五世纪初期，室町幕府争权夺利斗争愈演愈烈。足利义政任将军时，沉溺酒色，不理政事，大权逐渐被山名宗全、细川胜元两位部将把持。1467—1477年，两大军事集权爆发大规模战争，不相上下，互有胜负，山名宗全、细川胜元死后，战争不了了之，这就是应仁之乱，拉开了日本战国时代的序幕。
应仁之乱后，日本四分五裂，许多大名拥兵自重，相互攻伐，不受室町幕府的约束。至十六世纪中叶，各大名经过兼并，逐渐形成局部统一政权，重要的有织田信长领导的尾张国，德川家康领导的三河国、今川义元领导的远江国。1560年，织田信长以少胜多，击败今川义元，远江国自此衰落。
1568年，织田信长被天皇引入京都，取得挟天子以令诸侯的地位，1573年，室町幕府将军足利义昭，率兵讨伐织田信长，结果兵败被杀，室町幕府统治结束，织田信长又击败其他地方势力。1582年，织田信长被害，其部将丰臣秀吉平定各方势力，实现了日本的重新统一，受封太政大臣，把持日本朝政。
1592、1598年，丰臣秀吉两次出兵朝鲜，朝鲜向宗主国明朝求救，明朝联军密切配合，最终打败了日本的侵略。1598年，丰臣秀吉忧愤交加，病逝于军中，其部将结束了战争，撤回了国内。
丰臣秀吉死后，其部将德川家康成为最强的军事首领，1603年，后阳成天皇册封德川家康为征夷大将军，开启了德川幕府（1603—1868年）统治的时代。
