中国唐朝先进的政治制度因素与日本本土落后的社会相接触、融合,最后产生了日本的庄园制，日本上层建筑领域亦发生了与之相应的变化。统治阶级内部因政治利益、亲疏远近的不同以及土地占有的多寡而分裂为4个政治集团,即以藤原氏为首的外戚集团;以上皇及国司等中、下级官吏为主结成的官僚集团;武士集团以及神社、寺院势力。这4个政治集团从各自利益出发不断分裂组合，争夺政治上的支配权。9世纪80年代至11世纪中叶,以藤原氏为代表的外戚贵族集团在政治舞台上左右一切;11世纪中叶以后,以上皇为中心的官僚集团风云一时;12世纪中叶以后,武士势力登上了政治舞台并最终掌握了国家政治大权。
669年,大化改新的功臣中臣镰足死时,天智天皇赐姓藤原氏并授予大织冠的冠位。此后200余年贵族藤原家的势力逐渐膨胀。中臣镰足之子藤原不比等官至右大臣并曾主持编修《大宝律令》和《养老律令》。藤原不比等死后,他的四个儿子争权夺利,藤原家族分裂为南家、北家、式家、京家四派势力,最后北家得势。
藤原氏通过天皇政府赏赐的“职分田”、“位田”、“职封”、“位封”等名义,获得了大量的土地、劳动力和财富,成为当时最大的权门贵族。同时又通过与皇室联姻的手段获得了外戚身份。藤原良房送女进官,从而成为清和天皇的外祖父。因其拥立幼帝而当上了摄政一职,实际上掌握了中央的权力。藤原良房的儿子藤原基经又当上了阳成天皇的摄政,至宇多天皇时则改任“关白”。这样藤原氏开创了日本史上“关白政治”这一特殊政体,藤原氏以外戚身份在天皇年幼时作“摄政”,天皇成年后作“关白”继续掌握朝廷大权。摄政与关白在形式上辅佐天皇,但实际上却夺走了天皇的权力,在政治权力中占据着绝对的优势地位。
藤原氏成为朝廷中最有势力的权门势家,于是,摄政和关白便形成了一种例行的政治体制,历史上称为“摄关政治”,独占摄关职的藤原家族则被称为“摄关家”，也将藤原氏独霸政权的这一时代称为摄关政治时代。
藤原氏专擅朝政,随意废立天皇,摄关家的家务机关“政所”成为国家的政治中心。从“政所”发出的“下文”、“御教书”取代了天皇的“宣旨”而生效,朝廷则变成了仅司礼仪的场所。政治走向形式化,政务已成为例行的仪式,一切事务只能在有先例陈规的范围内处理,如叙位、任命官吏、发放俸禄等有关官吏的事务,“赈给”(教济贫民的事务)、“牵驹”(将马匹从地方牧场赶到京都)、“不堪佃田”(报告当年遭灾歉收的耕地面积)等民政方面的事务都按规定在固定的日子里进行。
子孙们把祖先的日记奉为金科玉律。当时许多朝臣的日记能流传至今,即是这种政务形式化造成的意外结果。政治的形式化导致政府威信丧失,造成了社会发展与政治的严重脱节。崩溃后的公共秩序则转化为私人关系。
天皇的住所并非正式的皇官,而是移到了摄关的私邸内。律令制的天皇实际上已经消失。如天皇死后追谥的称号,不再是“天皇"而只称“院”。这是律令制下与天皇尊严相去甚远的称呼。
天皇为摆脱摄关家的控制进行了一系列的斗争。1068年即位的后三条天皇是白冷泉天皇以来唯一与藤原氏没有联姻关系的天皇,这就为反藤原氏的各种势力提供了有利的机会。另一方面,摄关家庄园的增多和扩大亦危及天皇本身的统治基础。因此,天皇毫不留情地对摄关家进行了改革。在整理庄园的过程中,摄关家的权威受到打击,使依靠权门的领主和地方豪族重新认识到天皇的权威。
后三条天皇之后,其子白河天皇继位。应德三年(1086年),白河天皇将皇位传给年幼的皇太子埏网天皇,自己成为上皇(后出家，称法皇)。同时另立“院厅”,继续执政40年,从而为院政奠定了基础,从此开始了“法王执行天下政"的院政时代。虽然朝廷重大事情由公卿会议决定,日常事务仍由以太政官为首的官吏处理,但是,上皇掌握着最后的抉择权。另外,上皇亦掌握着官吏的任命、叙位大权。此后，鸟羽和后白河天皇也如法炮制,以上皇身份行使院政权。院政这种政治形式的出现促使藤原氏势力进一步受到排挤,摄关政治开始衰落。
为了抑制庄园的发展,朝廷多次发布“庄园整顿令”,但收效甚微。在11世纪下半叶至12世纪初,形成了所谓的庄园公领制,官僚贵族以分割公领(地)而建立庄园的现象非常普遍。针对这种情况,朝延也采取了相应的措施,推广知行国(封国)制度。即把国的支配权授予个别贵族、公卿或寺社，准其享有该国租税课役等收益。实行知行国制的最初目的在于抑制公领私有化,可是,结果却成为公地私领化和庄园化的重要途径。
院政最终未能恢复律令时代的中央集权制和天皇的至高权威,却使统治阶级内部的矛盾更加复杂化和尖锐化。这些矛盾又总是和新兴的源氏、平氏两大武士集团之间的矛盾纠缠在一起。这种错综复杂的矛盾最后终于导致了1156年的“宝元之乱"和1159年的“平治之乱"。
平氏被消灭后，源赖朝成为左右国家政权的人物,其继续以镰仓(神奈川县南部)为根据地,在关东致力于建立和巩固自己的政权,这就是镰仓幕府的开始。
幕府的机构分为管理臣属的武士“侍所”、掌管一般政务的“公文所”(后改称“政所”)和负责审判的"问注所”。1180年设立了由其亲信和田义盛任长官“别当”的军事检察机关“侍所”以统领"御家人”。1184年设立了由大江广元充任长官“别当”的行政机关"公文所"以掌管幕府的行政事务,同年又设置司法机关“问注所”以处理诉讼审判事宜,至此,幕府的政治机构初具规模。
通过对守护、地头的任命,幕府的权力发展到全国。源赖朝派遣“京都守护”以监视朝廷,同时放逐了京都朝廷中对他抱有敌意的贵族;在边远地区设置“镇西奉行”。文治五年(1189年),设“奥州总奉行”,至此,陆奥、出羽两国亦置于源氏的统治之下,镰仓幕府的权威遍及当时的整个日本。1192年,源赖朝被任命为征夷大将军,从此开始了日本历史上军人*政专**的幕府统治时期。源赖朝虽然建立了幕府的统治,但仍然尊重朝廷作为国家最高权力机构的地位,承认并保护贵族庸园制,无意摧毁朝廷的统治。
1199年源赖朝死后,镰仓幕府内部爆发了权势之争。最终北条氏完全控制了幕府的军政大权。北条氏由此成为镰仓幕府事实上的统治者,几乎在整个镰仓时代掌握着幕府的实权。由于幕府内讧,皇室乘机发动了讨伐北条氏的战争,企图废除幕府以恢复天皇的权力,但却未能成功。后鸟孩土御门、顺德三个上皇被流放,仲恭天皇被废黜。史称“承久之乱”。承久之乱后,为进一步加强对朝廷的控制,在京都设置了幕府的代表机构“六波罗探题”。为了加强执权职能、保持统治集团的团结、完善幕府的统治体制,北条时赖(1227-1263年)掌权后又在“评定众”之下设“引付众”,以责成其协助“评定众”审理诉讼案件,使幕府的统治体制逐渐臻于完善。1232年制定的《贞水式目》51条成为幕府施政和统制“御家人”的基本法典,对后来的武家制产生了深远的影响。