- 飛鳥時代
日本の官職で、古代から連綿と続く律令制度においては行政を司る太政官の最高職。特徴なのは仁徳で選ぶ傾向が強く適格者がいなければ、置かない則闕の官といわれた。大友皇子（後弘文天皇）が任じられたのが初代である。飛鳥時代から明治時代の内閣制度成立まで存在した。この頃は大友皇子や高市皇子の任命がそうであったように実質的には皇太子に準ずる地位であり、めったに任命されるものではなかった。例外が藤原仲麻呂や道鏡であり、言わば皇太子以上の権力を許された絶対権力者のみが就任していたのである。
- 平安時代初期
平安時代初期に藤原良房が任じられて以降は、主に藤原摂関家の当主あるいは有力者が就任した。良房は幼い清和天皇に代わって天皇の権限を代行したため、この当時の太政大臣とは摂政の権限を持つ大臣であった。摂政とは清和天皇の勅に「天下の政を摂行」せよとあったことに由来する。良房の子藤原基経は陽成天皇の元で太政大臣として摂政を務めたが、次の光孝天皇は基経より年上であった。そこで基経には天皇への奏上や天皇の裁可を事前に見る特権が与えられて、摂政に代わる太政大臣の天皇の権限を代行できる根拠となった。これが宇多天皇のときに万事を「みな太政大臣に関わり白」せという詔の形式で任ずることになった。後世でいう関白である。つまり、太政大臣とは、摂政もしくは関白の権限を持った大臣となった。
- 平安時代後期以降
転換点は一条天皇の即位に際して、姻戚関係のない太政大臣藤原頼忠が、摂関の地位を天皇の外祖父たる藤原兼家に譲った時である。頼忠には大臣を辞任するような科はない為、兼家が摂政で頼忠が引き続き太政大臣となった。こうなると、実は太政大臣にはほとんど実権はない。最高意思決定機関たる太政官議政官の議事を纏めるのは左大臣であり、その奏上に裁可を下すのは摂政や関白で、太政大臣はどちらの意思決定にも関与しないからだ。こうして太政大臣とは、藤原一族の長老を遇する名誉職となっていった。摂関家の権力の絶頂を築いた藤原道長が晩年になるまで太政大臣とならず、長く内覧兼左大臣として実権を握ったのがその例である。
院政期に入ると村上源氏の久我家や武家（平清盛）が任ぜられる事例も現れる。平清盛の太政大臣任命は、清盛を上記のように議政官から排除して影響力を削ごうとする狙いがあったとも言われている。
明治朝廷
明治維新後の太政官制下では天皇を補佐する行政の最高機関である正院の長がこの職名を名乗った。
明治18年（1885年）に内閣制度が発足したのに伴い太政官及び太政大臣職も消滅する。
なお、明治政府における太政大臣は終始三条実美が務めた。
ちなみに実美は維新までの公家家格で「太政大臣まで昇進できる」とされた清華家たる三条家の出身である。
