現在の広島県安芸高田市にあった山城で、山頂より放射状に延びる12の尾根上に、階段状になった270以上の曲輪が設けられ、中国地方における山城としては最大級の規模であったと伝えられている。
築城年・主ともに不明であるが、14世紀半ばより16世紀末にかけての200年余りの間、安芸国の国人であった毛利氏が代々居城としていた。毛利元就が当主であった1540年から1541年までの「吉田郡山城の戦い（郡山合戦）」の舞台となった地でもあり、この戦と前後して行われた度重なる拡張により、最終的に山の全域が要塞化されるに至った。元就にまつわる逸話の一つ「百万一心」は、この城域の拡張に関連したものとされる。
元就の孫である毛利輝元が本拠を広島城に移して後、江戸幕府によって出された一国一城令によって取り壊され、さらに島原の乱をきっかけに、跡地を利用されることを恐れた幕府によって残っていた石垣や堀すらも破却された。幕末には一時期広島新田藩（広島藩の支藩）の陣所が、その跡地に設けられたこともある。
現在は支城であった多治比猿掛城と併せて国指定の史跡となっており、城のあった郡山の麓には安芸高田市歴史民俗博物館が設けられている。2006年には日本100名城（72番）にも選定された。
