概要
生没年:文政8年11月6日（1825年12月15日) - 明治10年（1877年）9月30日）
出身:薩摩藩
肩書:薩摩藩士、鹿児島県令
文政8年(1825)年に薩摩藩士・樺山善助の次男に生まれ、幼名は熊次郎といった。
嘉永2年（1849年）12月26日に大山四郎助の婿養子となる。
この頃から名を大山格之助と名乗っている。
嘉永6年(1853年)のペリー来航を境に尊王攘夷運動が高まると、格之助は幼馴染の西郷吉之助や大久保一蔵、有村俊斎共に「精忠組」を結成する。安政の大獄においては「国許長押込」の判決が出され、尊王攘夷運動の自粛を余儀なくされた。
国父・島津久光(藩主には久光の子の茂久が就任していたが、若年のため久光が茂久を補佐していた)からも重用され、久光の上洛に随行し、文久2年（1862年）の寺田屋騒動では同じく久光の命を受けた奈良原喜八郎とともに暴徒の説得を試み、それが無駄に終わると暴徒を粛清し、事件の中心的役割を果たしている。
寺田屋2階には若き日の大山巌・西郷従道・三島通庸らが過激派に誘われて寺田屋にいたが、彼らの説得には成功しており、謹慎処分が下されるのみで済んだ。この三人は後に明治政府において重要な役割を果たしている。
慶応4年・明治元年（1868年）の戊辰戦争では、西郷の命を受け奥羽鎮撫総督府の下参謀に就任した。もう一人の下参謀は長州藩士の世良修蔵であるが、世良は仙台藩主の処刑を強硬に主張し、その結果暴徒と化した仙台藩士に襲撃され死亡している。
大山率いる新政府軍は秋田戦争において、庄内藩の反撃にあい連戦連敗を喫するが、戦後、新政府から賞典禄800石を受けた。
旧奇兵隊隊士の大楽源太郎が長州で反乱を起こした際には、新政府の命を受けて討伐軍の司令官として鹿児島から派遣されたが、現地に到着すると政府になんの相談もなく軍を解散させてしまった。結局乱の鎮圧には一応成功したが、一介のの指揮官としては無責任にも程がある行動であったため、木戸孝允を激怒させてしまい、西郷が平謝りしたことで、木戸も矛を収めたという。
新政府では廃藩置県後に鹿児島県の大参事、権令（県令）となる。本来であれば、旧藩と新府県の関係を絶つために新しい府や県の知事は該当する県とは異なる他の県の者を推挙する、ということが原則であったが、大山の鹿児島県令就任は特例であった。
明治6年（1873年）に征韓論争から発展した政変で西郷らが新政府を辞職して鹿児島へ帰郷すると、私学校設立などを援助し西郷を助けた。そうして、鹿児島県内では正確に納税が行われず、廃刀令が発令されたにもかかわらず鹿児島の士族の多くが帯刀しているなど、鹿児島県が独立国家としての性格を帯びだしていた。
その4年後に西郷らが西南戦争を起こすと、大山は政府の金を西郷軍に横流ししていた。西南戦争中にそのことが発覚してしまい、大山は東京へ送還された。政府の人間が反政府軍事勢力にカネを横流しするという行為は、どう言い訳しようが政府への裏切り行為であった。西郷軍が城山で全滅すると、大山は長崎に送還され、斬首刑に処された。享年53歳。
