1975年生まれ。
中学時代はボーイズリーグのチームに所属、その時オーバースローから現在のサイドスローとなり、6番手ピッチャーから一気にエースとなる。
高校時代はエースを務める。同級生に上原浩治、ラグビーの大畑大介がいた。
その後甲賀総合科学専門学校⇒松下電器(共に社会人野球)を経て1998年にドラフト2位で日本ハムファイターズに入団。
1999年は新人ながら6月から先発ローテーションに定着し、防御率2.89で6勝を挙げる好投を見せた。
以後、先発、中継ぎ、抑えをこなす。
2010年に海外FA権を行使してのメジャー挑戦を表明、11月にテキサス・レンジャーズと80万ドルの1年契約を結んだ。
当初はマイナーだったが5月にメジャー昇格、初セーブと初勝利を挙げる。
2013年にトレードでニューヨーク・ヤンキースに移籍、しかしメジャー昇格出来ず2014年5月に契約解除。
同年6月25日に、阪神タイガースが建山の入団を発表したが成績を残せず11月に引退。
以後は野球解説者として活動。