藤枝東高校卒業後、浦和レッズに入団、2007年にドイツのヴォルフスブルク移籍してからは、ニュルンベルク、アイントラハト・フランクフルトと15年にわたってブンデスリーガに在籍した。
オシム監督の急病により、急遽代表監督に就任した岡田監督が成績の不振を払拭すべく代表の世代交代を模索する中で若手の軸として期待され、2010年のワールドカップからキャプテンを任される。
この大会でチームが成果を上げて以降、長きに渡って日本代表のキャプテンを務めていたが、2018年のロシアワールドカップを最後に代表から引退を表明。キャプテンは吉田麻也が引き継いだ。
その後もフランクフルトで長らくチームの中核を担っていたが2024年に引退。シーズン最後の試合終盤に交替で出場し、試合終了後にはたくさんの歓声を受けながらピッチを離れていった。
引退後はドイツで指導者としてキャリアを積む予定。
日本では中央で試合をコントロールする司令塔という印象が強いが、ブンデスリーガではセンターバックやサイドバックといった守備的なポジションにおいても活躍しており、時にはチーム事情からGKとしてプレーすることまであった。
人物としては選手たちの個性が爆発していた2010年以降の代表の中でも、極めて真面目な人物として知られる。
W杯における成功からサッカー以外でもメンタル面が注目され、著書『心を整える。』はミリオンセラーになった。
好きな歌手はMr.Children。
プレーヤーとしても、人間としても優れている長谷部ではあるが、彼にも欠点があり、同じ代表で戦った乾からは「ギャグが滅茶苦茶しょーもない」、内田からは「あまり面白くない」とユーモアセンスに欠けていることをよく指摘されている。また、曲者揃いだった代表メンバーからはその真面目さをからよくイジられていたという。