1926年12月25日生まれだが、同日に大正天皇が崩御し、役所が休みだったため出生届が提出できず、そのまま忘れ去られたことから戸籍上の誕生日は1927年3月15日。
1950年に創立した近鉄パールズに入団。最初は投手としてオールスターに出場するなど通算65勝を挙げる活躍したが、肩の故障もあり打者転向すると、こちらでもオ－ルスターに出場するなど通算1000安打を記録しており、50勝以上1000安打を達成した数少ない選手である（日本では戦前の西沢道夫と関根の二人だけ。アメリカ大リーグではかのベーブ・ルースが714本塁打の記録に隠れるが、投手としても94勝を挙げている例がある）。
引退後はコーチや監督を歴任。成績はあまり良くなかったが、ヤクルト時代には池山・広澤コンビが活躍するなど、選手育成には定評があった。プロ野球ニュースの解説やバラエティ番組の出演などで好々爺でソフトなイメージがあるが、実は怒らせるとかなり怖いとされ、広岡達郎、根本陸夫といった球界の大御所でさえ「関根は怒らせてはいけない」と口をそろえるほどだが、ヤクルト時代の選手には世代のギャップからか、それが通用しなかったようだった。
2020年4月9日、老衰のため死去。93歳没。
