1962年9月4日生まれ、大阪府出身。
少年時代は成績優秀ながら柔道に熱中するスポーツマンであり、大学生時代はラクビー、現在はマラソンを趣味としている。高校生の時、父の勧めで医師になることを目指した。
神戸大学医学部卒業後、整形外科医となるが、なかなか上達せず先輩に怒られる日々が続いた。そんな中ある患者のリウマチによる苦しみを見て臨床医師から基礎医学研究者への転向を決意。
アメリカ留学後帰国し、研究に励むもその環境は決して平坦なものではなく、一時は整形外科医に戻ろうと考えたこともあった。
しかし、ダメもとで応募した奈良先端科学技術大学院大学に採用され、体細胞の分化万能化(いったん分化した細胞をリセットし、他のあらゆる細胞に分化できる能力を持たせる)に成功。山中は慎重に研究を進め、京都大学に移籍後の2006年にiPS細胞と名付け発表した。iPS細胞発見の功績により、2012年にノーベル生理学・医学賞を受賞した。