水産講習所(現在の東京海洋大学)卒業後、漁業組合運動で活躍。その後、日本社会党から衆議院議員選挙に出馬し、初当選する。
のちに同郷の先輩政治家である小沢佐重喜(小沢一郎の父親)に誘われ、吉田茂率いる民主自由党(のちの自民党)に移籍した。自民党では池田勇人率いる宏池会に所属。
1980年7月、大平正芳前首相の急死を受け、第70代内閣総理大臣に就任。約2年務めた。
2004年7月19日、93歳で死去。
なお、息子である鈴木俊一は2022年現在、岸田内閣にて財務大臣を務めている。
余談
第70代内閣総理大臣に就任した際、海外からの知名度不足からアメリカのメディアに「ゼンコー フー?(Zenko who?)」と言われた。