福井県生まれ。
明治38年の日本海海戦時には、海軍省の海軍大臣副官（少佐）を務めており、直接には参戦しなかったが、その功績はきわめて大きなものである。
日本海海戦の三ヶ月前まで三笠の砲術長を務めていたが、黄海海鮮の反省から「統一した照尺距離を用いる射法」を世界に先駆けて提唱した。それまでは各艦の測距離判断のもとで発砲していた。これでは一斉砲撃をした際に、どの大砲の砲弾が、当たったのか外れたのかの判定がつけられなかった。そこで、「放火指揮は艦橋で一手に掌握し、一艦の全砲塔が統一された砲撃を行う」というのが加藤の提唱した射撃指揮法だった。東郷長官はこの方法を採用し、結果は驚くほどの命中率となって表れた。
加藤は後に、艦隊派のリーダーとなり、大正10年のワシントン会議では海軍主席随員、昭和5年のロンドン軍縮会議時は軍令部長を務めていたが、両条約の締結に強硬に反対し、ロンドン軍縮条約締結に対しては軍令部次長の末次信正とともに「統帥権干犯」を主唱している。
ロンドン条約問題後の紛糾により政党政治の信頼が揺らぐと、再び中間内閣が必要となった。しかし加藤と同じ国本社に属していた斎藤実内閣でも統一は困難であり、その後継首相としては加藤が最適任者であったと思われ、周囲で擁立運動が行われた。ところが後継内閣首班を推薦する元老・西園寺公望は事なかれ主義の人物であり、彼にとっては加藤内閣案は問題外で、岡田啓介内閣が成立してしまったのであった。
晩年、元帥にする話が持ち上がったが、条約派の反対で沙汰やみになった。
