注意すべきなのは、大日本帝国では「参謀本部」が、大日本帝国陸軍のみの最高命令機関であったことであり、当然、海軍担当の部署は存在しなかった。これはよく言われる陸軍と海軍の仲の悪さが表面化したものと言われることがある。海軍の最高命令機関に当たる「海軍軍令部」が別個に存在しているのも、海軍が陸軍と同じ空気を吸っていたくないから…とする見解もある。

かつては参謀総長（陸軍）の命令に軍令部（海軍）が従う形の体制であったが、軍令部がこれを良しとせず、参謀総長と軍令部総長が対等の権限を持つようになった。しかし、これが結果的に帝国海軍と帝国陸軍の意思疎通を今まで以上に困難にする要因となった。こうして、異なる価値観をそれぞれ有する組織が、並行して存在する事態となった。

大日本帝国海軍の気風

イギリス海軍を倣った組織であったため、将校は過酷な長期航海でも耐え忍ぶことができるようユーモアの精神を重視し、「ユーモアを解せざる者は海軍軍人の資格なし」と言われていた。これは大日本帝国陸軍が模範としたドイツ帝国プロイセン軍とは正反対と言える。

一方、日本海軍の下士官兵には非人道的な虐めや過激なしごきが横行していたという暗部もある。徴兵された水兵には海軍精神注入棒による過酷な制裁が連日行われ、気絶するまで殴られることも日常茶飯事だったという（ちなみに、このような体罰もイギリス海軍の悪しき伝統に学んだものであった）。旧海軍で何度も発生した原因不明の軍艦の爆発・沈没事故は、こうした虐めの恨みによるものという噂もある。

なお、海軍は陸軍以上の極端な階級社会であり、士官と下士官兵には食べるものから居住空間まであらゆる点で断絶していた。士官クラスはホテル並の快適な個室があてがわれ、食事は軍楽隊のオーケストラ演奏つきのフルコースであったが、下士官兵は窓も空調もない暗く蒸し暑い船底で三段ベッドやハンモックに押し込められ、食事は長椅子・テーブルに詰め込まれてあわただしくとっていた。ただし、これは主に戦艦や空母などの大型艦の話。潜水艦や水雷艇・駆逐艦にそこまで極端な待遇の差はなく、家族的な雰囲気があったという。

大艦巨砲主義の起こりとその終焉

帝国海軍は、その黎明期に起こった日露戦争の日本海海戦において、ロシア帝国のバルチック艦隊を大口径の大砲を搭載した戦艦で以て撃破。海戦史上稀に見るパーフェクトゲームで殲滅したことは世界に衝撃を与え、この戦争での日本の勝利を決定付けた。この海戦を指揮した、当時の連合艦隊司令長官東郷平八郎大将（後に元帥）は英雄となった。

日本海海戦での勝利は、その後、帝国海軍を含む各国海軍が大艦巨砲主義を推進する大きな要因となった。この思想に基づき、日本海軍は国力ではるかに勝るアメリカ合衆国を仮想敵国に設定し、これに対抗するために数々の大型艦艇を建造、米英に次ぐ世界3大海軍大国の一国として成長していった。

別の言い方をすれば、日本は日本海海戦の夢を忘れられず軍拡競争という終わりの見えないチキンレースにはまりこんでいったのであった。大正10 （1921）年当時、国家予算に占める海軍予算は実に3割。補助艦艇を含む八八艦隊が完成したら、その維持費だけで当時の国家予算の半分が必要とされるのである。新艦の建造や設備費用、将兵の人件費を考えると...海軍が国を食い潰す事態となることは目に見えていた。

このチキンレースにようやく歯止めをかけたのが、1922年（大正11年）のワシントン海軍軍縮条約である。この条約により日本は財政破綻から救われたが、建造中の主力艦（日本の場合は赤城と加賀）が航空母艦に改装されたことから、海軍が航空戦力を重要視するようになるきっかけともなった。

そして軍縮条約が撤廃され、再び軍拡競争と戦争の時代に入ると、海上での戦闘では、空母を主体とした航空戦力の展開が重要なものとなっていった。

海戦において航空機主体の戦術を世界で初めて大々的に実施したのは帝国海軍であり、このマレー沖海戦での英国戦艦プリンス・オブ・ウェールズ(とその護衛の艦)を航空機による攻撃で、撃沈破した。この新たな戦術の有用性は世界的に認められるものとなった。

そしてこの成功により、皮肉にも当時日本が建造していた世界最大の戦艦大和も一気に陳腐化してしまい、大艦巨砲主義の時代に終止符を打つ事になるのである。

大日本帝国海軍の階級

大日本帝国陸軍と共通点は多いが、微妙に異なる点も見受けられる。また、大佐を陸軍では「たいさ」と読んでいたが、海軍では「だいさ」と読んだ。

敗戦と解体

太平洋戦争では開戦時254隻、戦時建造383隻を擁したが、レイテ沖海戦までの完膚無きまでの敗戦で組織的艦隊行動が不可能な状態になった。内地に残ったものも呉軍港空襲などで壊滅的な被害を受け、敗戦によって解体された。

日本の降伏後、戦争責任を追及されることを恐れた陸海軍はその記録を大量に焼却した。特に海軍についてはその閉鎖性のため公式資料の多くが残っておらず、戦後防衛庁が公式戦史として編さんした戦史叢書なども元海軍軍人の戦後の回想や連合国軍側の記録に依存しているところが多い。第二次大戦時の海戦や艦船の仕様などについて不確かなことが多いのはこのためである。

戦後の日本に残された海軍艦艇は、海上保安庁用に特務艦1隻（宗谷）と海防艦5隻（「生名」、「竹生」、「鵜来」、「新南」、「志賀」）、駆潜特務艇35隻、哨戒特務艇若干....のみである。