太平洋戦争中の1943年5月、南太平洋の攻防戦時に主力として活動した南太平洋軍を改編して編成され、南太平洋軍司令官だったウィリアム・ハルゼー大将が初代司令長官に横滑りした。
1943年中の第3艦隊は、ブーゲンビル島攻略戦などソロモン諸島攻略に活躍したが、空母・戦艦の主力はレイモンド・スプルーアンス中将率いる中部太平洋軍(1944年5月に第5艦隊に改称)に配属されていたため、空母はサラトガ基幹の1個群のみ常駐し、増援が必要な際は中部太平洋軍から貸し出される形をとられた。
1944年から海軍の主戦場が中部太平洋となり、第3艦隊と第5艦隊が交互にアメリカ太平洋艦隊の実戦部隊を指揮することとなった。8月にマリアナ諸島攻略を終えた第5艦隊から指揮権を引き継ぎ、硫黄島、パラオなどを荒らしまわった後、台湾沖航空戦で日本軍の航空戦力に大打撃を与えた。
10月17日に日米海軍最後の大決戦となったレイテ沖海戦に勝利、したものの日本艦隊迎撃の主力だった第3艦隊は、小沢艦隊のおとり作戦に引っかかってしまい、危うくフィリピン上陸支援を担当した第7艦隊と陸軍部隊を窮地に追い込みそうになった。
その後1945年1月に第5艦隊に指揮権を継承したが、アイスバーグ作戦中の5月に第5艦隊から指揮権を受け継ぎ、沖縄戦の後始末や日本本土への空襲を実施。7月24日と28日の呉軍港空襲で日本海軍の水上艦を名実ともに壊滅させた。
終戦後の同年10月に解隊されたが、1973年に日付変更線以東の太平洋を作戦海域をする部隊として再編成された。
