1979年に製造された試作車、962型を基に量産化された。
計画時、遠くない将来に北海道新幹線までが開業する予定だった為、711系・781系の経験を元に、北海道内の酷寒及び乾燥度の高い雪に堪え得る設計が施されることになった。
この為、本来床下に吊り下げられる主要機器までも車体で覆うボディマウント構造とし、機器室内及び主電動機には雪切室を通過した冷却風が送り込まれるようになっている。
この為重量増大となることから車体はオールアルミ合金製とし車重の抑制が図られた。

0系に良く似たスタイルであることから、「20年経って何も進歩がない」と批判されがちだが、これは外観上のイメージと、0系と200系の前提仕様が異なる事を無視した事、この2つから来る誤解である。

0系から進歩している点は次の通り

交流可変電圧変圧器・低圧タップ制御からサイリスタ連続位相制御に変更。これにより起動・停止、加減速時の動揺が抑制された他、車体機器の軽量化・メンテナンスフリー化が実現した。
車体のオールアルミ合金化。
営業最大速度を210km/hから240km/hに増速(1983年6次車から)。さらにJR化後一部の車両は275km/h対応に改造され、これは500系の登場まで更新されなかった。
当初より普通車リクライニングシートを装備。

0系より改善可能だったが、使用環境の問題から200系では断念した点は次の通り

特高圧母線引き通しによるパンタグラフ数減少。主に上越新幹線、及び北海道新幹線での冬季の架線着氷への懸念から従来通りMM'ユニット2両あたり1基が踏襲された。JR化後、一部の車両で改造により実施された。
主電動機出力向上及び制御器の性能向上による一部車両の付随車化。同様に上越新幹線、北海道新幹線での降雪期における空転、及び自力排雪能力の確保の観点から全M車が踏襲された。後に製造されたダブルデッカー車は付随車である。
回生ブレーキの採用。特に連続勾配のある上越新幹線では回生失効が発生すると致命的な状況になる可能性があった為、専用に抵抗器を搭載した発電ブレーキとした。
50Hz/60Hz共用化。0系の時点ではヘルツフリー機器の開発が尚早だった為、0系は60Hzで設計・製造され、東京電力管内では電力会社からの50Hz電源を60Hzに変換して供給していた。200系開発時点では在来線に既にEF81・457系・485系・415系といったヘルツフリー車が登場していたが、200系の走行区間は全て50Hzエリアの為、コスト抑制の観点から50Hz専用になった。なお、長野新幹線開業時、E2系の不足分を埋めるためF17編成に両周波数対応化改造を施したF80編成が登場した。

また、0系では既にヒートポンプ式の冷暖房両用エアコンが採用されていたが、200系は寒冷地を走行することから在来線で一般的なシーズ線暖房に戻されている。

運用と変遷

国鉄時代の新製車

最高速度が210km/hのE編成（E1～E39編成)と240km/h対応のF編成が存在した。いずれも12両編成で編成の内容は同一である。
E1-36編成　1980-82年に製造された1次車から5次車が該当。
F1-3編成　 1983年製造の6次車。最高速度240km/h対応で1000番台になる。
F4-21編成　1984-1985年製造の7次～9次車。先頭車の業務用室が縮小されて定員が5人増え、（先頭車のみ）1500番台になる。
また、E編成を240km/h仕様に改造する工事も開始され、これらもF編成に編入された。
先頭車のみ 1987年製の10次車で先頭車4両のみ、2000番台と呼ばれる。
100系新幹線同様の「シャークノーズ」になっていることが特徴であり、塗装も100系同様に窓下にもピンストライプが入れられた。また国鉄が最後に製造した新幹線車両であった。
これらはF52/F58編成に組み込まれ、既存の中間車にもピンストライプが入れられた。

JR化後の動向

1987年4月の分割民営化後は、利用率の悪い「とき」「あおば」の編成の短縮や、それら余剰車を活用・改造の上で新編成を組成する動きが多々見られた。また2階建てグリーン車の連結や山形新幹線 400系との併結に対応する改造、また編成替えに応じて車種間の改造も多々行われた。
1997年からは廃車が始まったが、一部の車両はリニューアル（延命）工事が施工されて2013年まで使用された。
以下、編成記号ごとに簡単に解説する。

E編成

国鉄時代からF編成への改造で数を減らしていたが、さらに追加の改造や編成の短縮（G編成）が行われ、1993年に消滅している。また1991年には東京駅の混雑対策として、7号車のグリーン車を11号車に移す編成替えが行われている。（F編成も同様）

F編成

JR化以降東北・上越新幹線の中核である。1990年代前半には東北・上越新幹線のほとんどの列車に充当された。老朽化やK編成への改造で徐々に数を減らし2004年に定期運用から離脱、2007年最後のF19編成が引退、全廃された。
特徴のある編成を以下に記す。
F5/F8/F40編成　シャークノーズ仕様の先頭車改造車である200番台が組み込まれた。これらはピンストライプの無い標準塗装である。
F80編成　長野オリンピック輸送用に北陸新幹線乗り入れ用にF17編成を改造した。
60Hz区間や碓氷峠の急勾配にも入線できるよう周波数切替装置（60Hz区間でも補機類に50Hzを供給。従来の機器を活用するため）の搭載や電気ブレーキの容量増大、モーターの交換、軽量化目的で一部の椅子の交換などが行われた。2004年に廃車。
F90-93編成　1992年に上越新幹線（上毛高原→浦佐間の下り列車のみ　トンネル内の下り勾配を利用）での275km/h運転用に改造した編成でF54/F59/F14/F16が種車である。
275km/h運転は当時国内最速。1999年まで行われ、2002-2004年に廃車になった。

G編成

1987年以降利用率の悪い「とき」、さらに「あおば」用にE編成を短縮した編成である。
民営化直後の1987年4月から「とき用」にE10/E21-E27/E29編成の中間車2両が抜かれ、10両編成のG編成G10/G21-G27/G29が組成された。翌年3月にはさらに8両編成に短縮され、グリーン車の半室化とビュフェ車の非連結化が行われた。その過程でG26/G27/G29が12両編成に戻されてF40～F43編成に編入された。また、余剰車を利用して新規にG27/G28編成を組成、E9編成を短縮してG9編成に編入した。その後G9/G10編成はG25/G26に改められてG20-G28にまとめられた。
1989年には「あおば」も8両編成に短縮されることになり、E4/E7/E12/E13/E8/E18/E19編成からG40-G43/G46-G48が、余剰車利用でG44/G45が組成された。「とき」用のG編成とはグリーン車が全室であることと、非営業ながらビュフェ車が残されている点が異なる。なお、G45はグリーン車が無い変則編成であり、1992年に解消されるまでは限定運用が行われていた。
最高速度が210km/h、かつ比較的初期の車が多いこともあり、1997年以降廃車が進められて1999年に消滅した。

H編成

東北新幹線のフラッグシップとも言える編成であり、通称で「スーパーやまびこ」とも呼ばれる速達列車を中心に運用された。1990年にF43/F57/F52/F58/F42/F55の各編成に、2階建てグリーン車249形を連結して13両編成になり、H1-H6に改称された。いわゆる「シャークノーズ」の2000番台（H3/H4編成）、200番台(H1/H2/H5/H6編成)が先頭車に選ばれたが、組成後しばらくH6編成はシャークノーズの先頭車が間に合わずピンストライプをまとった0番台の先頭車が約半年間使用されていた。
翌1991年には、2階建て車1両（248形）と中間車2両が組み込まれて16両編成になり、H6編成の先頭車も200番台に差し替えられた。さらに1992年には過剰気味のグリーン車1両が普通車に変更されている。その後、秋田新幹線の開業や東北新幹線の八戸延長や、E2系投入に伴うスピードアップに対応できないなどの情勢の変化もあり、2004年に運用が消滅した。H4/H5編成は全車普通車に組み直し臨時列車に使用されたが、翌2005年に廃車になっている。

K編成

東京～福島間で山形新幹線400系との併結運転用に組成された編成であり、下り方の先頭車（222形）に密着連結器（新幹線用柴田式・電気連結器付き）と自動解結装置を装備する。後に秋田新幹線E3系とも併結されるようになった。最高速度はF編成同様の240km/hである。
1992年に8両編成11本（K1-K11）が組成された。元になった編成はF4/F6/F7/F9/F41/51/F56及び余剰車である。一部の編成は7号車にビュフェ車を連結していたが、1992年秋以降普通車に置き換えられた。
しばらく大きな動きはなかったが、1998年に既存編成の10両編成化とF編成から追加の編入（K41-51）が行われた。種車は事前にビュフェ車の普通車化と先頭車の連結器改造が施工してあったF1-F3/F11-F13/F15/F18/F20/F21である。既存の編成にもこれらの編成から抜き取った普通車が組み込まれて、新たにK21-31を名乗ることになった。

リニューアル工事

1997年以降G編成の廃車が始まっていたが、短期間で全ての200系を新車で置き換えるのは非常に困難であり、一部の編成に対して10年程度の延命を見越したリニューアルが行われることになった。
工事は1998年～2002年にK編成12本（K21/K25/K26/K41-44/K46-K49/K51）を対象に行われた。
一見、運転室周りの形状と塗装の変更程度の変化ではあるが、車内設備の更新はもちろん、車体鋼体の改造や台車枠の新製まで行う大規模な工事となった。

2004年10月、新潟県[[リンク先記事名中越地震]]でK25編成が被災、脱線したが線路やボディマウント構造が幸いし死者・負傷者は1人も出なかった。K25編成は損傷がひどくリニューアル車では初の廃車となりしばらく新潟の車両基地で保管されていたが、現在は先頭車のみJR東日本の研修施設に移されている。また本来廃車となる予定だったK31編成が廃車延期となった。（後にE2系が代替　K31編成の先頭車は鉄道博物館で保存）

終焉

2005年にH編成（上記のように臨時用のモノクラス編成）が全廃、K編成もリニューアル工事未施工車の廃車が進み2006年に全廃、既に定期運用を失っていたF編成も2007年のF19編成の廃車をもって消滅した。
リニューアル工事施工車はK25編成以外は活躍を続けたものの、E5系によって置き換えが進み、2011年に東北新幹線から撤退。翌2012年には1982年開業時以来の車両が消滅した（新幹線車両としては驚異的な29年の長寿車だった）。その間2007年にはK47編成がオリジナル塗装に塗り替えられ、通常運用のほか東北新幹線30周年号などの記念列車で運用されている。
2013年3月のダイヤ改正で200系の運用が全廃され、4月14日のK47編成による「さよなら運転」をもって全車が廃車になった。