ロボット三原則

ろぼっとさんげんそく

SF作家アイザック・アシモフが自らのSF小説で示した原則「Three Laws of Robotics」のこと。「ロボット工学三原則」とも。

内容

1. A robot may not injure a human, or allow a human to be injured.（ロボットは人間を傷つけてはならない。また、危険を看過して人間に危害を及ぼしてはならない。）
2. A robot must follow any order given by a human that doesn't conflict with the First Law.（ロボットは第1条に反しない限りで、人間の命令に従わなくてはならない。）
3. A robot must protect itself unless that would conflict with the First or Second Laws.（ロボットは前掲1条及び2条に反しない限りで、自己を守らねばならない。）

第零原則

ロボットは人“類”に対して危害を加えてはならない。またその危機を看過してはならない。

※「ロボットと帝国」（1985年）にて追加

三原則が不要なロボット

1. 安価で容易に交換がきくため、自身を護る必要がない
2. あらかじめ用途・機能が設定されており、命令を必要としない
3. その機能や行動が、決して人間に危害を加える物でない

※「心にかけられたるもの」で追加

発端

1900年代なかばのSFの流行として、高度なロボットを作ってみたら反逆されて痛い目を見るというのがお約束の展開となっていた。

しかしながら技術者であったアシモフは、反逆に対する安全装置が搭載されていないことに納得がいかず、自身の著作に登場するロボットにはなんらかの抑制措置を施すことが多かった。

そのようにして彼の著作に散見された設計思想を、アシモフの作家デビューを支援した恩師、アスタウンディング誌の鬼編集長、ジョン・W・キャンベルが指摘し、協働で一貫したルールとしてまとめ上げたのが、ロボット工学三原則である。

初めて作品内で三原則として明文化されたのはSF短編の『堂々めぐり(Runaround)』であり、現在は『我はロボット』内の一エピソードとして読むことが出来る。

この三原則の特徴は、単に奴隷としてロボットを行使するうえでの規則というだけでなく、時の運用者の判断力を信用していない、フールプルーフであるという点だろう。自動車のエンジンがブレーキを踏んでいなければ始動しないように、ロボットは安全性のためであれば主人の命令に背くことが出来るように設計されている。

このために運用者に発生する不便さの問題もアシモフは自ら指摘しており、初出の『堂々めぐり』からして三原則によりロボットが業務に支障を来すという趣旨のエピソードである。

アシモフの作品では、ロボット三原則に忠実なロボットを用いて殺人を行う方法など、ロボットが一見して三原則に反するような行為をする事件を描く物語が沢山登場するが、オチはやはり三原則に反してなど居なかったという趣旨である。後に発表された「ロボットと帝国」にて第零原則が後付されることになるのだが、これはこれで「結果的に人類全体の利益のために個人や人類に危害を加えるロボット」という定番のプロットを（アシモフ自身の作品の中で）生み出すことになる。というか、作中で第零原則を考案したのは2体のロボットであり、人間に許可をとっていないどころか存在すら知らせなかった。つまり第零原則自体がロボットの反乱そのものともとれる。

アシモフの作品では「開発時にプログラミングされ、逆らうことなど想像出来ない」原則であるが、後続の多くの作品では「逆らうことは想像出来るが、逆らうと厳罰に処される法律」として扱われている場合も多い。

考察

分かり易く、道徳的にも抵抗感の薄い法則であったため、世間ではロボット工学における基本的な倫理原則のように扱われるようになってしまった三原則だが、あくまで「アシモフが作品を成立させるために活用した、その作中でのみ通用する原則」に過ぎない。当時のSF創作界では「人類を裏切るロボットやコンピュータ」が多用されていたため、それに対するカウンターとして設定された原則なのだ。

ただし、1条が「安全性」、2条が「操作性」、3条が「耐久性」について言及しているようなものなので、ロボットメーカーの自主規制としては妥当な原則である(もちろん現実のロボットに三原則を適用するべきではないという人もいる)。

一方で、「人間と同レベルの知能を持つロボット」に対してこの原則を設定すると「ロボットの意志を人間の都合の良いように操る」「ロボットから行動の自由を奪う」ことが出来てしまう訳で、人権ならぬロボットの権利はどうなっているのか……という問題も発生する。同時に捉え方を変えれば(他者を思いやり、約束を守り、最低限自分を守る、など)理想の人間像だという意見もあり、アシモフは聖人君子としてふるまう人間がロボットと疑われるという話を書いている。

フレーム問題

フレーム問題は、三原則を現実のロボットに適用するのが困難な理由付けとしてかつてよくあった指摘で、「どのような行動が条項に反するのか」をロボットに覚えさせるのは不可能に近い、というものである。かつてのコンピューターは、明示的にプログラムされたことしか理解も判別も行動も出来なかったからである（近年のAIではどうなのかは後述）。

例えば「可燃性燃料を満載したロボットが、火事の現場から人を助け出そうとする」のは、結果的に第1条に反する可能性が高い。こういった個々の事例を明示的にプログラミングするのは不可能である。

「徒歩5分のコンビニでおにぎりを買ってくる」というだけのロボットが存在したとする。しかし、このロボットにはそこまでのナビしか用意されていなかったため、最短で進もうといきなり車道を横切り事故を起こしてしまった。そこで、今度は「あらゆる危険を回避して安全に移動する」プログラムを組み込んで御使いに出した。ところがこのロボットは家を出た瞬間立ち止まってしまった。「いきなり暴漢が襲ってきたら」「いきなり隕石が降ってきたら」「今ここに車が突っ込んで来たら」と文字通り「ありとあらゆる危険を回避するための演算を行なってしまい、処理が追いつかなくなってしまった。

では今度は「現実的にあり得る危険だけを想定し、回避する」プログラムを組み込んでみたとする。ところがこのロボットもまた家を出た瞬間立ち止まってしまった。「何が現実的にあり得るのか」「何があり得ないのか」をまたしてもあらゆる可能性と照らし合わせて演算してしまい、処理が追いつかなくなってしまった。このようになんでも出来る機械は、何が関係あるのか、何が関係ないのかを判断するためにこの世の全ての事象を想定しなければならなくなってしまうため、何をするにも無限大の計算時間が必要となってしまう。

ところが、人間が処理落ちを起こすことはない。その理由は、経験をもとに意識的・無意識的に「ここからは関係ない」という領域を設定し、適当なところで考えるのをやめているからである。それゆえ「想定外」や「勘違い」、「見落とし」が発生する。つまり、人間もフレーム問題を擬似的に解決しているだけである。

現実の人工知能では

2010年代のディープラーニングの実用化以降、人工知能の性能は飛躍的に上がった。ディープラーニングにより実装された人工知能は、構造化されていない（整理されていない）膨大なデータからの機械学習によって多種多様な問題を解くことができる。このため、現実のAIではフレーム問題は既に（擬似）解決されてしまった。

「自動運転車両が事故を起こすのはフレーム問題では?」と思われるかもしれないが、これは学習によって得たモデルと現実的な問題が適合しない「過学習」などによるもので、フレーム問題ではない。生成AIがもっともらしい嘘を回答する「ハルシネーション」や、AIがインターネットからの差別的な情報の学習や悪意のあるユーザーの調教により性差別やヘイトスピーチを垂れ流すようになるなどは、いずれもフレーム問題と関係がありそうだが性質が異なる。

そういうわけで、「フレーム問題は元々存在しなかったのでは?」という意見が目立ってきている。フレーム問題は「実際には実在しない擬似問題だ」という意見は昔からあった（上述の例で言うと「いきなり隕石が降ってきたら」などを考慮してロボットをプログラミングするのはあまりにもナンセンスである）が、仮に実在するとしても「推論／探索」（問題と回答を明示的に示すことで最適な解決策を探させるシステム）という原始的なAIでのみ問題になる現象なのである。

三原則脱法の一例

アシモフ自身の作品では、

• 人類自身がロボットに支配されること・滅亡することを望んでいる。
• 過ちを犯さないロボットに支配されることこそが、人類にとって最も安全な状態である。
• 優秀種であるロボットこそが、劣等種ホモ・サピエンスよりも優先されるべき『人間』である。

などを根拠としてロボットが三原則を拡大解釈して実質人類に危害を加える例がよく見られる。

また、非アシモフ作品で第零法則が逆効果になる例はもはや鉄板である。

また、当然ながら人間が操縦する非自律型のロボット（例：モビルスーツ、アーマードコア等）には三原則は適用されない。それらはロボットへの指令が人間により明示的に行われ，その指示に忠実に従うのが当然だからである。

ロボット三原則の影響を受けた作品

鉄腕アトム：ロボットたちが守るべき法律とされる「ロボット法」の元ネタ

Dr.スランプ アイ,ロボット

ドラえもん のび太と鉄人兵団 のび太とブリキの迷宮 のび太とロボット王国：なお上記の通り、少なくともドラえもんやその兄弟機・同型ロボット達は明らかに三原則が適用されていない。

ちょびっツ

成恵の世界：鈴・麗・蘭などに代表される機族を縛る原則条項「機族三原則」として登場。(ただし「機族三原則」は「ロボット三原則」にある「人間」が「生命」に置き換わり「前条に反しない限りにおいて」が無いため保護適用範囲が広くなり、より縛りがキツくなっている)危機的状況において人間によって原則零項適用が発令される事で三原則を超える行動ができる。

ロックマン　ロックマンX：主人公である「ロックマン」や「エックス」が、この原則に反するような思考、行動をとる描写がある(これが原因でエックスは１００年間封印されていたと『ロックマンX』のプロローグで書かれている）。

また、敵勢力であるイレギュラーは正しく、ロボット三原則に違反する存在だと言える他、『ロックマンゼロ』シリーズではこれらの描写に対する一つのアンサーが出されている。

特捜ロボジャンパーソン:彼の前身となったロボットは「悪」と断じたものは人間であれ破壊しようとする危険極まりないロボットであり、彼にとっては忌まわしき過去となっているが、終盤で彼はビルゴルディを倒すためにある決断をする事に…。

人造人間キカイダー:不完全な良心を持つが故にプロフェッサー・ギルの干渉を受けると人間を襲うマシーンとなってしまう。最終的に悪の心を司る回路も組み込まれた事で自らの意思で善も悪を為せる人間のような存在となってしまった(つまりロボット三原則を守る事も破る事も自分で判断できるという事)。

ロボット刑事:漫画版の設定ではロボット三原則に基づいた「制御回路(アシモフ・コード)」がKに組み込まれており、人間を殺すということはKの自壊を意味するという。

仮面ライダーゼロワン:作中世界の法律に「人工知能特別法」というものがあり、第一条はロボット三原則からの引用となっている(つまり、人間に危害を加えるロボットは処分の対象)。

勇者王ガオガイガー：勇者ロボの超AIやツールロボのAIには「アシモフ・プロテクト」と呼ばれるプロテクトが施されており、軍事転用や人命を脅かす行為の制限がされている。

メダロット:玩具であり共に暮らすためのリミッター、メダロット三原則（メダロット三ヶ条）が存在している。こちらは『人間や他のメダロットを傷つけない』と『人間が危機に迫った時自ら助けないとならない』が重点的に定められている。作品によってはこれが大きく物語が絡むこととなる。

ダンスロボットダンス：ロボット三原則を意識した歌詞になっている。

天装戦隊ゴセイジャー:登場するロボット怪人・マトロイドの行動原理であるマトロイド三原則の元ネタはロボット三原則である。

関連タグ

SF ロボット 人工知能 アシモフ