概要
AIbrosとは生成AIに強く執着・信仰する人を表すスラング。生成AI以外のAIについて言及されることは少ない。
英語圏でのスラングであるが、日本でも後述する定義の通り、主にAI絵師に対する否定的、蔑称的意味合いを強く含んだ意味合いで用いられている。
定義
スラングであるため厳密な定義は非常に難しいが、英語のbro(brotherの短縮形)には「信者」のニュアンスもあることから、字義通りに解釈すると「生成AIを積極的に用いる人」といった程度の意味となる。
一方、Urban Dictionaryにおいては以下のような定義が投稿され支持されている。
Individuals who are excessively obsessed with artificial intelligence Image generation and its advancements, often to the detriment of their personal and professional lives. They may display feelings of inadequacy and inferiority without constant exposure to AI technology and may prioritize it over human relationships and responsibilities.(編集者訳：AIによる画像生成及びそのプロモーションに過剰に執着する人。しばしば人格や私生活に支障をきたしている。AI技術に触れていないと物足りなさや劣等感を顕わにする。人と人との関係や社会的責任よりもAI技術を優先する。)
Urban Dictionary: AI Bro (2024年9月26日訪問)
また、英語圏における掲示板のredditでも以下のように否定的な文脈で使われることが多い。
このように、実際には人間の創作者から著作物を"奪い取り"、生成AIによって文章・画像・映像等を投稿することで創作文化を破壊する人といった強い否定的なニュアンスで使われることが多い。本記事においても、「AIbros」の語を上記のように定義する。また、生成AIの問題は文章・画像のメディアを問わず発生しているが、日本において「AIbros」が問題となる際には画像生成AIの問題が最も多く語られることから、本記事でも可能な限り画像生成AIに焦点を絞って言及する。
生成AIの原理
先述したように「AIbros」の語は否定的なニュアンスで使用されることが多い。その背景を考えるにあたって、まず画像生成AIの原理について簡単に記述する。
画像生成AIは「拡散モデル」や「敵対的生成ネットワーク(GAN)」などでモデルを構築する。これらのモデルでは、原理上大量のオリジナルデータが必要となる。例えばStable Diffusion等のモデルに使用された画像セット「LAION-5B」には50億枚以上もの画像が含まれているGigazine:「画像生成AI「Stable Diffusion」などに使われた50億枚超の画像セット「LAION-5B」に1008枚の児童ポルノ画像が入っていることが判明し削除へ」。これらのデータセットはどこから来たのか？多くの場合大量のデータを含むデータセットは、インターネット上で公開されている大量の文章や画像をスクレイピングして取得したものである(人力では到底不可能な量のデータを扱う必要があるため当然である)。
生成AIにおける問題
生成AIに対しては様々な問題が指摘されているが、本記事は「AIbros」についての記事であるため、「AIbros」に直接関わりのある上の２点に絞って言及する。
【学習段階】スクレイピングの問題
上記のように生成AIがモデルを生成する際には大量のオリジナルデータが必要となる。一方、このスクレイピングのプロセスは原理上多くの問題を孕んでいる。例えば先述したデータセット「LAION-5B」には児童ポルノ画像が含まれていることが発覚する(Gigazine:画像生成AI「Stable Diffusion」などに使われた50億枚超の画像セット「LAION-5B」に1008枚の児童ポルノ画像が入っていることが判明し削除へ)。また2022年には、NovelAIがデータ学習元の一つにDanbooruが存在すると発表した(ITmedia: 「われわれはNovelAIと関係ない」──海外のイラストサイト「Danbooru」が日本語で声明)が、Danbooruには多数の無断転載画像を含むことが指摘されている。著作権法では適法な画像の収集について保護しているが、海賊版サイトから画像を収集した場合には、学習段階において違法な複製となることが指摘されている( 文化庁:ＡＩと著作権に関する諸外国調査報告書)。これらの問題から違法な画像を学習してしまう惧れがある。この問題は人力で削除することで解決したとあるが、大量のデータをスクレイピングしデータセットを構築している以上、原理的に違法な画像を学習している可能性を排除することができないという問題がある。
また、現行法において生成AIのモデル構築に使用したデータセットを開示する義務はない。そのため、データセットの合法性を第三者によって監査する仕組みがなく、仮に生成AIを提供する企業が学習段階で著作権を侵害したとしても、それを指摘することができない。EUではデータセットの開示を求める法案が提出されている (Reuter: EU proposes new copyright rules for generative AI)が、未だ社会的な合意を得られる着地点を見出すには至っていない。
【生成段階】生成物の公開と文化の問題
これまで我々は人間が道具を用いて創作を行ってきた。チューブ絵具やデジタル作画、CGといった新しい技術が誕生するたびに従来法による創作を重んじる創作者と激しい衝突が起こった。一方、生成AIは一度モデルを構築すれば大量の画像を生成することができるため、インターネットに大量のAI画像が氾濫し、人間による創作意欲を著しく減退させる危険が指摘されている。創作以外の分野に広げると、特定個人を貶めるディープフェイクを手軽に作成できてしまうという問題が発生している(BBC: 【米大統領選2024】 トランプ氏支持者、AI生成の偽画像で黒人有権者を誘導＝BBC調査)。また、粗製乱造の画像が検索汚染を引き起こす危険性がある(官邸: 残された論点等（討議用）)。例えばトコジラミの生成AI画像が検索汚染することで、市民に大きな誤解を与える可能性が指摘されている(togetter: 【虫画像注意】「トコジラミ マクロ」で画像検索したらAI生成写真ばかりになっていて草「これはヤバい」「紙の図鑑の価値があがる」)。
AIbrosの主張と問題点
AIbrosと呼ばれる人々は、生成AIを使わず嫌悪感を抱いている人に対する無礼な発言や誹謗中傷が多数観測されており、従来の絵師との軋轢も絶えない。AIbrosがそのような発言を行う際には以下のような主張を繰り広げることが多い。本記事ではそれらの主張のうち代表的なもののみを取り上げる。
- 「今後既存のイラストレーターは廃業に追い込まれる」
職業差別ともとれる誹謗中傷或いはそれに準ずる失礼な発言であり、到底許されるものではない。AIに対してどのような思想・信条を持っていたとしても、相手の仕事について失礼な言動をすることは厳に慎むべきである。
- 「法整備は既に終了しており、画像の収集及び学習は全く問題がない」
著作権法30条の４は日本が生成AIに対する法整備に先鞭をつけた歴史的な例であることは疑う余地がない。一方、法整備が既に終了したというのは重大な事実誤認である。まず法律はそれだけで解釈が一位に定まるものではなく、判例や明確な法解釈の積み重ねがあって徐々に輪郭が現れるものである(ユアサハラ法律特許事務所: 日本の生成ＡＩについての政策の分岐点：著作権法３０条の４ではなぜだめなのか？)。また、文化庁の著作権セミナーにおいても、非常に多くの問題が検討され結論が出ていないことを示している(文化庁:AIと著作権)。これらの問題に加え、生成AI技術は日進月歩で進化しているにも係わらずそれに対応する法が整備されているのは不可能であることにも留意する必要がある。
- 「生成AIによる画像生成及び公開は著作権法30条の４に照らし合わせれば合法であり、全く問題がない」
著作権法30条の４の文化庁の解釈では、非享受目的であれば、生成AIのモデルを構築する際には、著作物を無断で複製する場合には著作権法違反とならないとしている。一方、SNSにおけるAI画像の公開は、人間による創作と同じく「依拠性」「類似性」が認められる場合には著作権侵害となる。そのため、AIによってどの創作とも類似しない画像については問題が発生しないことは事実である。一方、著作権法30条の４は著作権者の利益を通常害しないといえる場合を対象とするものである(官邸:AI と著作権に関する考え方について（素案）)。そのため、例えばLoRAでモデルを構築し特定のイラストレーターの画風を模した画像を生成しSNS等に掲載する場合には、著作権者の利益を害することが懸念されるため同法が適用されないと解される(ITmedia:生成AIを特定の絵柄に特化させる「LoRA」 著作権の考え方は？ 弁護士が解説)。
- 「権利侵害に対しては司法で争うべきである」
通常の法の考え方では、不法行為等があった場合には司法で解決するべきである。しかし、著作権に関する訴訟では「訴訟によって得られる便益が訴訟コストを下回るため侵害対策に費用をかけられない」「訴訟の当事者になることでレピュテーションが低下するおそれがある」ということが指摘されており、現実的ではない(文化庁 :著作権法の一部を改正する法律 概要説明資料)。それにも係わらず倫理的に不適切な行動(明らかに特定の作者への嫌がらせを目的とする行為等)を行うことは、正当化されるものではない。
生成AI及びAIbrosのこれから
今後生成AI技術がどのように発展していくかは不透明である。AI側からはクリーンなデータセットを活用した生成AIが提案されるなど問題の解決に向かう動きもある。国レベルでも法整備や法解釈を進めることで細かいルールが明確になる動きもある。
一方、現状創作を行う人々は生成AIに対する態度によって大きく二分されており、どちらの陣営からも誹謗中傷などが飛び交っているのが現状である(所謂反AIやAIbros)。現在日本は国民一人一人に主権があるため、現行法の是非について議論を交わすことは必要不可欠な営みである。しかし、その過程で誹謗中傷や相手に失礼な発言をすることは絶対に避けるべきである。本記事は「AIbros」の記事であるため、所謂親AIの過激派を取り扱った。一方でAIを否定する陣営にも「反AI」と呼ばれる過激派が存在する。過激派はどちらの陣営にも存在することが確認されている。
本記事は読者をどちらか一方の陣営につくよう誘導することを目的としているわけではない。本記事の読者には、各陣営の主張を慎重に検討し中立な視点から冷静に俯瞰したうえで立場を決めるべきである。少なくとも、片方の過激派の主張のみを取り上げ、もう一方の主張を正当化することは絶対に避けるべきである。
