概要
AIbrosとは生成AIに強く執着・信仰する人を表すスラング。生成AI以外のAIについて言及されることは少ない。
英語圏でのスラングであるが、日本でも後述する定義の通り、主にAI絵師に対する否定的、蔑称的意味合いを強く含んだ意味合いで用いられているため注意が必要である。
定義
スラングであるため厳密な定義は非常に難しいが、英語のbro(brotherの短縮形)には「信者」のニュアンスもあることから、字義通りに解釈すると「生成AIを積極的に用いる人」といった程度の意味となる。
一方、Urban Dictionaryにおいては以下のような定義が投稿され支持されている。
Individuals who are excessively obsessed with artificial intelligence Image generation and its advancements, often to the detriment of their personal and professional lives. They may display feelings of inadequacy and inferiority without constant exposure to AI technology and may prioritize it over human relationships and responsibilities.(編集者訳：AIによる画像生成及びそのプロモーションに過剰に執着する人。しばしば人格や私生活に支障をきたしている。AI技術に触れていないと物足りなさや劣等感を顕わにする。人と人との関係や社会的責任よりもAI技術を優先する。)
Urban Dictionary: AI Bro (2024年9月26日訪問)
また、英語圏における掲示板のredditでも以下のように否定的な文脈で使われることが多い。
このように、実際には人間の創作者から著作物を"奪い取り"、生成AIによって文章・画像・映像等を投稿することで創作文化を破壊する人といった、AI絵師等に対する強い否定的・侮辱的なニュアンスで使われることが多い。本記事においても、「AIbros」の語を上記のように定義する。また、生成AIの問題は文章・画像のメディアを問わず指摘されているが、日本において「AIbros」が問題となる際には画像生成AIの問題が最も多く語られることから、本記事でも可能な限り画像生成AIに焦点を絞って言及する。
生成AIの原理
先述したように「AIbros」の語は否定的なニュアンスで使用されることが多い。その背景を考えるにあたって、まず画像生成AIの原理について簡単に記述する。
画像生成AIは「拡散モデル」や「敵対的生成ネットワーク(GAN)」などでモデルを構築する。これらのモデルでは、原理上大量のオリジナルデータが必要となる。例えばStable Diffusion等のモデルに使用された画像セット「LAION-5B」には50億枚以上もの画像が含まれているGigazine:「画像生成AI「Stable Diffusion」などに使われた50億枚超の画像セット「LAION-5B」に1008枚の児童ポルノ画像が入っていることが判明し削除へ」。これらのデータセットはどこから来たのか？多くの場合大量のデータを含むデータセットは、インターネット上で公開されている大量の文章や画像をスクレイピングして取得したものである(人力では到底不可能な量のデータを扱う必要があるため当然である)。
生成AIにおける問題
生成AIに対しては様々な問題が指摘されているが、本記事は「AIbros」についての記事であるため、「AIbros」に直接関わりのある上の２点に絞って言及する。
【学習段階】スクレイピングの問題
上記のように生成AIがモデルを生成する際には大量のオリジナルデータが必要となる。一方、このスクレイピングのプロセスは原理上多くの問題を孕んでいる。例えば先述したデータセット「LAION-5B」には児童ポルノ画像が含まれていることが発覚する(Gigazine:画像生成AI「Stable Diffusion」などに使われた50億枚超の画像セット「LAION-5B」に1008枚の児童ポルノ画像が入っていることが判明し削除へ)。また2022年には、NovelAIがデータ学習元の一つにDanbooruが存在すると発表した(ITmedia: 「われわれはNovelAIと関係ない」──海外のイラストサイト「Danbooru」が日本語で声明)が、Danbooruには多数の無断転載画像を含むことが指摘されている。著作権法では適法な画像の収集について保護しているが、海賊版サイトから画像を収集した場合には、学習段階において違法な複製となることが指摘されている( 文化庁:ＡＩと著作権に関する諸外国調査報告書)。これらの問題から違法な画像を学習してしまう惧れがある。この問題は人力で削除することで解決したとあるが、大量のデータをスクレイピングしデータセットを構築している以上、原理的に違法な画像を学習している可能性を排除することができないという問題がある。
また、現行法において生成AIのモデル構築に使用したデータセットを開示する義務はない。そのため、データセットの合法性を第三者によって監査する仕組みがなく、仮に生成AIを提供する企業が学習段階で著作権を侵害したとしても、それを指摘することができない。EUではデータセットの開示を求める法案が提出されている (Reuter: EU proposes new copyright rules for generative AI)が、未だ社会的な合意を得られる着地点を見出すには至っていない。
【生成段階】生成物の公開と文化の問題
創作以外の分野においても、特定個人を貶めるディープフェイクを手軽に作成できてしまうという問題が発生している(BBC: 【米大統領選2024】 トランプ氏支持者、AI生成の偽画像で黒人有権者を誘導＝BBC調査)。また、粗製乱造の画像が検索汚染を引き起こす危険性がある(官邸: 残された論点等（討議用）)。例えばトコジラミの生成AI画像が検索汚染することで、市民に大きな誤解を与える可能性が指摘されている(togetter: 【虫画像注意】「トコジラミ マクロ」で画像検索したらAI生成写真ばかりになっていて草「これはヤバい」「紙の図鑑の価値があがる」)。
生成AI及びAIbrosのこれから
今後生成AI技術がどのように発展していくかは不透明である。AI側からはクリーンなデータセットを活用した生成AIが提案されるなど問題の解決に向かう動きもある。国レベルでも法整備や法解釈を進めることで細かいルールが明確になる動きもある。
一方、現状創作を行う人々は生成AIに対する態度によって大きく二分されており、どちらの陣営からも誹謗中傷などが飛び交っているのが現状である(所謂反AIやAIbros)。現在日本は国民一人一人に主権があるため、現行法の是非について議論を交わすことは必要不可欠な営みである。しかし、その過程で誹謗中傷や相手に失礼な発言をすることは絶対に避けるべきである。
