概要
AI(人工知能)による画像、文章、音声、動画生成に反対する思想運動。
AI技術が人間の創造性や個性を奪うと主張し、AIによって生成された作品を排除する運動。
またAI使用作品が人権侵害や著作権侵害などの問題を引き起こすと警告し、
AI技術の倫理的・法的な規制を求める運動。
及び、上記の理由から主にAI利用者とAI利用企業、
実際にAI使用したかの有無にかかわらず
AI使用しているとみなした人を攻撃する人達の呼称。
注・現在のAIに批判的であることを自認する立場の人からは
『反AI』は対象者に対する批判、侮蔑の意味を含んだ呼称だという理由で
AI慎重派、生成AI反対派、無断学習反対派などの呼称が提唱されている。
反AIの語源
「反AI」という単語は生成AI登場前から存在していた。
また反AIも2023年1~2月頃まで、自らを「反AI」と呼称していたのが確認される。
しかし、反AIの誹謗中傷、ネットリンチ、人格攻撃で「反AI」という単語の印象が悪化、
2023年3月頃を境に反AIは自らをAI規制派などと呼称するようになった。
確認できた最古の反AI呼称は、
人工知能学会誌の連載「AIにおける論争」〔第1回〕黒崎 政男
人工知能学会誌(1986~2013, Print ISSN:0912-8085)1987年12月号
に AI反対者の名称として「反=AI論者」という言葉が出てくる。
SFで「AIに反対する架空の組織や思想」を指す言葉として認識されていた。
また、2022年頃には画像生成AI、Midjourneyなどが登場し、SF作品と現実を絡めて「反AI」の登場を予測するツイートが増加した。
「仕事がなくなって、反AI勢力が誕生するSFが絵描き界隈で起こりそう」2023年1月3日
2022年7月31日 ゲームクリエイター852話氏のAIイラスト投稿が炎上
画像生成AIユーザーへの日本発の誹謗中傷事件
意外にも、この時点では852話氏を誹謗中傷した人達は反AIとは呼ばれていなかった。
2022年8月29日 AI画像生成サービスmimicβ版が公開
mimicβ版に批判的な言動をした者を反AIと呼んでいるのが観測される。
AIに否定的な言動をする人達を反AIと呼んでいるのはこれが初。
「イラスト提供したクリエイターまで叩くとか反AI正義マンやばすぎて草 過激な市民活動団体とかと何も変わらんやんけ やっぱ人間が一番こわいし醜い、はっきりわかんだね」
反AI since:2022-8-1 until:2022-9-1
2022年12月13日頃から始まったオンラインアートコミュニティArtstationを発端としたAIイラストに反対する活動「NOAI運動」が、2023年1月25日にイラストレーターのよー清水氏(@you629)によってツイッター(現X)上で
と投稿し、NOAI運動=反AI として紹介し、AI反対派推進派間に「反AI」という単語が一気に広まった。
この頃、ツイッター(現X)上でAI反対運動をしていた反AIも自分自身を反AIだと認識している。
「海外のほうが反AIって方が多いので」2022年10月28日
「でも反AIが増えてて本当に嬉しい😭😭😭😭おおおおおんんんん😭😭(泣)」2022年12月18日
「こちらの方は他の方の作品もAIによる改変をした盗作をしていましたね… AIを悪用する連中はこうして反AI派を攻撃してくるのでサブアカウントからの報告になり申し訳ありません…」2023年1月27日
これは、2022年頃は「反AI」はAI反対運動としての意味合いが強く
AI反対運動としての反AIと、AI使用者に対して攻撃的な言動を取る人達に対する呼称(反AI過激派、反AI派等)は呼び分けられていたからである。
しかし、Mimic炎上事件、クリスタのSD仮実装潰し、赤松健議員への誹謗中傷、
反AIによる事件が起こるたびに「反AI」という言葉そのもののイメージが徐々に悪化し、「反AI」という言葉がAI反対運動ではなく「AIに対して攻撃的な言動を取る迷惑な人達」の意味合いを持って使われる事が多くなった。
「「フェミニスト」を名乗ってヘイトをバラ撒く人のせいでフェミニストって名乗れないのと同じ問題が発生しつつあるよね、反AI」2023年3月31日
そのため2023年3月頃より、反AI達は「私たちは反AIではなくAI規制派、AI慎重派である」「反AIはレッテルである」と主張するようになった。
理由は「全てのAIに反対している訳ではなく、AIイラストや無断学習される生成AIにのみ反対している」「ディープフェイクなどAI犯罪行為に反発している」というものである。
「生成AIを問題視してる人に対して反AIって言うのはあまりに雑過ぎる」2023年6月8日
「あ、NO AIを彼らなりに訳すと反AIって事?英語弱弱すぎる……流石にないと思いたい……」2023年3月16日
反AIの主張
- 知識・理解不足
- 著作権法の理解不足
著作権法の知識が不足しており、いついかなる状況でも著作者が著作物の無断利用を禁じる権利があるという誤解に基づき「無断で学習されたAIモデルとAI生成物は著作権違反」であり、違法なAIを使用する「AI使用者は犯罪者」だという主張。
「絵柄が保護されないのはおかしい」「生成AI問題に対応した著作権法がない、立法をすべきだ」「著作権法30条の4を改憲すべきだ」という法律そのものに不備があり、今は合法なAIを使用しているが「AI使用者は脱法行為をしている」という主張。
海外の著作権法と日本の著作権法を混合し「著作権法に違反している」という主張。
これらの著作権法の無知・無理解に基づいた主張は、文化庁の籾井著作権課課長に「知識基盤のレベル合わせができていない」と評された。
著作権法の不理解による主張は政府批判と結びつきやすく、AI使用者が犯罪者であるという主張は誹謗中傷問題に発展しやすい。
- AIモデルの知識不足
AIモデルの知識がなく、AIモデル内部に圧縮された学習元が存在するという誤解に基づき
「AI生成物はコラージュである」「AI生成物は複製である」「AIモデルは検索機である」という主張をする。
Stable Diffusionをはじめとする画像生成AIのトレーニング用に使われている「LAION-5B」というデータセットに、児童性的虐待画像(CSAM)が含まれていた問題と合わせて
「AIモデル内に児童性的虐待画像が入っている」「児童性的虐待画像で学習されたAIイラストは児童性的虐待画像である」「ゆえにAI使用者は性犯罪者である」という主張。 AI生成物が版権キャラクターや特定作家と似た画風を出力するのは、無断転載された画像で機械学習されているため
「機械学習に使用したデータセットを開示せよ」「問題画像が含まれているならオプトアウト(データセットから除去)せよ」という主張。
ローカルモデルが世界中に普及している現状を無視し、AIモデルの取り扱いを免許制にすべきだという主張。
- 忌避感
- 正当な対価を得ず、機械学習の素材として勝手に使われる事への忌避感
- アイデンティティの毀損
SNSの隆盛に伴ってオンリーワンである事(何者かである事)に強い価値がある昨今、
その特別たり得る部分を奪おうとするAIに自尊心が傷つけられた。
人間の能力とAIの能力を同列視される事への生理的な不快感。
- 人間の作った物とAI生成物の区別がつかず、騙された気持ちになる
- AIを使うことは「ずる」をしているという不快感
- 不安
- 競合に対する恐怖
AIは競争相手であり、自分の食い扶持を減らす存在への恐怖感
- 新技術が犯罪に使われるなど、社会情勢悪化への懸念
- AIに人類が家畜のように管理されるという不安
- 被害による反発
- AIによる迷惑行為の被害者になった
無断で自身の著作物をi2iされる、自身の絵柄や声や容姿を許可なくAIで模倣された
- AIによる市場破壊、AIに職を奪われた
安価に大量のAI生成物が投稿される事により競合がおき、今までのビジネスモデルが成り立たなくなった。
反AI、その始まり
反AIはAIユーザーへの誹謗中傷から始まった。
2022年7月31日、ゲームクリエイター852話氏がツイッター上で
Midjourneyβで生成したAIイラストと共に
「AIで自動生成した画像 一切加筆と加工をしていない直データ やばい 本当にやばい 廃墟イラスト完全に勝てない 廃業です 神絵が1分で生成される 参った #midjourney」
と投稿し話題となった。これに絵師を中心に「絵師が廃業するわけがない」と激しい反発が起き、この件以降852話氏がAI生成物を投稿するたびに反発が起き、2022年9月頃に852話氏の自宅を特定した反AIが押し掛け奇声を発しながらドアを叩く警察沙汰になり、852話氏は引っ越しを余儀なくされた、
また仕事用メールやDM、まとめサイト、匿名掲示板等に殺害予告を含む大量の誹謗中傷が投稿されていた。
852話氏は2023年5月頃から弁護士を通して、複数のIP開示請求と訴訟を行い、現在(2024年5月時点)も開示請求と訴訟は続いている。
一部の訴訟では示談が成立し、示談金が支払われた。
また、示談が成立せず訴訟が提起された1件では、被告が示談に応じず裁判所にも出頭しないまま審理が終了したため、擬制自白として852話氏の勝訴が確定し
2024年4月10日に判決が言い渡された。
この判決は生成AIに纏わる裁判第一号である。
この頃、他に誹謗中傷を受けたのは、2022年8月10日Midjourneyで生成したAIイラストで『サイバーパンク桃太郎』を発表した作家兼漫画家のRootport氏や、
2022年8月31日イラストレーターのさいとうなおき氏が「AI全般について、そういう技術が現れてしまった以上は時間を戻すことは出来ない。なので、それありきとして表現を考えていかなきゃなって思う。」という投稿など、
画像生成AIに初めて触れたクリエイターがAIの能力に驚愕し、クリエイターの未来について「絵師中間層は消滅する」「クリエイターはAIに代替えされる」など
悲観的な見解を寄せた事に反発する形で誹謗中傷や人格批判が行われた。
2022年の画像生成AI初期は、「AI使用者が絵師を馬鹿にしている」「AIが絵画の制作を完全に代替することはあり得ない」というのが反AIの論調だった。
確かに2022年初頭ごろの画像生成AIは未熟であり、クリエイターがAIによって置き換えられるという見方は難しいとされていた。
行き過ぎた反AI活動の問題
当然ながらAI生成に難色を示す人々の全てがそうである訳ではないが、モラルやマナーや規約を守らないAI生成画像利用者の排斥に過熱した結果、本来の意図から逸脱し、魔女狩りのような行為に発展しているケースも見られる。
多くの画像投稿サイトではAI生成イラストが一気に増え始めた際、従来では考えられないほどの非常識な量の大量連投が起こり、サーバー負荷の問題でAI生成画像の一律禁止の対応を取ったが、Pixivでは禁止せず、代わりに「AI生成」のカテゴリを追加するにとどまった。
これにより問答無用で排除せずに住み分けと共存を目指したものだが、一部のユーザーにおいてはAI生成のカテゴリタグを使用せず、タグの編集をロックする・全て埋める等して第三者による追加をさせず、コメント欄も閉鎖し、明らかなAI生成画像であるにもかかわらず、意図的に住み分けを嫌って自作画像の界隈に踏み込んでくるユーザーが少なからず見られる。
このようなユーザーは無関係のタグを大量に羅列したり、NovelAI登場直後のような非常識な大量連投をする等の検索妨害行為の並行も少なくなく、その面でも問題になる。
もちろん、AI生成画像に絵柄が似ているだけの自作画像であるケース(AI生成タグを使わないのは当然)もあると思われるが、プロフィール欄に堂々と「AI生成画像を投稿」等と書いていたり、過去の投稿はAI生成と明記していた作品が、全く同じ絵柄で途中からAIタグを消してこのような状態になる等、疑う余地のないユーザーも確かに存在している。
- 「AI生成画像に絵柄が似ている」だけでAIだと決めつけ排斥。
確かに「ぱっと見でAIっぽいと分かる絵柄」はあるが、該当しそうな絵柄だったら必ずAI生成物であるとは限らない。
前述の通り、AIは膨大なデータを学習して平均値を出力する性質上、AIに似せられたオリジナルが最も多い絵柄パターンでもある。
特に、流行りの絵柄に合わせようと努力してきた人はこの状態に陥る可能性も高く、「元からAIの絵柄に似ている人(AIに似せられた側の人)」は少なくない。
別パターンとして、AI生成画像普及初期に見られたような、ラーメンを手で食べたり箸が5本あったり、背景の構造物が物理的にあり得ない構造をしていたり等の作画ミスの部類を根拠として、AI生成だと決めつけられてしまうケースもある。
流石に箸5本とかはあり得ないとしても、指の数が1本違ったり、パースが狂って背景の建物の大きさの整合性が取れていなかったりする程度ならば、昔から手描きイラストでもままあった事例なのだが、この手の作画ミスが1つでもあると「AI生成だ!」と即座に糾弾する人間が残念ながら存在する。
- 排斥に用いる方法が暴言やコメント・タグなどに対する荒らし行為など、単純に不適切な方法である。
これは論ずるまでもなく、手段が間違っていれば例え真実を訴えていても問題である。
酷い場合、タイムラプスや作画経緯の配信アーカイブなどの証拠が存在していても尚、強硬にAIだと決めつけるのをやめず、単純な暴言だけで叩き続ける人間も存在する。
特に企業から依頼を受けて描かれ、公の場に出たイラストにこの手の疑惑が降りかかった場合、真実がどうであるかではなく企業に対するダメージを避ける為に企業がイラストを取り下げてしまい、それを持って「AIだった証拠だ!」として、イラストレーターへの叩きが加速する問題もある。