概要
AI(人工知能)による画像、文章、音声、動画生成に反対する思想運動。
AI技術が人間の創造性や個性を奪うと主張し、AIによって生成された作品を排除する運動。
またAI使用作品が人権侵害や著作権侵害などの問題を引き起こすと警告し、
AI技術の倫理的・法的な規制を求める運動。
及び、上記の理由から主にAI利用者とAI利用企業、
実際にAI使用したかの有無にかかわらず
AI使用しているとみなした人を攻撃する人達の呼称。
注・現在のAIに批判的であることを自認する立場の人からは
『反AI』は対象者に対する批判、侮蔑の意味を含んだ呼称だという理由で
AI慎重派、生成AI反対派、無断学習反対派などの呼称が提唱されている。
反AIの語源
「反AI」という単語は生成AI登場前から存在していた。
また反AIも2023年1~2月頃まで、自らを「反AI」と呼称していたのが確認される。
しかし、反AIの誹謗中傷、ネットリンチ、人格攻撃で「反AI」という単語の印象が悪化、
2023年3月頃を境に反AIは自らをAI規制派などと呼称するようになった。
確認できた最古の反AI呼称は、
人工知能学会誌の連載「AIにおける論争」〔第1回〕黒崎 政男
人工知能学会誌(1986~2013, Print ISSN:0912-8085)1987年12月号
https://www.jstage.jst.go.jp/article/jjsai/2/4/2_420/_article/-char/ja/
に AI反対者の名称として「反=AI論者」という言葉が出てくる。
SFで「AIに反対する架空の組織や思想」を指す言葉として認識されていた。
また、2022年頃には画像生成AI、Midjourneyなどが登場し、SF作品と現実を絡めて「反AI」の登場を予測するツイートが増加した。
「仕事がなくなって、反AI勢力が誕生するSFが絵描き界隈で起こりそう」2023年1月3日
https://twitter.com/btf_080584/status/1477665144360804352
2022年7月31日 ゲームクリエイター852話氏のAIイラスト投稿が炎上
画像生成AIユーザーへの日本発の誹謗中傷事件
意外にも、この時点では852話氏を誹謗中傷した人達は反AIとは呼ばれていなかった。
2022年8月29日 AI画像生成サービスmimicβ版が公開
mimicβ版に批判的な言動をした者を反AIと呼んでいるのが観測される。
AIに否定的な言動をする人達を反AIと呼んでいるのはこれが初。
「イラスト提供したクリエイターまで叩くとか反AI正義マンやばすぎて草 過激な市民活動団体とかと何も変わらんやんけ やっぱ人間が一番こわいし醜い、はっきりわかんだね」
https://twitter.com/F_Dragon/status/1564559623457472512
反AI since:2022-8-1 until:2022-9-1
https://twitter.com/search?q=%E5%8F%8DAI%20since%3A2022-8-1%20until%3A2022-9-1&src=typed_query&f=top
2022年12月13日頃から始まったオンラインアートコミュニティArtstationを発端としたAIイラストに反対する活動「NOAI運動」が、2023年1月25日にイラストレーターのよー清水氏(@you629)によってツイッター(現X)上で
「おわ、Artstation(海外のプロ向けpixivみたいなとこ)あまりにも反AI活動&垢消しが多すぎて利用規則が改定。基本的に生成形AIの学習目的でArtstationの作品を使うのは禁止ってことになったようです。先進的な海外ではAIが認められてるって言ってたのは誰だったかな…」
https://megalodon.jp/2024-0314-1831-15/https:/twitter.com:443/you629/status/1618111973610385410
と投稿し、NOAI運動=反AI として紹介し、AI反対派推進派間に「反AI」という単語が一気に広まった。
この頃、ツイッター(現X)上でAI反対運動をしていた反AIも自分自身を反AIだと認識している。
「海外のほうが反AIって方が多いので」2022年10月28日
「でも反AIが増えてて本当に嬉しい😭😭😭😭おおおおおんんんん😭😭(泣)」2022年12月18日
「もしAI周りの事態がいい感じに収束してきたらこのアカウントも削除するつもりでこのアカウント作ったんだけど、のちのち歴史修正されそうだから残しておこうかな…あの頃野蛮な反AI派が〜とか言われんの容易に想像つく」2022年12月26日
(魚拓)https://megalodon.jp/2024-0502-0029-15/https://twitter.com:443/9Hzaea/status/1607354396538712066
「こちらの方は他の方の作品もAIによる改変をした盗作をしていましたね… AIを悪用する連中はこうして反AI派を攻撃してくるのでサブアカウントからの報告になり申し訳ありません…」2023年1月27日
(魚拓)https://megalodon.jp/2024-0319-0051-22/https://twitter.com:443/r18rensyu/status/1618818386561220610
これは、2022年頃は「反AI」はAI反対運動としての意味合いが強く
AI反対運動としての反AIと、AI使用者に対して攻撃的な言動を取る人達に対する呼称(反AI過激派、反AI派等)は呼び分けられていたからである。
しかし、Mimic炎上事件、クリスタのSD仮実装潰し、赤松健議員への誹謗中傷、
反AIによる事件が起こるたびに「反AI」という言葉そのもののイメージが徐々に悪化し、「反AI」という言葉がAI反対運動ではなく「AIに対して攻撃的な言動を取る迷惑な人達」の意味合いを持って使われる事が多くなった。
「「フェミニスト」を名乗ってヘイトをバラ撒く人のせいでフェミニストって名乗れないのと同じ問題が発生しつつあるよね、反AI」2023年3月31日
https://twitter.com/Lacenaire_ssw/status/1641482396842496000
そのため2023年3月頃より、反AI達は「私たちは反AIではなくAI規制派、AI慎重派である」「反AIはレッテルである」と主張するようになった。
理由は「全てのAIに反対している訳ではなく、AIイラストや無断学習される生成AIにのみ反対している」「ディープフェイクなどAI犯罪行為に反発している」というものである。
「イラストだけの問題じゃないですからね
それと反AIと雑な括りはやめた方が良いですよ」2023年3月31日
https://megalodon.jp/2024-0319-0048-16/https:/twitter.com:443/r18rensyu/status/1666927206944366592
「あ、NO AIを彼らなりに訳すと反AIって事?英語弱弱すぎる……流石にないと思いたい……」2023年3月16日
https://twitter.com/oythatomugi/status/1636051198917890048
反AIの主張
- 知識・理解不足
- 著作権法の理解不足
著作権法の知識が不足しており、いついかなる状況でも著作者が著作物の無断利用を禁じる権利があるという誤解に基づき「無断で学習されたAIモデルとAI生成物は著作権違反」であり、違法なAIを使用する「AI使用者は犯罪者」だという主張。
「絵柄が保護されないのはおかしい」「生成AI問題に対応した著作権法がない、立法をすべきだ」「著作権法30条の4を改憲すべきだ」という法律そのものに不備があり、今は合法なAIを使用しているが「AI使用者は脱法行為をしている」という主張。
海外の著作権法と日本の著作権法を混合し「著作権法に違反している」という主張。
これらの著作権法の無知・無理解に基づいた主張は、文化庁の籾井著作権課課長に「知識基盤のレベル合わせができていない」と評された。
著作権法の不理解による主張は政府批判と結びつきやすく、AI使用者が犯罪者であるという主張は誹謗中傷問題に発展しやすい。
- AIモデルの知識不足
AIモデルの知識がなく、AIモデル内部に圧縮された学習元が存在するという誤解に基づき
「AI生成物はコラージュである」「AI生成物は複製である」「AIモデルは検索機である」という主張をする。
Stable Diffusionをはじめとする画像生成AIのトレーニング用に使われている「LAION-5B」というデータセットに、児童性的虐待画像(CSAM)が含まれていた問題と合わせて
「AIモデル内に児童性的虐待画像が入っている」「児童性的虐待画像で学習されたAIイラストは児童性的虐待画像である」「ゆえにAI使用者は性犯罪者である」という主張。 AI生成物が版権キャラクターや特定作家と似た画風を出力するのは、無断転載された画像で機械学習されているため
「機械学習に使用したデータセットを開示せよ」「問題画像が含まれているならオプトアウト(データセットから除去)せよ」という主張。
ローカルモデルが世界中に普及している現状を無視し、AIモデルの取り扱いを免許制にすべきだという主張。
- 忌避感
- 正当な対価を得ず、機械学習の素材として勝手に使われる事への忌避感
- アイデンティティの毀損
SNSの隆盛に伴ってオンリーワンである事(何者かである事)に強い価値がある昨今、
その特別たり得る部分を奪おうとするAIに自尊心が傷つけられた。
人間の能力とAIの能力を同列視される事への生理的な不快感。
- 人間の作った物とAI生成物の区別がつかず、騙された気持ちになる
- AIを使うことは「ずる」をしているという不快感
- 不安
- 競合に対する恐怖
AIは競争相手であり、自分の食い扶持を減らす存在への恐怖感
- 新技術が犯罪に使われるなど、社会情勢悪化への懸念
- AIに人類が家畜のように管理されるという不安
- 被害による反発
- AIによる迷惑行為の被害者になった
無断で自身の著作物をi2iされる、自身の絵柄や声や容姿を許可なくAIで模倣された
- AIによる市場破壊、AIに職を奪われた
安価に大量のAI生成物が投稿される事により競合がおき、今までのビジネスモデルが成り立たなくなった。
行き過ぎた反AI活動の問題
当然ながらAI生成に難色を示す人々の全てがそうである訳ではないが、モラルやマナーや規約を守らないAI生成画像利用者の排斥に過熱した結果、本来の意図から逸脱し、魔女狩りのような行為に発展しているケースも見られる。
発生経緯
画像そのもののケース
単純には粗製乱造された画像の多さにある。
いわゆる『画像投稿サイト』の場合、ユーザーによる自作イラストを探したい閲覧者にとっては、粗製乱造された画像は検索妨害に等しく、検索効率を著しく下げてしまう。
また、版権キャラクターを用いた二次創作イラストの場合、AIの学習不足から良くても似て非なるキャラクターが、悪いと構成要素だけが合致した別人が生成されるケースもあり、上記の検索妨害に拍車を掛けてしまう。
一卵性双生児などの極似した外見のキャラクターが複数人いる場合、該当キャラ達の特徴を折衷した別人が生成されるケースも……。
更に上記の問題を改善させるため、原作イラストを取り込ませた場合は上記の通り、著作権の侵害に該当するなど法的な問題を抱えている。
更に、上記の著作権の問題と一部重複するが、全く面識のない人物のイラストを(許可を取らず)AIに学習させた上、(同じく許可を取らず)学習させたイラストをAIに生成させる=事実上のモチーフの無断盗用が起こっている。
未だにAIの学習が不足し、人体の構造や動作の無理解が残る現状から、生成されたイラスト群の中には有り得ないシチュエーションや奇形を生み出す事例も……(詳細はこちら)。
より酷いケースだと、同人ゴロによる悪用の末にコンテンツ崩壊もあり得るだろうか。
Pixivに関する問題
多くの画像投稿サイトではAI生成イラストが一気に増え始めた際、従来では考えられないほどの非常識な量の大量連投が起こり、サーバー負荷の問題でAI生成画像の一律禁止の対応を取ったが、Pixivでは禁止せず、代わりに「AI生成」のカテゴリを追加するにとどまった。
これにより問答無用で排除せずに住み分けと共存を目指したものだが、一部のユーザーにおいてはAI生成のカテゴリタグを使用せず、タグの編集をロックする・全て埋める等して第三者による追加をさせず、コメント欄も閉鎖し、明らかなAI生成画像であるにもかかわらず、意図的に住み分けを嫌って自作画像の界隈に踏み込んでくるユーザーが少なからず見られる。
このようなユーザーは無関係のタグを大量に羅列したり、NovelAI登場直後のような非常識な大量連投をする等の検索妨害行為の並行も少なくなく、その面でも問題になる。
もちろん、AI生成画像に絵柄が似ているだけの自作画像であるケース(AI生成タグを使わないのは当然)もあると思われるが、プロフィール欄に堂々と「AI生成画像を投稿」等と書いていたり、過去の投稿はAI生成と明記していた作品が、全く同じ絵柄で途中からAIタグを消してこのような状態になる等、疑う余地のないユーザーも確かに存在している。
- 「AI生成画像に絵柄が似ている」だけでAIだと決めつけ排斥。
確かに「ぱっと見でAIっぽいと分かる絵柄」はあるが、該当しそうな絵柄だったら必ずAI生成物であるとは限らない。
前述の通り、AIは膨大なデータを学習して平均値を出力する性質上、AIに似せられたオリジナルが最も多い絵柄パターンでもある。
特に、流行りの絵柄に合わせようと努力してきた人はこの状態に陥る可能性も高く、「元からAIの絵柄に似ている人(AIに似せられた側の人)」は少なくない。
別パターンとして、AI生成画像普及初期に見られたような、ラーメンを手で食べたり箸が5本あったり、背景の構造物が物理的にあり得ない構造をしていたり等の作画ミスの部類を根拠として、AI生成だと決めつけられてしまうケースもある。
流石に箸5本とかはあり得ないとしても、指の数が1本違ったり、パースが狂って背景の建物の大きさの整合性が取れていなかったりする程度ならば、昔から手描きイラストでもままあった事例なのだが、この手の作画ミスが1つでもあると「AI生成だ!」と即座に糾弾する人間が残念ながら存在する。
- 排斥に用いる方法が暴言やコメント・タグなどに対する荒らし行為など、単純に不適切な方法である。
これは論ずるまでもなく、手段が間違っていれば例え真実を訴えていても問題である。
酷い場合、タイムラプスや作画経緯の配信アーカイブなどの証拠が存在していても尚、強硬にAIだと決めつけるのをやめず、単純な暴言だけで叩き続ける人間も存在する。
特に企業から依頼を受けて描かれ、公の場に出たイラストにこの手の疑惑が降りかかった場合、真実がどうであるかではなく企業に対するダメージを避ける為に企業がイラストを取り下げてしまい、それを持って「AIだった証拠だ!」として、イラストレーターへの叩きが加速する問題もある。