概要
AI(人工知能)による画像、文章、音声、動画生成に反対する思想運動。
AI技術が人間の創造性や個性を奪うと主張し、AIによって生成された作品を排除しようとする運動。
またAI使用作品が人権侵害や著作権侵害などの問題を引き起こすと警告し、AI技術の倫理的・法的な規制を求める運動。
及び、上記の目的のため、主にAI利用者とAI利用企業、実際にAI使用したかの有無にかかわらずAIを使用しているとみなした人を攻撃する人達の呼称。
※現在のAIに批判的であることを自認する立場の人からは『反AI』は対象者に対する批判、侮蔑の意味を含んだ呼称だという理由でAI慎重派、生成AI反対派、無断学習反対派、規制派などの呼称が提唱されている。
ただし、AI規制派を名乗る反AIの問題行為により「AI規制派」にも侮蔑的なニュアンスを含む使用法が増えてきている事に注意。
生成AIの是非については世界中で巻き起こっている議論であるが、日本の漫画、同人、アニメ等では
・フェアユース(一定の条件を満たしていれば、著作権者から許可を得なくても著作物を再利用できること)の考えがない
・二次創作に寛容
・それでいて絵柄やアイデアについてオリジナルを尊重することが求める(詳しくは絵柄パクを参照)
などの著作物をめぐる独特の風習が根付いている。これは日本の著作権法の規定とは必ずしも一致しないため、従来の「業界の常識」の中で育ってきたクリエイターと、そのような不文律を知らない業界外の人々(海外ユーザーを含む)との軋轢が目立っている(外部サイトも参照)。
「生成AI規制派」が蔑称あるいは簡潔に表記するために「反AI」と呼ばれたり、あまり区別せず「反AI」と呼称を統一するユーザーの存在であったり、あるいは規制派を名乗るユーザーが記事で挙げられるような攻撃行為、迷惑行為を行っていることもあり、実情としては二つの呼称が厳密に呼び分けられている訳ではない。
倫理的な観点から、規律や法解釈でクリエイターの権利保護や利益還元を目指しAIの適切な利用と著作権保護のバランスを模索するために政府に法規制を促したりAI企業に交渉を行うなど健全な活動を行う「生成AI規制派」と呼ばれる集団と
個人や企業をはじめとするAI利用者などを攻撃対象にし誹謗中傷やキャンセルカルチャーなどの迷惑行為を行うおおよそ法規制とは無関係の活動を行っている「反AI」と呼ばれる集団とは分ける必要性があるため
この記事では「生成AI規制派」ではなく「反AI」の主張や問題行為について取り扱う。
反AIの語源
「反AI」という単語は生成AI登場前から存在していた。
また反AIも2023年1~2月頃まで、自らを「反AI」と呼称していたのが確認される。しかし、反AIの誹謗中傷、ネットリンチ、人格攻撃で「反AI」という単語の印象が悪化、
2023年3月頃を境に反AIは自らをAI規制派などと呼称するようになった。
「反AI」という単語の扱いの変遷
確認できた最古の反AI呼称は、
人工知能学会誌の連載「AIにおける論争」〔第1回〕黒崎 政男
人工知能学会誌(1986~2013, Print ISSN:0912-8085)1987年12月号
に AI反対者の名称として「反=AI論者」という言葉が出てくる。
「反AI」はAIを題材にしたVivyやAI崩壊など、SF作品において「AIに反対する架空の組織や思想」を指す言葉として用いられてきた。
また、2022年頃には画像生成AI、Midjourneyなどが登場し、SF作品と現実を絡めて「反AI」の登場を予測するツイートが増加した。
「仕事がなくなって、反AI勢力が誕生するSFが絵描き界隈で起こりそう」2022年1月3日
2022年7月31日 ゲームクリエイター852話氏のAIイラスト投稿が炎上
画像生成AIユーザーへの日本発の誹謗中傷事件
この時点では852話氏を誹謗中傷した人達を反AIと呼んだ記録は残っていない。
2022年8月29日 AI画像生成サービスmimicβ版が公開
mimicβ版に批判的な言動をした者を反AIと呼んでいるのが観測される。
AIに否定的な言動をする人達を反AIと呼んでいるのはこれが初。
「イラスト提供したクリエイターまで叩くとか反AI正義マンやばすぎて草 過激な市民活動団体とかと何も変わらんやんけ やっぱ人間が一番こわいし醜い、はっきりわかんだね」
反AI since:2022-8-1 until:2022-9-1
2022年12月13日頃から始まったオンラインアートコミュニティArtstationを発端としたAIイラストに反対する活動「NOAI運動」が、2023年1月25日にイラストレーターのよー清水氏(@you629)によってツイッター(現X)上で
と投稿し、NOAI運動=反AI として紹介し、AI反対派推進派間に「反AI」という単語が一気に広まった。
この頃、ツイッター(現X)上でAI反対運動をしていた反AIも自分自身を反AIだと認識している。
「海外のほうが反AIって方が多いので」2022年10月28日
「でも反AIが増えてて本当に嬉しい😭😭😭😭おおおおおんんんん😭😭(泣)」2022年12月18日
「こちらの方は他の方の作品もAIによる改変をした盗作をしていましたね… AIを悪用する連中はこうして反AI派を攻撃してくるのでサブアカウントからの報告になり申し訳ありません…」2023年1月27日
これは、2022年頃は「反AI」はAI反対運動としての意味合いが強く
AI反対運動としての反AIと、AI使用者に対して攻撃的な言動を取る人達に対する呼称(反AI過激派、反AI派等)は呼び分けられていたからである。
しかし、Mimic炎上事件、クリスタのSD仮実装潰し、赤松健議員への誹謗中傷、
反AIによる事件が起こるたびに「反AI」という言葉そのもののイメージが徐々に悪化し、「反AI」という言葉がAI反対運動ではなく「AIに対して攻撃的な言動を取る人達」の意味合いを持って使われる事が多くなった。
「「フェミニスト」を名乗ってヘイトをバラ撒く人のせいでフェミニストって名乗れないのと同じ問題が発生しつつあるよね、反AI」2023年3月31日
そのため2023年3月頃より、反AI達は「私たちは反AIではなくAI規制派、AI慎重派である」「反AIはレッテルである」と主張するようになった。
理由は「全てのAIに反対している訳ではなく、AIイラストや無断学習される生成AIにのみ反対している」「ディープフェイクなどAI犯罪行為に反発している」というものである。
「反AIと雑な括りはやめた方が良いですよ」2023年3月31日
反AIの主張
著作権法の理解不足に起因する主張
著作権法の知識が不足しており、いついかなる状況でも著作者が著作物の無断利用を禁じる権利があるという誤解に基づき「無断で学習されたAIモデルとAI生成物は著作権違反」であり、違法なAIを使用する「AI使用者は犯罪者」だという主張。
(日本著作権法には「制限規定」というものがあり、当該著作物を享受する目的でなければ
機械学習など情報解析のために、著作者に無断で複製行為を行う事が可能である)
「絵柄が保護されないのはおかしい」「生成AI問題に対応した著作権法がない、立法をすべきだ」「生成AIに対する法整備が遅れている」「著作権法30条の4を改正すべきだ」という法律そのものに不備があり、現状合法なAIを使用しているAIユーザーを指し「AIユーザーは脱法行為をしている」とする主張。
(日本著作権法はAI普及のため、著作権法の一部を改正する法律(平成30年法律第30号)が生成AIの普及に先駆けて制定されており、少なくとも生成AIに対する法整備が実施されていないか、又は遅れているという事実はない)
海外の著作権法と日本の著作権法を混合し「著作権法に違反している」という主張。
(海外では日本の様にAIに対応した著作権法整備が進んでおらず、
特にアメリカでは機械学習時のデータセット制作時に複製行為を行う事は
フェアユース規定に相当するか否かで裁判が進められている)
これらの著作権法の無知・無理解に基づいた主張は、文化庁の籾井著作権課課長に「知識基盤のレベル合わせができていない」と評された。
文化庁HPにて「AIと著作権に関する考え方について(素案)」パブリックコメントを順次公開しているが、例えば受付番号185001345000005025は【このパブリックコメントを通じて言いたい事は一つ。「他人が作った物を勝手に使うな。」それ以外に無い。「享受」が目的であろうが無かろうが学習と出力を分けると言う時点で詭弁でしかなく、敬意も報酬も無く、搾取するだけの生成 AI がクリエーターに譲歩を望むべきでは無い。】、受付番号185001345000005027は【クールジャパン戦略としてポップカルチャーなどを押し出していくつもりであれば、他人の著作物を盗むような生成AIを許すべきではないと思います。AI学習に関する法規制を進めていただきたいです。】と、とてもでないが現行法や機械学習の仕組みを把握しているのか、募集要項や添付資料をきちんと読んだのか、というような内容が大量に送られていることが確認できる。
著作権法の不理解による主張は政府批判と結びつきやすく、AI使用者が犯罪者であるという主張は誹謗中傷問題に発展しやすい。
正しいAIと著作権の関係については、個人製作のwikiで情報収集するのではなく
文化庁のAIと著作権を視聴する事をオススメする。
生成AIの構造に対する知識不足に起因する主張
- AIモデルの知識がなく、AIモデル内部に圧縮された学習元が存在するという誤解に基づき「AI生成物はコラージュである」「AI生成物は複製である」「AIモデルは検索機である」といった主張。
- Stable Diffusionをはじめとする画像生成AIのトレーニング用に使われている「LAION-5B」というデータセットに、児童性的虐待画像(CSAM)が含まれていた問題と合わせて「AIモデル内に児童性的虐待画像が入っている」「児童性的虐待画像で学習されたAIイラストは児童性的虐待画像である」「ゆえにAI使用者は性犯罪者である」という主張。
- モデル内部に画像は無いので、この主張は的外れである。またSDは機械学習時に不適切な画像を除去してから学習している事を公表している
- AI生成物が版権キャラクターや特定作家と似た画風を出力するのは、無断転載された画像で機械学習されているため「機械学習に使用したデータセットを開示せよ」「問題画像が含まれているならオプトアウト(データセットから除去)せよ」という主張。
- ローカルモデルが世界中に普及している現状を無視し、AIモデルの取り扱いを免許制にすべきだという主張。
- ゲームの高解像度化などにも活用されるといった実運用を無視し、あらゆるAIコンテンツにAI製と表示すべきだという主張。
- 生成AIに肯定的な人でもフェイク対策などに「必ずしも目視できなくてもよい電子透かし等の努力義務」はあってもいいとする意見もあるが、反AIの場合は「SNSでたまたま流れてきたイラストがたとえ背景など部分的にあってもAI製なことが気に入らない」といった論調が強く、そうなると「部分的にでもAIの関わったすべてのコンテンツに素人がパッと見でも目視できるレベルの印を表示せよ」という主張になる。
- 関連記事:「PS5 Pro、最大のゲームチェンジャーはAI超解像技術か。ゲーム映像の専門家が分析」「PS5 Pro発表:AI技術と知財戦略の深層分析」
このような主張が存在する理由
- 自身の著作物を無断で機械に収集される事への生理的な不快感
- AIによる迷惑行為の被害者になった
- 無断で自身の著作物をi2iされる、自身の絵柄や声や容姿を許可なくAIで模倣された、なりすましを受けた。
- 新技術が犯罪に使われるなど、社会情勢悪化への懸念
- AIにイラストレーターの仕事が奪われるのではないかという懸念
- しばしこの主張は19世紀初頭において発生したラッダイト運動と比較されることもある。犯罪や他者への攻撃を行わない普通のAIユーザーを攻撃する者も多い。
- サービスの利用規約を読まない、読んでも規約の方がおかしいと開き直る自己中心的思考
- 例えばX(Twitter)は規約に機械学習に用いると明言しているため、理論上はXの開発するAIはすべて許可・同意されたデータのみで構成されていることになる。(実際はもちろん外部からも学習しているが) しかしX内で「AI学習禁止」の標語を掲げたり無断学習を嘆いたりする反AIは非常に多い
反AI活動の発端
昨今の反AI活動はAIユーザーへの誹謗中傷から始まった。
2022年7月31日、ゲームクリエイター852話氏がツイッター上で
Midjourneyβで生成したAIイラストと共に
「AIで自動生成した画像 一切加筆と加工をしていない直データ やばい 本当にやばい 廃墟イラスト完全に勝てない 廃業です 神絵が1分で生成される 参った #midjourney」
と投稿し話題となった。これに絵師を中心に「絵師が廃業するわけがない」と激しい反発が起き、この件以降852話氏がAI生成物を投稿するたびに反発が起き、2022年9月頃に852話氏の自宅を特定した反AIが押し掛け奇声を発しながらドアを叩く警察沙汰になり、852話氏は引っ越しを余儀なくされた、
また仕事用メールやDM、まとめサイト、匿名掲示板等に殺害予告を含む大量の誹謗中傷が投稿されていた。
この頃、他に誹謗中傷を受けたのは、2022年8月10日Midjourneyで生成したAIイラストで『サイバーパンク桃太郎』を発表した作家兼漫画家のRootport氏や、
2022年8月31日イラストレーターのさいとうなおき氏が「AI全般について、そういう技術が現れてしまった以上は時間を戻すことは出来ない。なので、それありきとして表現を考えていかなきゃなって思う。」という投稿など、
画像生成AIに初めて触れたクリエイターがAIの能力に驚愕し、クリエイターの未来について「絵師中間層(プロ絵師とアマチュア絵師の中間)は消滅する」「クリエイターはAIに代替えされる」など
悲観的な見解を寄せた事に反発する形で誹謗中傷や人格批判が行われた。
2022年の画像生成AI初期は、「AI使用者が絵師を馬鹿にしている」「AIが絵画の制作を完全に代替することはあり得ない」というのが反AIの論調だった。
確かに2022年初頭ごろの画像生成AIは未熟であり、クリエイターがAIによって置き換えられるという見方は難しいとされていた。
反AI活動の問題
- クリエイターに対する魔女狩り行為
AI生成に難色を示す人々が、モラルやマナーや規約を守らないAI生成画像利用者の排斥に過熱した結果、本来の意図から逸脱し、魔女狩りのような行為に発展しているケースも見られる。
多くの画像投稿サイトではAI生成イラストが一気に増え始めた際、従来では考えられないほどの大量連投が起こり、サーバー負荷の問題でAI生成画像の一律禁止の対応を取ったが、PixivではAIイラストを禁止せず、代わりに「AI生成」のカテゴリを追加するにとどまった。
また、AIにありがちな絵柄や絵の破綻を根拠に、クリエイターに対してAIを使った嫌疑を掛け攻撃する者もいる。
確かに「ぱっと見でAIっぽいと分かる絵柄や絵の破綻」こそあるものの、それが該当しているからといって必ずその絵がAI生成物であるとは限らない。
前述の通り、AIは膨大なデータを学習して平均値を出力する性質上、AIに似せられたオリジナルが最も多い絵柄パターンでもある。
特に、流行りの絵柄に合わせようと努力してきた人はこの状態に陥る可能性も高く、「元からAIの絵柄に似ている人(AIに似せられた側の人)」は少なくない。また流行りの絵柄を作った側、源流になったゼロ年代エロゲ会社オーガストの新規イラストが炎上させられた事例もある。
別パターンとして、AI生成画像普及初期に見られたような、ラーメンを手で食べたり箸が5本あったり、背景の構造物が物理的にあり得ない構造をしていたり等の作画ミスの部類を根拠として、AI生成だと決めつけられてしまうケースもある。
流石に箸5本とかはあり得ないとしても、指の数が1本違ったり、パースが狂って背景の建物の大きさの整合性が取れていなかったりする程度ならば、昔から手描きイラストでもままあった事例なのだが、この手の作画ミスが1つでもあると「AI生成だ!」と即座に糾弾する人間が残念ながら存在する。
なお、Pixiv事務局は2022年10月22日AI生成作品の取り扱いに関するサービスの方針についてを発表。
この方針により、従来のイラストとAIイラストは住み分けられることになった。
また、Pixiv事務局は「この先、創作過程におけるAI技術の利用がより普及していくと捉えており、AIが関与した成果物の完全な排斥は考えておりません」「AI技術は(中略)クリエイターを大いに助ける技術となり得ると考えております」と述べた。
しかしこれを受けて、AIイラストを排除する方針を取らずAIイラストとの共存を謳ったpixivに対し強い不満を示した反AIは、pixivを批判し始めたのだった。
なお株式会社pixivは生成AIが問題視される2022年以前から自動着色サービス「Petalica Paint」を運営しており、そもそもAI推進企業サイドである。
pixivsketch側のアカウントにて「学習目的の利用について許諾のとれた購入データをもとにして、弊社が自動着色機能の開発に必要な処理・注釈等を入れたものとなります。」という声明を発表しており、『クリーンなAI』『絵描きを助けるAI』の代表例と言える。
- 生成AIにまつわる法への理解や共存を示した人への異端者狩り行為
反AIは「生成AIの存在を許さない・全否定でないと認めない」といった思想が強く、例えば「完全に無くすのは無理なので、悪用には警戒しつつ適切な活用や利益還元の方法を模索しよう」「手描きならではの強みや味わいを模索しよう」といった立場であってもネットリンチに及ぶ例がいくつもある。燃やされる側は個人ユーザーから大御所クリエイターまで幅広い。
「じゃああなたの作品をAIに食わせますね」といった脅しじみた文句をつける反AIも多い。また音楽や動画といったイラストとは違った分野の人の場合は「イラストの現状を知らないんだ」もお約束、さらには比較的近しい分野であるマンガ家相手でも「マンガとイラストは違うんだ」等都合よく切り離してくる。また知名度がすでにある相手だと「あなたはもう地位が安泰だからそんなことが言えるんだ」もよく見かける。
国会議員であり漫画家でもある還元案など考えを提示した赤松健氏、NOMORE生成AI運動の動画で「歩み寄り」のワードを出した浪川大輔氏、日本漫画家協会常務理事であり当人はAIにも二次創作にも難色を示しているが現状把握もしっかりしている森川ジョージ氏、FANBOX記事で「ツールの一つでありクリエーターの未来が狭まっていくというものではない」と述べてたさいとうなおき氏、「写真があっても画家は絶滅してません。」と述べた岡本倫氏など。
- 排斥に用いる方法が暴言やコメント・タグなどに対する荒らし行為など、単純に不適切な方法である。
これは論ずるまでもなく、手段が間違っていれば例え真実を訴えていても問題である。
酷い場合、タイムラプスや作画経緯の配信アーカイブなどの証拠が存在していても尚、強硬にAIだと決めつけるのをやめず、単純な暴言だけで叩き続ける人間も存在する。
特に企業から依頼を受けて描かれ、公の場に出たイラストにこの手の疑惑が降りかかった場合、真実がどうであるかではなく企業に対するダメージを避ける為に企業がイラストを取り下げてしまい、それを以て「AIだった証拠だ!」として、イラストレーターへの叩きが加速する問題もある。
- 他所の団体や運動へのフリーライド・乗っ取り
日本俳優連合の #NOMORE無断生成AI 運動が代表例。
こちらは生身の俳優たちが所属する団体なのもあり、以前より「AI生成物の著作権を認めるべきでない」「パブリシティ権の強化」などを訴えでている。(「AIと著作権」に関する意見を文化庁へ提出しました)
他に各政党へ「生成AIについての公開質問状」を送付など、政治を通した人間の地位向上・権利保護のための活動も努めていた。
そして2024年夏から秋にかけてTwitter(現X)上ではタグ#NOMORE無断生成AIを用いて、有名声優にメッセージを出してもらう動画も発表している。
当初は上にあるよう「AI生成物の著作権を認めるべきでない」など強めの主張も目立ったが、2024年秋現在だといわゆる狙い撃ちLoRAによる学習元への不利益に対する問題提起に焦点を絞りつつある。完全禁止・排除でなく、適切なルール作りという路線をとっており、これは梶裕貴氏や野沢雅子氏の「公式の声AI」を制作し、非公式・海賊版LoRAに対抗しつつも今後の発展に繋げる活動にもつながっている。
しかし浪川大輔氏のメッセージ動画で「歩み寄り」といった生成AIを全否定しないワードが出たことで過激派の反AIユーザーが批判したり、以前よりこの#NOMORE無断生成AIタグをいわゆる魔女狩り・AIユーザーへの誹謗中傷ポストにも利用する、基盤モデルへの学習をも制限する強い主張にも利用するなど、団体が地道に積み上げようとしている信頼やメッセージを損なうような行為が目立っている。
なおX(Twitter)の規約が11月15日で変更されることに起因する騒動の中で「Xの規約変更を受けて投稿を削除する。Youtube、TikTokではそのまま」と投稿した上の声優メッセージ動画などを削除した。この行動を受けて「問題は追加学習だったのでは」「梶裕貴氏などの公式AI作成の活動との整合性が取れていないのでは」「規約や関係各社が公開している生成AIを考慮するとYoutubeやTikTokの方がむしろ危険なのでは」といった疑念の声が上がっている。
中にはタグの「『無断』生成AI」というネーミングがいわゆる「無断学習」「無断転載」等と語感が近いゆえに著作権法含めた現状や運動の真意への理解が浅い過激なユーザーを引き付けているという指摘もあるが、名称を変更する様子は見られない。
他には森川ジョージ氏が常務理事の日本漫画家協会に生成AI関係の問題を「解決」するよう押し付けも見られる。森川ジョージ氏以外にも役員はいるが、森川ジョージ氏がX(Twitter)でよく発言するタイプなので関連して語られることが多い。
定款には「公益社団法人日本漫画家協会は健全なる漫画の普及に関する事業を行うと共に、漫画創作活動を奨励し併せて諸外国との漫画文化の交流を図り、漫画に関する調査研究を行い、もって我が国文化の発展に寄与することをもって目的とする。」(漫画家協会サイトより)とあり、労働問題の解決は主題として据えていないことが分かる。
著作権等管理事業も行っているが「著作権に関して利用者に許諾する業務を漫画家さんに代わって漫画家協会が行い、利用料を徴収、委託者に分配する仕組みです。つまり、許諾代行が漫画家協会でできるようになったというわけです。」とあり、生成AI関係とは直接的な関係が薄いことがやはり分かる。
- 生成AIに関係ない事案でも結びつけ、時にデマを拡散する
世の中のトラブルは無数にあり、クリエイターには関係するが生成AIには関係ない事案も無数にある。
だが反AIはしばし関係ない、あるいはAIが関わっていてもそこは問題の本質でない事案にも飛びつくことがある。
2024年11月に赤松健議員が深く関わっているマンガ図書館Zが閉鎖されたことが話題になると、反AIは親会社の生成AIコンテンツ販売が原因というデマを拡散し、そのデマを根拠に赤松健議員叩きの投稿もしている。さらには本来なら関係ないはずのサービスのAIコンテンツ取扱いを結果的に停止させることになっている。詳しくは後述。
デマに関しては、他に書籍「荒木飛呂彦の新・漫画術 悪役の作り方」で生成AIに関して触れている項があるのだが、AIに否定的な内容のページのみを切り抜いた事案もあった。詳しくは後述。
他には2024年9月、「初音ミク はんなり京都2024」でのコラボイラストとして発表された和服ボーカロイドイラストが、デザイナー花月氏の既存の和服イラストと類似されていると指摘され、炎上する出来事があった。運営側の説明によると、制作時の指示書に花月氏のイラストを無断で使用したことが原因という。しばし他のコンテンツでも指示書の段階では既存著作物を私的利用の範疇を越えてダウンロード・複製して資料にしたり、「人気キャラクターの○○風にして」といった指示が行われているとされているし、これが原因のトラブルも枚挙にいとまがない。よってこの問題に生成AIは関わっていようがいまいが、本質的な要素ではない。
だが反AIユーザーは何かしらイラストにAIを使用としたと結びつけ批判する者もいた。関係ない要素で第三者が引っ掻き回すのは無駄に騒ぎを拡大させるし、度が過ぎれば魔女狩り、誹謗中傷に結びつく。(初音ミク京都コラボイラストがトレパク疑惑で炎上、謝罪へ。更にはAI絵だと疑う者まで。)
また2024年11月15日をもってX(Twitter)の規約が変更されたのだが、イラスト界隈を中心に15日を境にAI学習されるようになるものとしてパニック状態に陥った。ヒット作持ちの漫画家、電子書籍やコピック販売などの企業も多く反応しているのが特徴的である。「なんとなくAIが嫌い」程度の層も多く反応しているため反AIの不祥事とは少し違うが、「AI学習禁止の意思表示、技術的な予防にウォーターマークが有効(※Graze等の学習阻害ツールではなく、文字を被せる狭義のもの)」「BlueskyならAI学習される心配はない」といった根拠のない情報が飛び交うことになった。11月を境に「AI学習禁止」の標語を掲げたイラスト投稿はX内、pixiv内ともに増加傾向にある。
あるAIユーザーが加筆修正の過程としてイラスト編集ソフトのスクリーンショットを投稿したところ、「pngはイラスト専用の拡張子(魚拓)」「使用ツールはSD(※stable diffusionの省略形)と書いてあるが、『AI』とは書いてないのでこれはツール詐称(XのCN機能より、役に立たなかった欄にて)」といった珍説を主張する者もいた。
後者のコミュニティノートは「役に立たなかった」評価になり却下されているものの、前者の珍説については24年12月時点で8000いいね付いている。
反AIの起こした事件
- ゲームクリエイター852話氏への誹謗中傷
上記の自宅凸事件に加え、仕事用メールやDM、まとめサイト、匿名掲示板等に殺害予告を含む大量の誹謗中傷が投稿されていた。
・AI魔女狩り
852話氏が手描きだと投稿したイラストが、novelAIで似た画像が出力される、細部がおかしいなどを理由に
「AIイラストを手描きだと偽っている」として炎上
852話氏は該当イラストのPSDや、別絵のタイムラプスを投稿するも反AIは納得せず
レイヤー構成がおかしい、塗りがおかしいとして誹謗中傷を継続した。
この手描きイラストをAIイラストだと決めつけて叩き、製作者が否定しても叩くのをやめない様子が、魔女裁判と酷似しているとして
のちにAIイラスト魔女狩り、略して「AI魔女狩り」と呼ばれるようになった。
・少年ボイスRVCが炎上
852話氏は、2023年4月19日「RVC甥の声(リアルショタ)許可済」
2023年4月23日「RVC 甥と甥の弟(リアル小学生)のボイスデータ「ごんぎつね」をがんばって新録してもらいました。両親・本人ら快諾済」というRVC動画をXに投稿し
5月26日ぶっきらぼう少年ボイス RVCデータ「友夜-yuuya-」をboothにて販売した。
このRVCは852話氏の声と知人男性の声を編集したもので、852話氏には甥は存在しておらず、甥という設定のコンセプトで作られたものだったが、「甥」という言葉だけが独り歩きしていった。
またboothにて『ぶっきらぼう少年ボイス RVCデータ「友夜-yuuya-」』の紹介文に「リアル少年の声を収録しています」と書かれていたため、このリアル少年とは852話氏の実在する小学生男子の甥で、甥の声を機械学習に使ったものだと憶測が飛び交った。
そして反AIの間で伝言ゲームを繰り返すうちに
・実在する小学生男子の甥の声を、本人や家族騙して収録した
・学習データを許可を得ず勝手に高額販売している
・児童ポルノ的用途を推奨してる
・852話氏はペドフィリアである
・子供を切り刻んでAIに詰めて商品として市場に売りに出している
と、どんどん内容が変質していった。
852話氏は2023年5月頃から弁護士を通して、誹謗中傷を行った反AIに対し
十数件のIP開示請求と訴訟を行い、現在(2024年11月時点)も開示請求と訴訟は続いている。
一部の訴訟では示談が成立し、示談金が支払われた。
また、示談が成立せず訴訟が提起された1件では、被告が裁判所に出頭しないまま審理が終了したため、852話氏が勝訴し
2024年4月10日に判決が言い渡された。
この判決は生成AIに纏わる裁判第一号である。
この敗訴した被告に対して852話氏は差し抑えを行っている。
- Mimicβ版潰し
8月29日、ラディウス・ファイブ社の「15〜30枚程度のイラストから画風を学習(追加学習)し、似たタッチのイラストを生成」するAI画像生成サービスmimicのβ版がリリースされた。
しかし「悪意のあるユーザーが勝手に自分の作品をmimicに機械学習させ、AI生成物を自分の作品として発表してしまうのではないか」などの危惧から、数多くの批判が寄せられた。
mimicβ版のガイドライン上では「他人のイラストを勝手にアップロードし機械学習」する
いわゆる「無断学習」と呼ばれる行為は明確に禁止されていたが
ラディウス・ファイブ社、ならびにmimicのPRやヒアリングに協力したクリエイター、たんたんめん氏に対する誹謗中傷に発展し
mimicβ版は僅か1日でサービスを停止する事になった。
その後mimicはガイドラインを改定し、利用登録を審査制にする、生成したイラストはツイッターアカウントと紐づいて公開される、利用規約違反を報告できるフォームを設置するなどの不正利用対策を施した上で、11月に復活した。
この炎上事件について「mimicの追加学習は汎用的な技術であり、すぐに海外で類似のサービスが登場するだろう。そうなる前に日本がAIイラスト分野を主導しなければならない、mimicを潰して喜んでいる場合ではない」という指摘があった。その指摘通り、10月にはNovelAIがリリースされ、12月には絵柄を簡単に追加学習できるLoRAが開発された。
イラストAI「mimic」のヒアリングに協力したことで批判を受けているイラストレーター、たんたんめんさんが経緯と私見を投稿
また、2022年9月8日と16日にVtuberディープブリザード氏がmimic開発者と対談した動画と11月7日にmimicを活用した動画は、反AIからの強い非難を受けて
mimic炎上事件以降、AI反対活動及びAI反対者に対して
反AIという呼称が急速に使われ始める。
Twitter上でイラスト投稿者が「AI学習禁止、無断学習禁止」の文言をプロフィールに掲載しはじめる。
2022/8/29「AI学習禁止」がtwitterでトレンド入り
その後、ラディウス・ファイブ社は2024年6月25日、イラスト制作補助ツールcopainterをリリース。
線画と下塗りを入力すると自動で着彩してくれる「AI着彩」、ラフスケッチを線画に変える「AIペン入れ」が搭載されている。
「AIペン入れ」は、手描きのラフを綺麗な線画に仕上げる機能で、Controlnetなど既存の技術「線画抽出」を改良したもの。
しかし、一部の反AI派からは「一部でもAIに頼る人は真の絵描きではない」「線画が盗まれる」「他人のイラストから線画を抽出する悪用の可能性がある」などの批判が出た。
ラディウス・ファイブ社は以前のmimicの時とは異なり、これらのクレームを完全に無視している。
特に2024年6月頃に線画の清書機能がリリースされた際は「イラストに猫の写真を被せると対策になる」という情報が出回ることもあった。(6月頃のTwitter検索結果)
copainterは手動でプロンプトを入力できる機能は限定的で、そのため関係性の薄く連続性のない画像を重ねると出力結果が乱れやすくなるのは一応事実ではある。
- クリスタの画像生成AIパレット試験実装潰し
11月29日、セルシスがクリスタにStablediffusionを使用した「画像生成AIパレット」の試験的実装する予定だと発表。
同月にAdobeが自社製品に画像生成AI機能(のちのFirefly)を搭載する発表があったため、画像生成AI搭載のペイントソフトは今後主流になると見込まれ、セルシスは試験的実装を急いでいたと見られている。
この発表は反AIから激しい批判を浴び、セルシスは翌月12月2日に仮実装を撤回した。
「CLIP STUDIO PAINTへ画像生成AI機能を搭載しないことといたしました」
Mimicに続いてクリスタの生成AI機能仮実装を潰した事で、日本のAI開発は遅れる事になり反AIへの不満が一気に高まり始める。
- 赤松&山田議員への誹謗中傷
参議院議員の赤松健氏は一早く生成AI問題のために動いていた。
Midjourneyリリース以降、特にNovelAI正式サービス後に無断学習や無断i2i被害や絵柄の模倣など、赤松議員の元にAIイラストに関する苦情が寄せられていた。
そのため2022年度末頃、赤松議員は弁護士や文化庁やクリエイターなど各種有識者からヒアリングを行っていることをXで報告している。
2022年9月15日のフランス視察でAI作画等について現地クリエイターと意見交換
2022年頃の反AIは「漫画村を潰した実績のある赤松議員が生成AIを規制し違法化してくれる」という論調で期待していた。
しかし、赤松議員は、2023年1月8日「驚異の進化を遂げる画像生成AI ~赤松健の現時点での提言~」動画を投稿した。
日本が今後AIとどう向き合うべきか?と、前職漫画家の経験を活かしクリエイターとしての立場から提言するものであり、生成AIを普及しつつも規律や法解釈でクリエイターの権利保護をしようという内容であった。
つまりAIを完全に禁止にしたり違法にする内容ではなかったため、赤松議員に期待していた反AIは落胆し、2月6日ASCII.jpのASCII.jp「画像生成AI、珍しく日本が勝つチャンス」発言で怒り、3月23日Stability AI社のCOO・伊藤錬氏と会合し笑顔のツーショット写真を投稿した事に対して大激怒。
赤松議員は複数のAI企業と交渉し、AI企業とクリエイターの間で適切な報酬システムを構築しようと試みていましたが、反AIはこの提案を受け入れず赤松議員はクリエイターの期待を裏切ったという論調で、反AIは激しい誹謗中傷を行うようになった。
2023年6月10日、赤松議員は国際著作権シンポジウムでAIの法規制やガイドラインの策定が難しい現状を述べ、AIの適切な利用と著作権保護のバランスを模索していることを強調した。
この講演で画像生成AIの規制派という意味合いで「反AI」という表現を使い、お絵描き初心者~中級者の反AIから苦情が殺到していると述べた。
公の場で議員が反AIという言葉を使ったのは、これが初である。
赤松議員は講演でクリエイターへの利益還元のため公式絵柄LoRAや絵師版のJASRACのような組織を作ろうという提言をしている。
反AIは自分たちを反AIと表現された事、陳情を苦情扱いされた事、初心者~中級者扱いされたこと、公式絵柄LoRAや絵師版JASRACを作ろうとしている事に対して激怒し、赤松議員へ誹謗中傷を行った。
赤松議員を見限った反AIは、次に同じく漫画村を潰した実績を持つ山田太郎議員に過度な期待を寄せるようになった。
しかし、山田太郎議員も赤松議員と同意見であった。
山田太郎議員は2022年8月頃よりAI問題に取り組んでいた。
『#山田太郎のさんちゃんねる』【第504回】でAI問題について触れており、2023年3月29日には国会で質疑を行い30条の4の但し書きの解釈について大臣に質問し、「著作権法の解釈は司法判断に任せるのではなく立法府で議論してルールを作るべき」という主張を行っている。
そして山田太郎議員は2023年6月28日に「山田太郎のさんちゃんねる【第542回】議員になって、早一年!赤松健議員、1年間を振り返り!」で、赤松議員をゲストに招きAI問題について触れた。
AI問題に対して単純に反対するのではなく、AI促進と著作権侵害問題を分けて考える必要性があり、特に反AIのような感情的な議論は避けるべきであると指摘した。
そのため反AIは「山田議員はクリエイターの期待を裏切った」という論調で誹謗中傷を行うようになった。
なぜ両議員は反AIに同調せず、反AIを切り捨て現実的なAI規制案を模索したのか?
漫画村問題の際、山田議員と赤松議員は表現の自由を守るため、通信ブロッキングに反対した。
当時、出版業界や政府内部から要求があったが、両議員は検閲の恐れがあるとして反対姿勢を貫いた。
とくに赤松議員は無断転載の被害当事者でもあったが、ブロッキングには一貫して慎重な姿勢を見せた。つまり、両議員の対応は「表現の自由を守る」という原則を守ったものでありAI問題に関しても、短慮なAI規制や法改正をして表現の自由を損なう事を危険視したからである。
赤松健議員が深く関わっているマンガ図書館Zが2024年11月5日午後7時、突然閉鎖が決定したことをX上で発表する。閉鎖理由としてはマンガ図書館Z自体の発表では「クレジットカード決済代行会社からの通達があり解約に至った」と説明、赤松健議員のXアカウントにてもう少し詳しく説明、そして11月6日夜に山田太郎議員と赤松健議員がYouTube緊急生放送をしてさらに詳しく解説している。細かな経緯は本記事の趣旨から外れるため割愛する。
ここで反AIアカウントが「マンガ図書館Zの親会社が販売するリアルな児童を出力した生成AIコンテンツが原因で、子会社であるマンガ図書館Zが解約された」という憶測を5日の午後11時という閉鎖発表から数時間で投稿、約22時間ほどで2000RP、72万インプレッションと拡散される。しかしこの投稿から1日後にあった上記の配信にて、現役の国会議員直々にデマと断言、否定されている。仮に合っていたとしても憶測がたまたま合っていただけに過ぎず、不確かな情報をあたかもそれらしく発信したという問題点には変わりない。6日の午後10時ごろに当該ツイートは削除されている。
その後11月9日にはまた同じアカウントが動画を元にし赤松議員と、彼に意見を寄せた人の意見をわざと混同させるスクショ切り抜きという悪質なデマを投稿。上の投稿はまだ「個人の推測がたまたまバズって既成事実化かのようになった」という言い訳も立つが、今回は動画をきちんと視聴していたら絶対に起こり得ない間違いであり、赤松氏のアンチですら看過できないと多方面から批判された。ちょうどX(Twitter)にてブロックされているユーザーでも投稿の閲覧、またコミュニティノートは付けられるようになるアップデートが入った直後なのもありコミュニティノートが付けられたが、「間違いがあった」とだけ述べ投稿を削除した。
どれだけリアル調の絵柄や設定や見た目がロリキャラであっても日本における「児童ポルノ」にフィクション、非実在児童は含まない。だがしばし非実在児童も含むようにする請願などが提出され、そのたび表現の自由を掲げる人々、実在の児童の権利を守ることを重視する人々では長年戦いが行われているのだが、「AI児童ポルノ」といった造語を作りそれらを蔑ろにするという点でも反AIユーザーの言動は批判されている。
ちなみに海外ではフィクションも「児童ポルノ」に含むこともあり、実在しない絵を取り締まる方がコストが低いため警察や活動家が点数稼ぎにフィクションばかりを槍玉にあげることで、本来保護されるべき実在する児童の被害者が蔑ろにされかねないという指摘もある。不適当な規制が持つ副作用として、医療や事件の記録のためであっても子供の裸や類するものの扱いが難しくなり正しい情報の保存や伝達に支障をきたす例もある。
関連記事
遠隔診断のため息子の裸の写真を送信→変態パパ扱いでGoogleアカBANに
スウェーデンで「非実在青少年」裁判、マンガ翻訳家が児童ポルノ罪に問われる
2024年11月7日に株式ナンバーナイン自身も状況を説明。マンガ図書館Z関連の話自体に新規の情報はなかったが、この騒動の余波を受けて、以前は生成AIであることを明記すればと条件つきで販売していていた生成AIコンテンツを取り扱い停止すると発表。またロリショタのアダルトコンテンツも一部販売停止とも発表した。
当該ポストでは「この決断に至った背景は、AI技術の発展に対して法整備が追いついていない状況下で権利侵害の有無を正確に判断するのが困難であること。「ナンバーナイン」をご利用いただく作家さんからAI作品の取り扱いについて不安視する声を頂戴していること。そして、こうした不安定な状況のままサービスとして現状の基準を貫く道義が見つからないことが挙げられます。」と述べており、取引相手に反AIの作家がいること、コンテンツを扱う企業が「AI技術の発展に対して法整備が追いついていない状況下」と現行法を正確に把握しているのか怪しい文言を投稿していることを疑問視する声もある。「現行法では合法だが改正を求める声がある」であれば事実であるが、「追いついていない」というのはいわゆる反AIの主張にかなり寄った言い方である。
- あらいずみるい氏AI魔女狩り事件
スレイヤーズシリーズの挿絵で著名なイラストレーター、あらいずみるい氏がコミックマーケット#C102にて頒布予定のルイルイ企画「るいるい亭にゅ10」と、うちわとクリアファイルを公開
したところ、
同人誌表紙絵とクリアファイルがAIイラストだとして
反AIが「ベテランがAI堕ちした」「盗用AIに手を出した」「AI明記せずに売るとは詐欺行為だ」と誹謗中傷と個人攻撃を行い、AI魔女狩りを行った。
この騒動で、あらいずみるい氏は反AIの誹謗中傷のターゲットの一人となった。
反AIがこの絵がAIイラストだと判断した根拠は、あらいずみるい氏が2022年12月8日にmeituでのi2i変換画像を投稿していた事、2023年5月12日にAIイラストを活用したイラストを投稿していた事、AI 生成メディア認識モデルHiveにてAIイラストだと検知された事である。
これに対し、あらいずみるい氏は8月15日に同人誌の表紙とクリアファイルは手描きであると、原画のレイヤー構成を動画で公開。
ほぼ同時期にHiveが手描きイラストをAIイラストだと誤検知する事も発覚した。
あらいずみるい氏を誹謗中傷していた反AIの大部分は謝罪する事なくアカウントを消し、
先鋭化した反AIは「レイヤーパカパカした程度で手描きだとは信じられない」「AI魔女狩りが起きるのは生成AIが存在するせい」「タイムラプスを出さないのはAIイラストの証拠」などと言い、レイヤー分割AI拡張機能(layerdivider)でAIイラストをレイヤー分けし手描きイラストに見せかけたに違いないと、さらにAI魔女狩りを継続した。
あらいずみるい先生に粘着を続ける反AI「レイヤー分けもAIで出来ました!」
なお、あらいずみるい氏のレイヤー構成は、1影2影など乗算レイヤーやスクリーンレイヤーで細かく分けられており、この動画のようにAIイラストをlayerdividerでレイヤー分割した場合、影やハイライトが一括でパーツ分けされてしまうので、あらいずみるい氏の動画のようなレイヤー構成にはならない。
またlayerdividerの製作者、抹茶もなか氏は「このツールはAIイラストの修正を容易にするための拡張機能であり、AIイラストを手描きに見せかける機能ではない」とコメントしている。
あらいずみるい氏はこの騒動について「ちょっとひどいと思った人のは記録ちゃんと残してる」と述べており、法的措置も視野に入れている事を匂わせている。
あらいずみるい氏へのAI魔女狩り事件に関連して、「反AI」「AI魔女狩り」という言葉の認知がAI問題を知らない一般人にも一気に進んだ。
- AI朗読劇潰し
株式会社Lol主催の「~AI朗読劇シリーズ~ 『AIラブコメ』」、生成AIに恋愛ドラマの脚本を作らせて、声優が都内の劇場で朗読するというものだった。
声優陣には、人気アニメ「鬼滅の刃」や「BLEACH」などに出演経験がある19人をそろえ、2024年3月13~20日に講演が予定されていたが、反AIからの批判と脅迫により中止を余儀なくされた。
AIイラストを前面に出した広告が反AIの怒りを買い、「盗作脚本だ」「出演した声優の声を学習させても文句を言うなよ」といった批判が殺到した。
またAI朗読劇に参加していた立花慎之介氏が代表をしている事務所が日俳連に所属していたことなどから、反AI達は日俳連の #NOMORE無断生成AI 運動のタグを使い「日俳連が無断生成AI反対をしているのに無断生成AIを使用した劇をするとは何事か」と批判を浴びせた。
株式会社Lolは3月6日にこの朗読劇は文化庁のガイドライン通りの運営をしており問題は無いと経緯説明をしたが、ラノベ作家サカナ霧が株式会社Lol宛てに「開示しない場合は無事に開催されないことを祈っております」*「あなたの家族が拉致され臓器を抜かれ、他の人間と接続された状態で見付かったらどう思うか」と脅迫文を送る*など反AIの誹謗中傷は治まらず、3月9日に演者の安全を確保できず「関係者の皆様に多大なるご迷惑がかかる可能性」があるという理由で中止を発表した。
この騒動による経済的損失は推定1000万円に上ると言われており、日本俳優連合の #NOMORE無断生成AI 運動で潰された、クリエイターの仕事を奪うなと言いながら声優の仕事を奪った事例として議論を呼んだ。
- AI Vtuber、絵藍ミツアへの中傷
外見はvtuberディープブリーザード氏によるもの。
無断学習をせず一般から学習用画像をつのり、クリエイターから許可を得た画像のみで機械学習するモデルを製作し
アーティストに対する倫理的問題の改善を目指すプロジェクトである。
2022年12月頃より機械学習を行っている。
当初、学習枚数が少なかった初期は生成物のクオリティは低かったが
(Vroid画像からの機械学習は2023年の1月頃から行われていた)
3月に一般から学習用vroidを公募し始める、その時期より生成画像のクオリティが一気に上がり、当初は静観もしくは支持していた反AIも絵藍ミツアを叩くようになる。
そのため反AIは、絵藍ミツアが使用していたOpenCLIPと呼ばれる画像とテキストを関連付けるためのモデルが、SDを使用して学習されている事を問題視し
「クリーンな画像生成AIを謳っている癖に、嘘をついていた」として叩いた。
OpenCLIPに画像データは含まれていないため、著作権法上の問題は無かったが
絵藍ミツア側はAIモデルの倫理的問題の改善を目指すという方針のため
8月17日に「OpenCLIP使用のご報告と今後の方針」を公開
Mitsua DiffusionからMitsua Likesに名称を変え、モデル構造そのものを変更
OpenCLIPを使用せずにモデル制作を行うと発表した。
また、絵藍ミツア公式discordのお知らせに「少しでも反AIの空気を緩和させ、ポジティブな画像生成AIについて広められると嬉しいです」と書かれていたことに対し「反AI」という単語を使用した事に対して、反AIが「蔑称を使用している」として激怒。
なお、お知らせが書かれたのは2022年12月であり「反AI」はまだ蔑称ではなかった。
- AI即売会に虚偽通報
2023年6月18日、AI生成物を展示頒布するAI即売会、AIけっとが開催された。
AIけっとで「展示者が偽造紙幣を販売している」として、複数の反AIが嫌がらせ目的で
警察に虚偽通報し、即売会に警察が到着する騒ぎになった。
実際のAIけっとで展示されていたのは、1960年代に赤瀬川原平によって発表された、
千円札裁判の名で有名な『復讐の形態学(殺す前に相手をよく見る)』という作品のオマージュ作品で、
京都精華大学の学生であり現代美術家のらぞ氏による"復讐の形態学 REMIX 2022"という、紙幣をその場でスキャンし、i2iしたものが造幣局のQRコードと共に印刷される。
その場で体験した人に作品の意味を考えてもらう現代美術であり、配布や販売はしていなかった。
ちなみに展示と共に販売されていたのは紙幣をi2iしたステッカーで、現在もboothで購入できる。
通報によって駆け付けた警察も問題ないと判断し、らぞ氏は解放された。
またAIけっとでは、反AIが展示者と参加者を盗撮し(盗撮行為は犯罪の上、無断撮影は禁止されている)SNSに乗せ「AIけっとは人気がまばらで閑散としている」と揶揄していた事も問題となっていた。
- 「クリエイターとAIの未来を考える会」理事、木目百二(鴨下全生)氏の会見と謝罪
2023年4月27日、NHKニュース7で、「クリエイターとAIの未来を考える会」理事の木目百二(鴨下全生)氏による画像生成AIの適正利用・法整備を求める記者会見が行われた。
しかし、同日に木目百二氏がもめん102名義で『ぼっち・ざ・ろっく!』のスカトロ18禁同人誌を制作し、FANBOXにて有料販売していたことが発覚。
『ぼっち・ざ・ろっく!』出版元である芳文社は二次創作をガイドラインで禁止しており、また木目百二氏が著作権者に対価を支払っていないことから
「クリエイターの保護を訴えながら、クリエイターから搾取している」「違法行為を行いながら合法のAIを非難している」と強い批判を浴びた。
木目氏はこうした批判を受けて4月28日にXで「出版元のガイドラインに従わない形で二次創作を行っていた」として謝罪した。
- 非常識な要素が混じる署名活動
2023年6月8日、オンライン署名サイトchange.orgにて「「AI法」を作り画像AI生成からクリエーターを守りましょう!!」署名が開始される。
漫画家の森川ジョージ氏も10ヶ月後の2024年4月8日に拡散し応援する一方、「AI生成物に関してのみ、親告罪ではなく非親告罪とする法律」の項には異を唱え、二次創作巻き添えの懸念、実効性・実現性、かつてTPPや「海賊版ダウンロード違法化(に伴うスクショ違法化の危機)」といった著作権にまつわる法改正騒動を知っている層などからも疑念の声が上がっていた。
この点について署名立ち上げ人を名乗るユーザーは2024年4月8日に「あれが完全な決定ではなく、とりあえずの案として記載しております」「貴重なご意見をありがとうございます 今後の署名ページの編集に反映させていただきたいと思います」と述べた。
署名ページに追記として「原則オプトインが実現すれば結果として非親告罪化も必要なくなる」(ので安心してほしい)と追加され「※こちらはあくまでも要望であって、この案のまま法整備されるというものではありません。」とも書かれるようになったが、そもそも法改正を求める署名に載せた改正案が「とりあえずの意見」という時点で相当な非常識である。
また今回は追記・補足という形ではあったものの、一度集めた署名の要望内容をあとから変えることを示唆した点についてもかなり異常だ。
10ヶ月越しの森川ジョージ氏のリアクションが無ければそのまま補足すらなく放置され続けていた可能性があった点にも注意が必要だ。
また署名の提出先は2024年12月3日時点で「文化庁・デジタル庁・岸田文雄」となっているが、岸田文雄元総理は同年の10月1日時点で総理大臣を辞任しており、署名ページの内容がメンテナンスされていない。
他には「他国でAI規制が進んでいる」といった点を取り上げているが、それらが「他国がAI規制しているぞ!」といった個人もしくはニュースサイトの投稿のスクショであり、元記事へのリンクが示されていない。
例えば「EUのAI規制」は話が進んでいること自体は事実だが、EU案はAIと一口にいっても内容でリスクを分類しており、サブリミナルな技法やソーシャルスコアリング等を許容できないリスクとして禁止に、逆にチャットボットやディープフェイク等は限定リスク・最小リスクに分類して行動規範の奨励に留めるといった内容である。ちゃんと調べればこの署名で求めているような「クリエイターの権利保護・海賊版の規制・無断学習禁止」といった要素とはほとんど関係ないし、槍玉に挙がりやすいディープフェイクですら最小リスク分類であるのだが、そういった検証のための導線を切っている点に注意したい。
関連リンク
署名「画像生成AIからクリエイターを守ろう」が賛同1万件間近に 「AI生成物のみ非親告罪に」などを主張
- ナウル共和国政府観光局アカウントへの中傷、法的措置へ
2024年9月12日、ナウル共和国政府観光局(公式)がXに搭載された生成AIチャットボット「Grok」を使用し「ナウルの様子を画像生成AIに描いてもらった」とする画像をTwitterで公開。その直後、反AIからの批判が相次いだことで投稿を削除した。
また削除したにもかかわらず、反AIの誹謗中傷・謝罪要求はさらに激化し、
9月14日、ナウル共和国政府観光局アカウントは更新休止を発表した。ただし不幸中の幸いな点として、アカウント自体は15日時点からもう写真など連日投稿している。
「複数人の反生成AI派の方からのDMを含むあまりにも多くの強い言葉、謝罪強要等の命令口調への対応に疲れてしまいました。しばらくXをお休みします。」
この発言により、反AIは「反生成AI派の方からのDM」という表現を使用された事に激怒し、反AIは「生成AIを使用していた癖に被害者ぶるな」「ナウルを誹謗中傷したのは反AIではなく、反AIになりすましたAI推進派である」「生成AIの問題を訴える人達は「反AI」と自称することはない、よってDMは虚偽である」との自論を展開し、誹謗中傷を継続した。
9月15日、ナウル共和国政府観光局は「ナウル共和国は未開の部族、蛮族」など誹謗中傷を継続していた反AIを名指しで指名し、弁護士に相談の上、法的措置を取ると発表した。
この事件は、国家に対する誹謗中傷事例としてYahooニュース含め報道された。(Yahooのリンク切れのためリンク先は別のサイト)
本件の最大の特徴は、ナウル共和国政府観光局が使用した画像生成AIがGrokだという事で、Xに正式に実装された画像生成AIを、Xの規約に従って使用したのにもかかわらず、反AIからキャンセル・カルチャー攻撃を受けたという点である。
なお2024年12月にGrokが無課金ユーザーでも限定的に開放され、「私を過去ツイートを元にして描いてみて」というプロンプトで自身のAI自画像を作ってみる遊びが特に今まで生成AIを触ったことのない一般ユーザーも含めて広く流行した。あまりに広く、明らかに『AI絵師』でもない層にも遊ばれたせいか反AIの多くは沈黙か「金儲け、詐称、その他悪用する奴だけが悪い」と歴史修正を試みている。
流行が始まって数日後になる12月12日に「Grok使用(AI使用)を明記して、試験的にナウル風景の画像を作成して投稿したポストが一部の方から叩かれて大炎上したのはどういうことだったのかと考えています。」「様々な御意見を持たれるのは自由だと思いますが、人々を執拗に攻撃されないことを切に望みます。」と投稿した。
「DMで投稿を削除しなさいと言って来た方々に再度、御意見をいただこうと考え、連絡しようと確認したところ何故かブロックされておりました…SNSの運用はなかなか難しいですね。投稿の削除を指示してきたのであればブロック等をせずに最後まで責任を持って堂々としていて欲しいものです。」など、表からは見えない場で何が起こっていたかも一部表明している。
- [[「ナウル共和国」公式X、過去に炎上した画像を巡って“AI規制派“に提言 「Grok人気」を受け>
https://www.itmedia.co.jp/news/articles/2412/12/news195.html]]
- プリントサービス「ローソンプリント」1日たたず販売停止
2024年10月1日午前0時、AIイラスト製作者のおしつじ氏とローソンプリントのコラボ企画が開始。
しかし同日の午後5時50分という異様な短時間にて販売停止となった。
ローソンからの説明では協議の結果としているが、なぜ一度は通った企画が協議しなければいけない状況に陥ったのかについての説明が欠けている点に注意が必要である。おしつじ氏は事前にAI利用の許諾、また他にもAI使用の製作者がいることも確認してある旨を述べており、ローソン側もAI作品であっても問題ないと一度は判断を下している。
またおしつじ氏は多少のことで折れるつもりはなかったが企業の方への攻撃が多かったという旨を述べている。実際、おしつじ氏本人による宣伝ツイートは好意的なリプライ・引用が主であると確認でき、主にローソン側への攻撃が激しかったという推測が成り立つ。
この件についてFANBOXプリントでAI生成画像は禁止されている点と結びつけている者もいるが、不特定多数のユーザーに場・機会・道具を提供するサービスと、特定の人物と企業・担当者が連絡を取り合って進められた企画とを同じように扱うのは無理がある。
10月4日にて、サイバー犯罪対策課に相談して対応を開始したと報告。
背景情報として、おしつじ氏は以前にも別件で契約解除されるキャンセルカルチャーを受けている。(AI絵師として人気のおしつじさんが、フランスの出版社(ChattoChatto)から契約解除された件について反AI活動家からデマを流されたとして訴訟手続を開始) ただしこちらはまとめタイトルにある訴訟手続についてはすでに取り下げている。
ローソンの件はネットニュースにもなっている。
ローソンプリント、AIイラストのブロマイド発売→1日もたたず販売停止に 理由は「制作者と協議の結果」
- 反AIユーザーによるJOJO作者荒木飛呂彦の発言切り抜き
集英社の書籍「荒木飛呂彦の新・漫画術 悪役の作り方」が2024年11月15日に発売された。この中に生成AIに関して触れている項があるのだが、第2章ではAIを利用した詐欺行為も今後出てくることへの懸念を述べている。一方で第3章では、AI含めたデジタル技術の発展への期待も述べている。
とある反AIアカウントがこのうち前者のみを切り抜いて投稿し、反AI思想寄りであるかのよう印象付け、引用欄を見るとそのように思っている人も多数出た。だが後に技術への期待を寄せている部分もあるのだから悪質な切り抜きとする指摘(一例)や、ちょうど「他者の著作物をXに投稿し“無断学習”に加担するのはいいのか(一例)」「著作権法上の引用要件を満たしていない“無断転載”ではないのか(一例)」といった物議を醸した。
コミュニティノートが提案されたのもあってか投稿者は元ツイートを削除し、代わりに外部リンクの形で同様に閲覧できる形に変えて投稿し直している。
引用に関しては、日本の引用要件として述べられている「主従関係」に関しては満たされていないのは明らかな一方、用いられたのがAmazon・Kindleの機能であったことからアメリカ等のフェアユースになぞらえると問題ないとする意見(一例)もある。なお後者の意見を通した場合、しばしAIの問題点として挙げられがちな「機械的な収集の妨害措置しているサービスから外部へ(フェアユース思想のもと)転載してAI学習に用いる」が是になってしまう点が指摘されている。
またJOJOシリーズには岸辺露伴という漫画家キャラクターもおり、元々JOJOシリーズ自体が印象的なセリフ・コマがいわゆる画像リプ・ネットミームに利用されやすいのもあり、AI議論に関心が薄い層にも少なからず波及することになった。11月21日時点、Xの検索欄で「岸辺露伴」といれるとサジェストで「ai」とも表示されるようになっている。この盛り上がりは「もしも漫画家としての岸辺露伴がAIに触れたらどういうリアクションを取る?」「岸辺露伴がAIのスタンドや怪異に巻き込まれたら?」「岸辺露伴のスタンド自体が無断学習そのものだろうw」といった考察や想像によるところも大きい。
「ジョジョ」荒木飛呂彦さんの“生成AIに関する意見”で物議 新刊の一節を巡り議論勃発
その他事案の簡易まとめ
対象(敬称略) | 時期 | 対応 | 備考 |
---|---|---|---|
852話 | 2022年10月 | psd開示 | AI魔女狩りの語源、日本初のAI魔女狩り。関連togetter |
白夜極光(卜尔Q) | 2023年 | 担当者が制作過程の一部公開、明確な否定はせず | 中国でも話題になる。関連記事(英文) |
屋内ONE DAY骨董市『堺楽市』 | 2023年8月 | 無視、後もAIと思われる画像での広報継続 | 「着物警察」案件寄り 元ポスト |
ディズニー感謝祭 | 2023年11月 | 無視 | 関連ポスト |
ふたりはプリキュア Max Heart | 2024年3月 | 手描きと説明、イラストレーター開示せず | 関連ニュース |
ブルーアーカイブ(fevercell) | 2024年3月 | 手描きと説明 | 関連togetter |
ゴールデンボンバー(鬼龍院翔) | 2024年3月 | ジャケ画像差し替え、同時に過去楽曲mp3公開 | 関連ニュース |
海上保安庁 | 2024年4月 | パンフレット配布中止 | 関連TBSニュース |
すがやみつる | 2024年5月 | レスバ応戦 | 関連note この後反AIによる誹謗中傷が日常化 |
NEEDY GIRL OVERDOSE(超てんちゃん) | 2024年6月 | 該当絵の初出は2022年6月。AI使用自体への言及はなし | 関連togetter |
柏まつり2024 | 2024年7月 | 無視 | 関連togetter |
ポケモンカードイラコン | 2024年6月 | 関連note参照 | 関連note |
AI廃墟写真集 Ruin’s Cat(東京キララ社) | 2024年7月 | 協議は決裂、そのまま発売 | エセ商標案件であるものの、反AI界隈も首を突っ込む 出版社のnote |
マクドナルド(架空飴) | 2024年8月 | 無視 | 関連note |
マキシマムザホルモン | 2024年8月 | 無視 | 元ポスト |
松屋(會田与作) | 2024年8月 | 無視 | 元ポスト |
みらいカメラ(日本テレビ) | 2024年8月 | 無視 | 元ツイート |
ホロライブ(兎田ぺこら) | 2024年8月 | AI製フリー素材を背景に使用 | 関連note |
参政党 | 2024年10月 | タイプラプス公開 | 関連togetter |
オーガスト | 2024年10月 | AIでないと説明 | 関連note |
ぷにるはかわいいスライム(すがやみつる) | 2024年10月 | 背景にAI使用、あえて使用と宣言 | 関連note |
ONE PIECE 似顔絵メーカー | 2024年10月 | 無視 | 元ポスト |
さいとうなおき | 2024年10月 | 謝罪 | 関連note |
コウノスケ | 2024年10月 | レスバ応戦、「これは反AIの害」と言い切る | WMは負け犬ムーブ、有償版誘導等すべき発言 元ポスト |
福岡「つながり応援プロジェクト」 | 2024年11月 | AIと認める、記事削除、今後AI不使用宣言 | 地域PR記事なのに架空の施設や祭りが記載されているなど不備 関連ニュース |
囲碁ミク | 2024年11月 | 反AIの言動に疑念 | 手描き絵師が公的機関の資料をみて現状把握を試みたら炎上 元ポスト |
コカ・コーラ | 2024年11月 | 無視 | 英語圏の反AIも多し 関連記事 |
国立科学博物館(貝類展) | 2024年11月 | 監修のもとAI使用と明言 | 元ポスト |
100時間カレーB&R(忍たまコラボ) | 2024年11月 | 謝罪、企画は継続 | 畳など破綻 元ポスト |
ONE OK ROCK(川﨑こつ美) | 2024年11月 | 無視 | 元ポスト |
機材展「カナビフォトフェス」 | 2024年11月 | 謝罪、差し替え | 11月末~12月頭リプ検索結果 |
岡本倫 | 2024年12月 | 無視 | 「写真があっても画家は絶滅してません。」発言 元ポスト |
満足バー(UHA味覚糖) | 2024年12月 | 返信制限→無言で削除 | 関連note |
電車内吊り広告 | 2024年12月 | AI製フリー素材 | 元ポスト |
外部サイト
日本人クリエイターが持ちがちな"自身の生み出す著作物に対する極めて独占的かつクローズドな考え方"は、自分にとって非常に理解し難いものがある、という話
関連タグ
フェミニスト,ヴィーガン…自分の行いが正しいと思い込みその為なら周りへの迷惑も考えない。常に集団で行動し群れ…サークルのようなものがある。主張がデカい。間違った事でもすぐに謝らない(・・・という全部がそういう訳ではないが、"極端に少ない") など、似たり寄ったりな共通点が多い。フェミニストの方が団体を作ったり正当な方法で意見を提出できたりしているだけマシという意見もある。
絵柄パク…法的に問題がなくとも、「他者と絵柄が似る・他者から絵柄を取り込んで似せる」ことはモラルやマナーの違反であるとする思想であり、「無断での学習」や「絵柄を似せる行為」などを問題だとする反AI思想の祖先と言える概念。