概要
「AIイラスト」とは人工知能（AI）が作ったイラストの総称で、イラストが生成される仕組みとして、インターネットに存在する膨大なイラストのビッグデータを学習することで法則性を編み出し画像を生成している。
学習の仕組み自体は、AIの自動運転技術などの習得方法と同じで、イラストを作成する際に自分の好みに合う単語を入力する必要があるが、これらは総じて「プロンプト」や「呪文」などと呼ばれている。逆に好ましくない要素を排除する「ネガティブプロンプト」もある。
自分が生成したい文字列を入力すれば誰でも綺麗なイラストを生成することができ、入力する単語次第で画風を変えることもできる。
そのため、想像力があるが絵心がイマイチな人や、普段仕事や勉強などで忙しい人にとっては渡りに船といえる。
一方、AIは数十秒～数分でイラストを作成できるため、絵師、アニメーターの仕事を奪ってしまうのではないかと懸念されている。
また、ある作者がお絵かき配信をしていた時のラフ画像を無断で撮影したものをAIに読み込ませ、オリジナルの作者よりも先に完成・投稿して自作発言するという悪意ある第三者が現れたことがあり、物議を醸したことで、AIイラストに否定的な姿勢を示す者が現れることになった。
また、NovelAIを提供する米Anlatan社から不正にハッキングされ流出した『リークモデル』が流通する事態に陥ったことがあったことが問題視されたが、NovelAIがV3にバージョンアップしたりSDXLを始めとする最新バージョンに移行するなどして過去のものになったことに加え、DALLE3やMidjourney、Adobe Fireflyなど選択肢も増えている。
歴史
2021年1月頃
架空のアニメ画像を生成できる「This Anime Does Not Exist(このアニメは存在しません)」が登場した。
しかし、構図や画風は指定できず、後述のサービスと比べて顔や体が崩れたコラージュのような絵も多かった。
2022年8月頃
StableDiffusionやMidjourneyなどが描く風景画やサイバーパンク風のイラストが注目を集めた。
この時期とほぼ前後する形でAIによるアイコン作成サイトも話題になる。
さらに描き手の個性や画風などを学習しイラストを生成する日本版AIサービス「mimic」のベータ版が公開されたが、盗作などの不正利用を懸念する声を受けてサービスの提供を一時停止した。
2022年10月3日
画像生成機能を開始したNovelAIは、アニメ風の二次元画像を人間が描いたイラストと見分けがつかないほど高いクオリティで生成できるようになったため、Twitterなどを中心として大きく話題となり、同時に上記のような論争を生むこととなった。
NovelAIをきっかけとして、pixivで新たにイラスト投稿を始めたり、逆に筆を折ってしまった人も多い。人々は写真機が発明された頃の衝撃を追体験することになった。
また、NovelAIの学習元が商用・非商用問わず無断で画像を集める「danbooru」というサイトであると判明し、これも大きく物議を醸すことになった。
2022年11月4日
サービスを一時停止していた「mimic」が復活する。
不正利用対策としてイラストを描く人かどうか手動で審査し、生成したイラストはmimicのサイト上で公開され、イラストに透かしが入るなどの対策が施された。
2022年11月中旬
StableDiffusionの特化モデルである「Anything v3.0」が登場した。
NovelAIと比べて構図が崩れにくく、描写が綺麗だと言われている。
2022年11月下旬
画像加工アプリである「Meitu」が「AI Art」というAIイラスト生成機能を開始した。
また、Tiktokはエフェクトの一つとして「AIマンガ」という画像生成機能をサポートしている。
2023年1月31日
Netflixが実験的な取り組みとして画像生成技術を全面的に利用したアニメ作品「犬と少年」を公開した。
このアニメは実験的な取り組みであり、アニメ業界の人手不足の解消を手助けするものになると説明されているが、一部の海外ユーザーからは「人間の仕事を奪う事態になる」などの批判が寄せられた。
2023年2月10日
web漫画サイト「くらげバンチ」にて「サイバーパンク桃太郎」が連載を開始。
あわせて「Midjourney」に関する特集も同時掲載。
2023年4月13日
AIアート(Midjourney)としてだが、星雲賞の自由部門にノミネート。同部門には同じくAIが関係するChatGPTもノミネートされている。
最終的に自由部門は「受賞なし」という結果となった。
AIイラストは合法なのか
日本においては、2018年に著作権法が改正され、AIのディープラーニングを含む機械学習のために著作権者の許諾なく収集し利用することが合法となった。
そのため、AIイラストの生成そのものは法的に問題はないが、「著作権者の利益を不当に害する場合」においてはその限りではないとされている。
著作権者になりすましてイラストや漫画を販売したり、AIを使ってネタバレを行った場合などは逮捕される可能性がある。
無論、これらの行為はAIを使用していない場合でも犯罪になる。
また、法的に問題はないとされているのはあくまでAIの「学習（インプット）」までであり、成果（アウトプット）物は人間が手描きで描いたイラスト同様に依拠性・類似性が認められるかで著作権侵害を判断する。
また、有料の写真・イラストサービスサイトのロゴが浮かび上がったり、意図せずして元イラストそっくりに出力される例もあり、著作物が関わるデータが使われている可能性があり、安全面が確保されないため、商用利用を禁じる企業も多い。
PixivにおけるAIイラスト
Pixivには数多くのAIイラストが公開されている。
他サイトではAIイラストの投稿を禁止（ないし規制）する動きが進んでいる中、AIイラストが登場した2022年当初、Pixiv運営はAIイラストの「完全な排斥は考えていない」とし、AIイラストの制限や禁止などをせず、棲み分けをする方針であることを明らかにしていたが、次第に、pixivFANBOXでのAIイラスト投稿の一切禁止やpixivリクエストでのAIイラストのリクエスト募集禁止など方針を転向するようになった(pixivFANBOXは無料の全体公開や全年齢＝一般向けのみでも禁止となる)。
具体的には、投稿時に「AI作品」であると設定できる機能や、検索時のフィルタリング機能、AI作品限定のランキング機能などが導入された。2022年10月31日に設定より作品投稿時とプロフィールからのフィルタリングで調整ができるようになっている。
現状では利用者の自己申告で「AIイラスト」のつけるなどで委ねる他なく、AIイラストであることを隠す利用者や、AIイラストではないイラストに「AIイラストのタグ」をつける嫌がらせを止める手立てはない。
フィルタリングができると言っても、PixivではAIイラストを検索結果から除外しようとしても根本的に完全なフィルタリングはできないようにされており、あくまで「減らす」ことしかできない（「減らす」にしても、客観的な基準を示していないため、完全に弾くことはできない）。
カテゴリではなくタグとして「AI」と付けられていればそれをマイナス検索で弾くことは可能だが、タグゆえに消されたりすることもあるし、AI生成のカテゴリを付けてなおタグにも付ける投稿者は少ないため、これはこれで不完全でもある。
また、ごく一部の悪質な投稿者は「AI生成」のカテゴリを付けず、ユーザーのタグ編集を禁止orタグを全て埋めて追加できないようにし、コメント機能も最初からオフにすることで、AIイラストであることを隠し、その指摘をさせないようにしている投稿者もいる（タグを追加できないようにしたり、コメント機能をオフにするのは任意であるため、それ自体は問題ない）。
これに関しては、日本と海外で文化の違いもあるということも留意しないといけない部分も生じている。
また、AI生成イラストを投稿するユーザーのうち少なくない割合で最初はAI生成タグを付けていたが途中で上記のようにタグを付けなくなりタグ編集もコメントも禁止するようになるというケースが見られる。
これは荒らしにあっていたという訳でもない投稿者でも見られるもので、AI生成作品にマイナス検索をする閲覧者が多い事から、AI生成イラストである事を公開していると閲覧数が伸びないため、AI生成である事を隠すようになるのだと見られる。
2023年5月9日に「AI生成に関わる問題と、対応についてご報告」としてお知らせを出している。
AIイラストであることの大まかな見分け方
これに該当するからといって、必ずしもAIと断定する事はできないので注意。
あくまで目安としてほしい。
- 2022年10月3日以降から投稿し始めている、またはその日を境に一気に絵柄が変わっている。
- 特に独特の絵柄だったり、柔らかいタッチの絵を描く人が急激に変化している場合が多い。
- 差分（レイヤー）が一切ない。服装差分などは元より、僅かな表情差分すら一つもない。代わりに、微妙に構図が異なる「似ているだけの全く別の絵」は大量にある。
- 元から絵を学んでいるユーザーであれば「修正」することで差分を生み出せるがそうでないユーザーは「似た」構図・衣装で誤魔化すか「単品」でゴリ押すかのどちらかを選ぶことになる。
- 同じキャラクターを続けて描いているはずなのに、毎回特徴が異なる。そのキャラクターの固有の特徴が消えている。
- 例えば前髪に特徴的なメッシュが入っているキャラクターの場合、そのメッシュがあったり無かったり、メッシュの色が毎回違ったりする。
- ケモミミキャラの場合、耳が1つしかないことがよくある。
- そもそも瞳の色が毎回違う、何の脈絡もなくオリジナルのアクセサリがついたり消えたりする。
- ほとんどが裸体か、簡素な下着、一般的なカジュアルな服装しかない。キャラクターを象徴するような特徴的な服装をしていることが少ない。
- 服装のディテール、装飾品の細かい部分が毎回違ったりする。
- 手の指などの人体の細かい部分のパーツや、背景の小物などが単純に下手とかではなく、異常な形をしている。
- 指が4本ないし6本あったり、3本が途中で融合している、耳が潰れているor尖っているなど。
- 腕が3本生えている。
- 服のボタンと引っかける穴の数が一致しない、装飾品が身体と一体化しているなど。
- ラーメンを箸を5本くらい持って食べたり、素手で食べたりする。
- 背景画の場合、ロッカーの取っ手がそれぞれ違う場所についている、テーブルなら隣り合っているテーブルの大きさが違う。バス・電車の場合は座席はあっても吊り革と手すり、荷物棚が無い不便極まりない構造に。
- パースがおかしかったり、水平線や家具などの造形物が段違いになっている。特に人物が遮ることで発生しやすい。
- 水深1mもないはずの海岸の波打ち際に巨大客船が停泊している。
- 網戸やキーボード、歯車の歯など、小さいものが沢山並んだ構造のものが正しく描けていない。
- 衣服や看板などに書かれている文字が支離滅裂になっている。
- 光の当たり方がおかしい
- 光量の加減が同じなのかあるいは肌質がフィギュアっぽいのかテカテカしているように見える。
- 指の数のおかしさやパーツのある無し以外で分かりやすい部分。
- コミッションサイトでのアドプト販売においては背景付きのイラストが時間と手間を考えると釣り合わないほど安い値段で販売されている。
- 有料販売サイトはBOOTHやpatreonに限られ、PixivFANBOXやFantiaを利用しない。
- 当然ながら後者はAI生成イラストの取り扱いを禁止しているため。
- それでもAIイラストであることを隠して、または公表していても堂々と規約違反してこれらを利用する者も稀にいるが…。
- 「絵柄が安定しない」という言い回し
- これ自体は描き慣れていない・自分の絵柄が無い手描きのイラストレーターにもみられる言い回しだが、生成AI利用者が出力するイラストの傾向が定まっていない場合は本当の意味で「絵柄が安定しない」ことになる。
※絵柄で判断する人もいるが、絵柄での判断はあまり当てにならない。
「その人の独特の絵柄」があることで「AIではない」と判断することは可能だが、「独特の絵柄の特徴がなく、AIの絵柄に似ている」からといって、それだけで「AI生成イラストである」と断定することは難しい。
何故ならAIの絵柄は多量のデータを元に作られた「平均値」であるため(2010年代末〜2020年代にかけて大きく発展し話題になっているタイプのAIは、いわば「極めて高度な統計処理」の側面が有る為)、「AIに似せられたオリジナル」が大勢いるということだからだ。
逆に言えば、「流行りの絵柄に合わせよう」と努力してきた人の絵ほど、AIイラストが一般的になった時代においては「素人目にはAIが生成したように見える絵」と誤認される危険性が大きくなっているとも言える。
今後のAIイラストの発達やAIイラストに対する規制の有無や規制内容によっては、商業レベルでは「流行りの絵柄のイラストなら人間の絵師に描かせるよりAIに描かせた方がコストパフォーマンスが良い」という新しい技術により「ゲームのルール」が大きく変わるような事態も起きかねない。
「それでも絵柄や特徴で見分けられるようになりたい！」と考えるのであれば「Human or AI」というwebサービスで審美眼を養ってみるのも良い。
これはお題として出された絵が「人間が描いたもの」か「AIが出力したもの」かを当てるゲームだ。
現状の問題点・注意点
- 既存のイラストを学習素材にすることの著作権上の問題。
- 現状ではAIの学習素材にすることそのものは著作権を侵害するとの判断はされていない、が…。
- イラスト生成AIサービスが公開され有名になった当初、イラストの無断転載サイトを学習素材として使っていたことが判明し、大きな批判を浴びた。
- 現在でも学習素材としてネット上にあるイラストを無差別に収集されており、中には無断転載と同様にAI学習への無断利用を禁止すると明記している人も多いが、それらは無視されて無断利用されている可能性の方が高い。
- 特に日本の版権は権利関係が曖昧な傾向にあるため、未然のトラブルを防ぐためにはこの点に注意すべきである。
- 非常識な量の大量連投。
- イラスト生成AIが一般公開された直後はイラスト投稿サービスサイトのサーバーに多大な負荷を与えるレベルでの大量の投稿が繰り返された（大量の投稿もまた、多くのイラスト投稿サービスがAIイラストの排斥を選んだ理由の一つになっている）。
- 2024年現在はある程度落ち着いてはいるが、それでも今まで自力でイラストを描くことができなかった人物がAIによるイラスト生成を覚えた直後は一気に大量投稿をする傾向が続いている。
- 当たり前だが、手描きのイラストは1枚描き上げるだけでも相応の時間がかかるため、よほど描き溜めしていない限り投稿スピードには限度があるし、描き溜めしている人がいても全体からすれば一部に過ぎない。しかし、AI生成にはそれがないため、描き溜めをしていなくても一気に何十枚も用意することが可能で、AIでイラスト生成を行う人物全てがそうであるため、連投をする人間の総数にも圧倒的な違いがある。
- 特定の人物の絵柄の盗用。
- AIは特定の絵師のイラストを集中的に学習させることでその絵柄に近づけることが可能であり、第三者が有名絵師を偽ってイラストを生成・投稿することが可能。一般公開されているAIサービスはこのような特定の絵師の絵柄の集中学習は行われておらず、これをするには自前でサーバーを立ててAIプログラムを用意する必要があるが、少なくとも現在メジャーなAIサービスの一つである「novelAI」はソースコードが流出したことがあるため、機材とある程度の知識があれば誰でもできることだ。
- AIを独自運用しなくとも、先述のように「線画を盗用して読み込ませて途中から生成させる」事でほぼ同じ絵柄のイラストを作成できてしまう。
- これをすることにより、自身をオリジナルと偽って本来のオリジナルの側に盗作の疑いをかけることもできてしまう。
- 2023年5月6日以降、一部のイラストレーターが次々と投稿イラストを非公開ないし削除することが相次いでおり、中にはpixivから撤退を表明した投稿者も存在する。これは各イラストレーター達が自身のイラストをAIで盗用させることを危惧した行動であり、pixiv運営に明確な対策を打ち出すよう抗議の意味合いもあるとされる。
- 検索妨害行為。
- 無関係のジャンルのタグを複数手当たり次第につけるような検索妨害行為を行う投稿者の存在。これ自体はAI生成イラストに全く関係ないのだが、これを行う人物いた場合、上記の理由で自力でイラストを描いている人物に比べ一度に大量に投稿されることが多く、検索結果の汚染が目に見えて酷い傾向がある。
- 意図的な妨害行為でなくても、作品を大して理解せず流行りに飛びついただけのユーザーも(真っ当に手描きをしているユーザーに比べて)多いため、他作品と勘違いしたまま関係ないタグを付けて投稿される事が少なくない。
- この手の投稿者はタグ編集のロック、コメント機能のオフ、AI生成イラストカテゴリの不使用など、検索避けや指摘をさせない工作を同時にしている場合がほとんどで、より迷惑度合いが高い。
- 規約・法律では禁止されているジャンルの作品の販売
- 規約または法律などで禁止されているジャンルは当然ながら販売サイトなどでは無人であり、自身の手で技術を持って描いている作品であれば手間がかかっているため、「禁を破って締め出される・コンテンツが潰れる」ことがリスクとなり躊躇するものだが、AI生成イラストを販売する者にはこの手の遠慮が全くない人間が少なくなく、堂々と禁止されている作品を販売して荒稼ぎしている者がいる。
- 例1：ウマ娘プリティーダービーのアダルト作品 → AIウマシコ問題、胸のボリューム気を付けてください、この娘とかを参照。AIが勝手に描いたという言い訳はしない。
- 例2：実写ロリポルノ(風)作品。小学生など、明らかな未成年の女性の性的な実写写真は当然ながら違法となるが、指示の出し方によっては限りなく実写写真に近い画像を生成できるAIをもって明らかな未成年の女性の画像を生成して販売している。なお、 令和2年1月27日の最高裁の「 児童買春，児童ポルノに係る行為等の処罰及び児童の保護等に関する法律違反被告事件」において、いわゆる児童ポルノは「実在する児童の姿態を視覚により認識することができる方法により描写したものをいい，実在しない児童の姿態を描写したものは含まない」としているため、プロンプトから作成した実写ロリポルノ風作品は日本における児童ポルノには該当しないとされる。ただし、実在する児童のポルノ写真や写真集などから、i2iで作成した実写ロリポルノ(風)作品は日本における児童ポルノに該当すると考えられる。なお、大抵の販売サイトのサーバーは海外にあり、海外のサーバー会社や司法機関等は日本の最高裁の判例を調べるといったことはほぼないので、日本における児童ポルノに該当せずとも販売サイト側に警告を発し、販売サイトが該当画像やアカウントを非公開・凍結することが多くみられる。もっともアニメ・マンガ風ロリポルノ作品であろうとも一般的に海外では児童ポルノ扱いされることが度々あるので、同様の規制はAIイラストに限られているわけではない。
- コミケへのダミーサークル申し込み
- コミケ(コミックマーケット)は一般入場で入ろうとするととてつもない長蛇の列に並ぶ必要があるが、サークル参加していれば並ぶ事無く、一般入場者よりも先に入場できる。そのため、並ばずに入場するためだけに、自身の同人誌を頒布する気が最初からないのにサークルとして申し込むという者が相当数いる疑惑が上がっている。サークル参加は基本的に会場のキャパシティよりも遥かに多い数が申し込まれるため抽選となるが、ダミーサークルで申し込んでそれが当選するという事は、真っ当に活動しようとして申し込んだ他のサークルが落選するという事であり、常に問題視されているものである。
- これ自体は昔から存在した（C45(1993年)のデータだと、『持ち込み部数が0で販売実態が無いのに準備会への理由届け出が無かったサークル』が全体の7.5％存在した）。そのため、回を重ねるごとにあからさまなダミーサークルは抽選前に弾かれるようになっているが、その対策の対策としてAIイラスト生成によって活動実績のようなものをでっちあげる事が簡単になってしまったというもの。
- フェイクニュースの作成
- 上述した実写風ロリポルノのように、AI生成はぱっと見では見分けがつかないほど限りなく実写画像に近いイラストを生成する事もできる。これを利用して、実際には存在しない事件の画像などを作成し、嘘のニュースを作成してデマを流す事が可能。AIイラスト生成技術が広まるまではデマを流すにせよ画像等が一切無いか、あっても過去の事件の使いまわしでバレるケースが殆どだったが、AIイラスト生成の悪用により信憑性が高く見えてしまうフェイクニュースを作成可能になってしまう。
- 例1：嘘の災害報告の拡散：2022年9月26日、静岡県で台風により深刻な浸水被害が起きたとする画像のツイートが投稿された問題。静岡県では台風による浸水被害は起きてはいたが、明らかに実態とは異なる被害状況のデマを拡散した事になり、問題視された。
- 例2：岸田首相卑猥発言の嘘動画：2023年11月2日、岸田首相が卑猥な発言をしている様子のニュース映像を装った動画が投稿された問題。岸田首相の画像を元に口の部分を動かした加工画像などを利用し疑似的な映像を作成、さらにAI音声を利用して岸田首相に似せた音声を併用し、あたかもニュース番組のインタビューで卑猥な発言をしている様子の動画を作成したもの。単純な名誉毀損の可能性に加え、同動画では日本テレビのロゴを無断使用もしており、大きな問題になった。
- 扱う本人の画力が上がるわけではない。
- 当然と言えば当然だが、イラストを作るのはあくまで機械システムでしかないので、どんなに綺麗で違和感の無いイラストを作らせても生身の人間の画力は上がらない。
- 単に画力が上がらないだけならまだ参考程度に留まるのだが、イラストの美麗さを自分の実力と錯覚し、図に乗っていると、通常の絵描きでは起こり得ない弊害が発生する。
- 一例としては、リアル方面で色紙にイラストを求められたりした時に曲がりなりにも『イラスト』を生業としているのに「描けない」なんてお話にならないし、描こうとしても生成したイラストとのクオリティの剥離により『信用』を得られなくなる…という形で回り巡って自分の首を絞めるリスクも有りうる。
- 他にも本格的に絵描きとして活動したくても、AIイラストで自らクオリティのハードルを上げすぎ『目だけが肥えすぎた』結果、実際の自分の画力とのギャップに打ちのめされ、見る側も急落したクオリティを怪しむ…等々。『練習』を省いた楽さを覚えてしまうと中々戻れないのだ。
余談
- ユーザーがプロンプトを入力して生成するAIイラストではないが、近年では撮影した写真データの補正にAIを使用しているデジタルカメラが存在する。遠方の景色の詳細部分など、ぼやけて潰れてしまっている部分を鮮明化するなどの目的だが、写真の真実性が失われるという深刻な問題が提起されている。
- 手振れ補正や明るさの自動調整程度の補正なら以前から存在したが、近年のAI補正つきデジカメは「不鮮明な部分をAIによって書き足すことで補足する」機能が増えており、これにより本来存在しないものが混入するケースが見られる。看板やポスターの文字が地球上に存在しない文字になっているケースが多い。
- 写真にこのような「書き足し」が入るようになると、写真がありのままを写しているものであるとは保証されなくなってしまう。事件などの証拠として撮影された写真も、不鮮明だった細部だけでなく主たる被写体にも何らかの加工が行われて真実ではなくなっている画像であるという疑いが発生してしまい、証拠としての信用能力を失ってしまうのだ。
関連タグ
AI NovelAI NovelAIDiffusion midjourney
StableDiffusion 創作 AI絵師 AI生成 AI(加筆)
