概要
ユーザーの指示に応じて文章（テキスト）、イラスト（AIイラスト）、動画、音楽、ソースコード、コンピューターゲーム、3Dモデルなど様々なコンテンツを生成できる人工知能(AI)。ジェネレーティブAI。
膨大なデータのパラメーターを機械学習させた大規模言語モデルのような学習モデルを用い、ユーザーの指示に応じてコンテンツを生成する。ユーザーによる指示はキーワードや文章のようなテキスト（プロンプト）によって与えられるものが多いが、ユーザーがラフイメージなどをあらかじめ用意しておいて、画像や動画などを生成するものもある。
また、プロンプトと音声、画像など複数の形態での指示をまとめて解釈して、文章や画像など多様なコンテンツを生成することができる「マルチモーダルAI」もある。マイクロソフトがWindowsに組み込んだCopilotもマルチモーダルな生成AIである。StableDiffusionの拡張機能であるControlNetでは、プロンプトに加えて3Dのボーン（棒人間）で指定したポーズに合わせてキャラクターの画像を生成することができる。
普及
「生成AI」が一気にメジャーになったのは2022年。この年にmidjourney、NovelAI、StableDiffusionなど、イラストや小説を自動生成するサービスが相次いで登場した。同年にはOpenAIによる文章生成AI「ChatGPT」も公開された（現在のChatGPTは画像の入力・出力機能に対応し、マルチモーダルAIに発展している）。
これらの多くはGoogleが2017年に発表したTransformerというモデルから派生しているが、Googleは生成AIを不特定多数に使わせると悪用のリスクが高いと考え、一般ユーザーが使える形での公開に慎重だった。OpenAIの大規模言語モデルであるGPTシリーズも2019年にはかなりの精度で文章を生成することができることが知られていたが、フルスペック版は2022年に生成AIがブームになるまで公開が控えられていた。
生成AIをめぐる問題
ハルシネーション
「幻覚」を意味し、AIがもっともらしい虚偽を意図せず生成する問題である。特に初期のChatGPTの場合は、実在しない人物の経歴や、実在しない映画のストーリーなど、本来であれば「そういった人は見つかりません」「そのような作品はありません」と返すべき問いでも、適当にでっちあげて答える傾向にあった。Copilotにも同様の問題がある。現在のChatGPTでは「架空の人物や特定の文脈に関する情報が見つかりませんが、もう少し詳しく教えていただけると助かります」などと返すようになり、いくらか改善はされている。
Googleが2023年にBardを初披露した際のデモにも、ジェイムズ・ウェッブ宇宙望遠鏡が初めて太陽系外の惑星の画像を撮影したという誤った情報が含まれていたため、初歩的なミスをそのままにしていた同社の姿勢を疑問視する声が相次いだ。
著作権侵害・人格権侵害
日本の著作権法は、コンテンツを機械学習に用いることについてかなり寛容である。「著作物を情報解析する場合、著作権者の利益を不当に害するケースを除き、原則として著作権者の承諾を取らずとも自由に利用できる」という旨の規定（著作権法第30条の4第2号）があり、他人の作品を無断でAIの学習素材とすること自体は違法ではない。一方で、「享受目的」で「著作権者の利益を不当に害することとなる場合」はこの対象外となっており、裁判所の判例などが積み重なっていない現状では不安要素が残る(文化庁『AIと著作権』)。
また現行の生成AIの多くはアメリカ合衆国産であり（ただし学習素材には日本のコンテンツも多数含まれている）、権利者に無断での学習が米国の著作権法独特の規定である「フェアユース規定」とバッティングするのではないかという指摘も見られる(メイン画像参照）。
ただし、日本の法律上も、生成AIが既存の作品とほとんど同じような表現（類似性がある表現）を生成し、これを公開した場合は明らかな著作権侵害になり得る。このため、LoRAのように特定の作者の作風を学習したモデルを使い、その作者に特徴的な画風を再現した作品を公開した場合は違法と判断される恐れが高い。pixivでもガイドラインで「徒に反復継続して特定の第三者の画風等を模倣した投稿情報を投稿する行為」を禁止している（これは手描きイラストであっても適用される条項であるが）。
また、芸能人などに似せた画像を生成した場合、個人的に楽しむのは問題ないが、公開するのはやめたほうがよい。肖像権の侵害にあたる可能性があるからである（エロ画像などはもってのほか）。
レポート・教育での利用
多くの大学や高等専門学校が、生成AIの無断使用を禁止しているため、生成AIに作成させたレポートや論文をそのまま、あるいは多少の加筆をして提出すると不正行為とみなされる。生成AIを使って作成された文章を判定するツールもあるが、実際のところはそれほど精度が高くはないようで、多くの教員にとっては頭の痛い問題である。レポートを出させた後、口頭試問をさせて内容を理解しているか判断することもある。中には（Wikipediaの丸写しなどを含めて）ネット利用を封じるため、教室で書かせた手書きレポートを提出させる教員もいるらしい。
また、ネット上ではChatGPTを使った読書感想文作成サービスが公開されており、現実に使っている小中学生も多くいると思われる。2023年度の「青少年読書感想文全国コンクール」では本人以外が書いたと思われるレポートが見つかり、そのうち本人が生成AIを使ったと認めたものが10点以上あったという。
小中学校での生成AI活用については、文部科学省もガイドラインを出している（文部科学省「生成AIの利用について」）。これによると、「⽣成AIによる⽣成物をそのまま⾃⼰の成果物として応募・提出すること」、「教科書等の質の担保された教材を⽤いる前に安易に使わせること」、「学習評価を、教師がAIからの出⼒のみをもって⾏うこと」などが不適切な例として挙げられ、「⽣徒同⼠で⼀定の議論やまとめをした上で、⾜りない視点を⾒つけ議論を深める⽬的で活⽤させること」などの活用が考えられるとしている。
pixivと生成AI
pixivには2016年ごろからAI生成イラストが投稿され、pixiv投稿作をデータセットとしてイラストを生成する研究も行われていた。
生成AIが相次いで登場した2022年からは、AI生成作品の投稿が飛躍的に増えている。NovelAIやAIのべりすとによるpixiv小説の投稿も多くある。生成AIはpixivの投稿イラストも学習データとして活用しているとされ、著作権的にはグレーな部分もあり絵師からは反発も根強いものの、上記の通り投稿は許容されている。ただし、上記のように「徒に反復継続して特定の第三者の画風等を模倣した」イラストを投稿する行為は認められていないほか、pixivリクエストとpixivFANBOXへのAI生成作品の投稿は禁止なので注意。
AI生成作品についてのピクシブの方針は次の通りである。
2022年10月20日 AI生成作品の取り扱いに関するサービスの方針について
pixivではこの先、創作過程におけるAI技術の利用がより普及していくと捉えており、AIが関与した成果物の完全な排斥は考えておりません。
AI技術は、これまで開発されてきた画材や素材、画像制作ソフトやデバイス、3Dなどの技術と同様に、クリエイターを大いに助ける技術となり得ると考えております。
最終的には創作コミュニティーと技術が、うまく共存できる道を模索してまいります。|
2022年10月31日 AI生成作品の取り扱いに関する機能をリリースしました
■機能改修
・投稿・編集時にAI生成作品と設定できる機能の提供
・AI生成作品を検索時などにフィルタリングする機能の提供
・従来の作品とは分けた、AI生成作品のみのランキングの提供（モバイル・デスクトップ版は2022年11月1日、アプリ版は2022年11月7日より順次提供予定）
これらの機能はプレミアム会員であるかを問わず、全ての皆さまにご利用いただけます。
ピクシブ百科事典と生成AI
ピクシブ百科事典のガイドラインでは生成AIについては特に言及がないが、生成AIを利用した旨を明言して投稿された記事も散見される。ちなみに本記事の初版もCopilotで作成した記事を転載したものであった。生成AIの利用をわざわざ書いているのは誤りや不適切な内容があった場合の予防線と思われるが、投稿内容に問題があった場合は投稿者の責任になるので、いちいち言及する必要はない。「AIが出力した内容の真偽を判断できない」なら生成AIに頼らず一から記事を書くべきである。中には生成AIに創作させた詩や雑談といった小ネタを掲載している人もいるが、そもそもピクシブ百科事典のガイドラインでは「解説を目的としないもの」の投稿は「百科事典の主旨に反する」として禁止されている。「生成AIに聞いた内容をそのまま載せただけ」というのは何の言い訳にもならない。小ネタはpixiv小説に投稿しよう。
なお、note(webサービス)は2023年からGPTシリーズを利用した記事執筆支援サービス「note AIアシスタント(β)」を搭載し、記事のアイデアや切り口、構成を提案してくれる。将来は、pixiv小説やピクシブ百科事典にも生成AIによる支援機能が搭載され、自力では小説を完結させられなかったり、立て逃げのような内容が不十分な記事しか書けないような人でも、充実した記事や小説を作成できるようになるかもしれない。
