概要
ユーザーの指示に応じて文章（テキスト）、イラスト（AIイラスト）、動画、音楽、ソースコード、コンピューターゲーム、3Dモデルなど様々なコンテンツを生成できる人工知能(AI)。ジェネレーティブAI。
膨大なデータのパラメーターを機械学習させた大規模言語モデルのような学習モデルを用い、ユーザーの指示に応じてコンテンツを生成する。ユーザーによる指示はキーワードや文章のようなテキスト（プロンプト）によって与えられるものが多いが、ユーザーがラフイメージなどをあらかじめ用意しておいて、画像や動画などを生成するものもある。
また、プロンプトと音声、画像など複数の形態での指示をまとめて解釈して、文章や画像など多様なコンテンツを生成することができる「マルチモーダルAI」もある。マイクロソフトがWindowsに組み込んだCopilotもマルチモーダルな生成AIである。StableDiffusionの拡張機能であるControlNetでは、プロンプトに加えて3Dのボーン（棒人間）で指定したポーズに合わせてキャラクターの画像を生成することができる。
普及
「生成AI」が一気にメジャーになったのは2022年。この年にmidjourney、NovelAI、StableDiffusionなど、イラストや小説を自動生成するサービスが相次いで登場した。同年にはOpenAIによる文章生成AI「ChatGPT」も公開された（現在のChatGPTは画像の入力・出力機能に対応し、マルチモーダルAIに発展している）。
これらの多くはGoogleが2017年に発表したTransformerというモデルから派生しているが、Googleは生成AIを不特定多数に使わせると悪用のリスクが高いと考え、一般ユーザーが使える形での公開に慎重だった。OpenAIの大規模言語モデルであるGPTシリーズも2019年にはかなりの精度で文章を生成することができることが知られていたが、フルスペック版は2022年に生成AIがブームになるまで公開が控えられていた。
生成AIをめぐる問題
ハルシネーション
「幻覚」を意味し、AIがもっともらしい虚偽を意図せず生成する問題である。特に初期のChatGPTの場合は、実在しない人物の経歴や、実在しない映画のストーリーなど、本来であれば「そういった人は見つかりません」「そのような作品はありません」と返すべき問いでも、適当にでっちあげて答える傾向にあった。Copilotにも同様の問題がある。現在のChatGPTでは「架空の人物や特定の文脈に関する情報が見つかりませんが、もう少し詳しく教えていただけると助かります」などと返すようになり、いくらか改善はされている。
Googleが2023年にBardを初披露した際のデモにも、ジェイムズ・ウェッブ宇宙望遠鏡が初めて太陽系外の惑星の画像を撮影したという誤った情報が含まれていたため、初歩的なミスをそのままにしていた同社の姿勢を疑問視する声が相次いだ。
著作権侵害・人格権侵害
日本の著作権法は、コンテンツを機械学習に用いることについてかなり寛容である。「著作物を情報解析する場合、著作権者の利益を不当に害するケースを除き、原則として著作権者の承諾を取らずとも自由に利用できる」という旨の規定（著作権法第30条の4第2号）があり、他人の作品を無断でAIの学習素材とすること自体は違法ではない。一方で、「享受目的」で「著作権者の利益を不当に害することとなる場合」はこの対象外となっており、裁判所の判例などが積み重なっていない現状では不安要素が残る(文化庁『AIと著作権』)。
また現行の生成AIの多くはアメリカ合衆国（米国）産であり（ただし学習素材には日本のコンテンツも多数含まれている）、権利者に無断での学習が米国の著作権法独特の規定である「フェアユース規定」とバッティングするのではないかという指摘も見られる(メイン画像参照）。
ただし、日本の法律上も、生成AIが既存の作品とほとんど同じような表現（類似性がある表現）を生成し、これを公開した場合は明らかな著作権侵害になり得る。このため、LoRAのように特定の作者の作風を学習したモデルを使い、その作者に特徴的な画風を再現した作品を公開した場合は違法と判断される恐れが高い。pixivでもガイドラインで「徒に反復継続して特定の第三者の画風等を模倣した投稿情報を投稿する行為」を禁止している（これは手描きイラストであっても適用される条項であるが）。
また、芸能人などに似せた画像を生成した場合、個人的に楽しむのは問題ないが、公開するのはやめたほうがよい。肖像権の侵害にあたる可能性があるからである（エロ画像などはもってのほか）。
レポート・教育での利用
多くの大学や高等専門学校が、生成AIの無断使用を禁止しているため、生成AIに作成させたレポートや論文をそのまま、あるいは多少の加筆をして提出すると不正行為とみなされる。生成AIを使って作成された文章を判定するツールもあるが、実際のところはそれほど精度が高くはないようで、多くの教員にとっては頭の痛い問題である。レポートを出させた後、口頭試問をして内容を理解しているか判断することもある。中には（Wikipediaの丸写しなどを含めて）ネット利用を封じるため、教室で書かせた手書きレポートを提出させる教員もいるらしい。
また、ネット上ではChatGPTを使った読書感想文作成サービスが公開されており、現実に使っている小中学生も多くいると思われる。2023年度の「青少年読書感想文全国コンクール」では本人以外が書いたと思われるレポートが見つかり、そのうち本人が生成AIを使ったと認めたものが10点以上あったという。
小中学校での生成AI活用については、文部科学省もガイドラインを出している（文部科学省「生成AIの利用について」）。これによると、「⽣成AIによる⽣成物をそのまま⾃⼰の成果物として応募・提出すること」、「教科書等の質の担保された教材を⽤いる前に安易に使わせること」、「学習評価を、教師がAIからの出⼒のみをもって⾏うこと」などが不適切な例として挙げられ、活用方法としては「⽣徒同⼠で⼀定の議論やまとめをした上で、⾜りない視点を⾒つけ議論を深める⽬的で活⽤させること」などを挙げている。
電力消費
AIの学習のため、世界の電力消費が急増するとの見方が強まっている。国際エネルギー機関(IEA)は、2026年に世界のデータセンターの電力需要が日本の電力消費量に匹敵する水準まで増える可能性があると予想し、中華人民共和国ではデータセンターが消費する電力が中国全体の消費電力の6%以上を占めると考えられている。日本では2011年の福島第一原子力発電所の事故以降、（人口減少もあって）電力消費量は年々減少していたのだが、生成AIの普及により2024年以降は電力需要が増加に転じるとも予測されている。
AIの消費する電力は、2030年には2024年の80倍にまで増えると予測されている。このままではAGI（汎用人工知能）やASI（人工超知能）の実現以前に人が使う電力が生成AIに奪われかねないわけで、米国や中国などではAIの普及により温室効果ガスの排出量実質ゼロ（カーボンニュートラル）の実現が困難になるとして再生可能エネルギーの開発と並行して原子力発電所の増設が急がれている。
pixivと生成AI
pixivには2016年ごろからAI生成イラストが投稿され、pixiv投稿作をデータセットとしてイラストを生成する研究も行われていた。
生成AIが相次いで登場した2022年からは、AI生成作品の投稿が飛躍的に増えている。NovelAIやAIのべりすとによるpixiv小説の投稿も多くある。生成AIはpixivの投稿イラストも学習データとして活用しているとされ、著作権的にはグレーな部分もあり絵師からは反発も根強いものの、上記の通り投稿は許容されている。ただし、上記のように「徒に反復継続して特定の第三者の画風等を模倣した」イラストを投稿する行為は認められていないほか、pixivリクエストとpixivFANBOXへのAI生成作品の投稿は禁止なので注意。
AI生成作品についてのピクシブの方針は次の通りである。
2022年10月20日 AI生成作品の取り扱いに関するサービスの方針について
pixivではこの先、創作過程におけるAI技術の利用がより普及していくと捉えており、AIが関与した成果物の完全な排斥は考えておりません。
AI技術は、これまで開発されてきた画材や素材、画像制作ソフトやデバイス、3Dなどの技術と同様に、クリエイターを大いに助ける技術となり得ると考えております。
最終的には創作コミュニティーと技術が、うまく共存できる道を模索してまいります。|
2022年10月31日 AI生成作品の取り扱いに関する機能をリリースしました
■機能改修
・投稿・編集時にAI生成作品と設定できる機能の提供
・AI生成作品を検索時などにフィルタリングする機能の提供
・従来の作品とは分けた、AI生成作品のみのランキングの提供（モバイル・デスクトップ版は2022年11月1日、アプリ版は2022年11月7日より順次提供予定）
これらの機能はプレミアム会員であるかを問わず、全ての皆さまにご利用いただけます。
ピクシブ百科事典と生成AI
ピクシブ百科事典のガイドラインでは生成AIについては特に言及がないが、生成AIを利用した旨を明言して投稿された記事も散見される。生成AIの利用をわざわざ書いているのは誤りや不適切な内容があった場合の予防線と思われるが、投稿内容に問題があった場合は投稿者の責任になる。ピクシブ百科事典では「虚偽の内容」の投稿は規約違反である。「AIが出力した内容の真偽を判断できない」なら生成AIに頼らず自力で記事を書くべきである。
ちなみに本記事の初版もCopilotで作成した記事を転載したものであった。AIがアウトプットした内容をコピペするだけなら、自分の考えをまとめる必要もなければ様々な資料に当たる必要もなく、投稿者が理解していない内容でも記事ができてしまう。そんな記事でも規約に反しているわけではない（ハルシネーションによる嘘が混じっていれば別だが）し、内容がない立て逃げ記事よりは中身があるだけマシかもしれないが、記事執筆者としては面白いのか疑問である。
なお、生成AIに創作させた詩や雑談といった小ネタを掲載している人もいるが、そもそもピクシブ百科事典のガイドラインでは「解説を目的としないもの」の投稿は「百科事典の主旨に反する」として禁止されている。「生成AIに聞いた内容をそのまま載せただけ」というのは何の言い訳にもならない。小ネタはpixiv小説に投稿しよう。
