総務省｜令和5年版情報通信白書

第1部　特集　新時代に求められる強靱・健全なデータ流通社会の実現に向けて

第1節　データ流通・活用の新たな潮流

（2）　生成AIを巡る議論

各国において生成AIを巡る動きが活発化する一方で、要機密情報の取扱いや、個人情報保護、回答の正確性などの課題が指摘されている。

また、第2章第3節で述べたとおり、これらのツールを活用して作成した偽画像・偽動画が、意図せず又は意図的に拡散し、他者の利益・権利の侵害や社会的混乱を引き起こしてしまうような負の側面も顕在化しつつある。我が国でも、2022年9月、プロンプト型画像生成AI「Stable Diffusion」を利用した静岡県の台風洪水デマ画像がSNS上に投稿され拡散し、社会的な問題となった。検証を行うと作成にかかった時間は14秒程度との報告もあり24、画像生成AIが気軽に利用できるようになることで誰でもクオリティの高い偽画像を容易に作成・拡散することが可能となっている。

さらに、知的財産権の侵害等、アーティスト、イラストレーター等のコンテンツ生成者への経済的影響を与える可能性も課題として指摘されている。2023年1月には、米・サンフランシスコで複数のアーティストが画像生成AI開発各社（Stability AI Ltd、Midjourney Inc及びDeviantArt Inc）を著作権侵害で訴えた。原告側は、これらの企業は著作権で保護されたアーティストの作品をコピーし、アーティストの画風で画像を生成することにより何百万人ものアーティストの権利を侵害していると主張し、AI企業による侵害を止めるため金銭的損害賠償と裁判所命令を求めた。我が国でも、ラディウス・ファイブ社が、元となるイラストを学習させることで、その特徴をとらえた画像を自動生成できるAI「mimic」をリリースした後、悪用を懸念する声が多く寄せられたことから1日で配信を停止したという事例がある。

AIサービスを提供した事業者側では利用にあたっての規約は定めているものの、その内容が利用者に着実に届くための努力や、これを踏まえた利用者自身の活用モラルの向上が必要な状況となっている。

生成AIの取扱い等については、各国や国際会議の場で検討・議論が始まっている。

2023年3月、イタリアのデータ保護当局25は、データ主体に対して十分な情報提供がなされていないこと、機械学習のために個人データを大量に収集し処理することを正当化する法的根拠に疑義があること、ユーザーの年齢認証のメカニズムが欠如していることを踏まえ、ChatGPTを一時的に使用禁止とした。同年4月、英国の情報コミッショナー事務局26は、法的根拠を明確にする必要があること、データ管理者としての義務を持つこと、リスク評価をすることなど、個人データを処理する生成AIを開発したり、利用したりする際の8つの留意点を公表した。米国では、国家電気通信情報管理庁（NTIA:National Telecommunications and Information Administration）が、AIの監査や評価、認証制度ついての意見募集を開始した27。また、同年5月、バイデン政権は、責任ある人工知能（AI）の研究開発への投資、民間企業が開発した生成AIの評価、連邦政府によるAI利用に関する指針の策定からなるAIに関する責任あるイノベーションの推進策を新たに発表し28、企業がAI製品を展開・公開する前にその安全性を確認する責任がある旨を明確にした。

EUでは、ChatGPTに関するプライバシー保護への懸念を検証するための作業部会を設定することを決定した29。

多国間での連携については、同年4月に群馬県高崎市で開催されたG7デジタル・技術大臣会合において「責任あるAIとAIガバナンスの推進」についても議論が行われ、本会合で採択された「G7デジタル・技術閣僚宣言30」ではAIガバナンスのグローバルな相互運用性を促進等するためのアクションプラン、生成AIについて早急に議論の場を持つこと等が合意された。

さらに、同年5月に広島市で開催されたG7首脳会合でも、首脳レベルでAIガバナンスに関する国際的な議論とAIガバナンスの相互運用性の重要性等の認識が共有され、生成AIについて議論する広島AIプロセスを年内に創設すること等が合意された31。

（2） 生成AIを巡る議論

（2）　生成AIを巡る議論