（3）　AIのセキュリティ対策の推進

生成AIをはじめとするAI技術は急速に発展しており、あらゆる領域で社会実装が急速に進んでいる。このような中、AI自体へのサイバー攻撃によって、例えば、AIから不正な出力が行われたり、AIを組み込んだシステムが停止したりすれば、社会経済活動に多大な影響を生じさせかねない。

こうしたことを背景に、総務省では、2025年9月から、セキュリティ分野の有識者で構成される「サイバーセキュリティタスクフォース」の下に「AIセキュリティ分科会」を設置し、AI開発者及びAI提供者におけるAIへの脅威に対する技術的対策の検討を行った。2026年3月には、当該分科会の取りまとめ（2025年12月公表）を踏まえ、「AIのセキュリティ確保のための技術的対策に係るガイドライン」17を策定・公表した。

また、総務省では、NICTの「AIセキュリティ研究センター（CREATE）」を通じて、北米の5組織との共同研究を実施しており、サイバー攻撃に対するAI自身のセキュリティ検証の研究開発を推進していくことで、生成AIの安心安全な利用を促進していく。

17　AIのセキュリティ確保のための技術的対策に係るガイドライン本編（https://www.soumu.go.jp/main_content/001064122.pdf）
AIのセキュリティ確保のための技術的対策に係るガイドライン別添（付属資料）（https://www.soumu.go.jp/main_content/001064123.pdf）

第5節　サイバーセキュリティ政策の動向（PDFファイル（7.67MB））