（3）　サイバーセキュリティにおける生成AI等に関する取組

近年、あらゆる分野において生成AIの実装が急速に進んでいる一方で、生成AIを巡るリスクとして、偽・誤情報の拡散、プライバシーの侵害、知的財産権の侵害等に加えて、サイバー攻撃への悪用等によるサイバーセキュリティのリスクが新たに指摘されている。他方、サイバー攻撃の大規模化・複雑化・巧妙化に伴い、サイバーセキュリティ対策の業務負荷が課題となっている中、サイバー攻撃対策への生成AI等の利活用が期待されている。

こうした背景を踏まえ、生成AI等のAI技術を巡る最新動向を把握しつつ、AIに起因するセキュリティリスクを可能な限り回避・低減するための「Security for AI」に取り組むとともに、AIをセキュリティ対策に効果的に活用するための「AI for Security」に取り組むことが必要である。

「Security for AI」の取組については、AIの安全かつ効果的な開発・提供に向けたセキュリティガイドラインの策定等のほか、NICTと米国等の様々な専門機関との連携によるAI安全性の研究開発を実施することで、生成AIの安心安全な利用を促進していく。

「AI for Security」の取組については、サイバー脅威情報の収集・分析や生成AI等を活用した攻撃インフラの検知の精緻化・迅速化を行うことで、生成AIのサイバーセキュリティ対策への積極的な活用を促進していく。

第5節　サイバーセキュリティ政策の動向（PDFファイル（2.31MB））