SNS等のインターネット上の偽・誤情報等は短時間で広範に流通・拡散し、国民生活や社会経済活動に重大な影響を及ぼし得る深刻な課題となっている。このため、総務省では、国際的な動向も踏まえつつ、表現の自由に十分配慮しながら、制度的対応、対策技術の開発支援、幅広い世代のリテラシーの向上も含めた総合的な対策を積極的に進めている。
インターネット上の違法・有害情報の流通は引き続き深刻な状況であり、総務省では、関係者と連携しつつ、誹謗中傷、海賊版などの様々な違法・有害情報に対する対策を継続的に実施してきている。
総務省では、特にソーシャル・ネットワーキング・サービス(SNS)をはじめとするプラットフォームサービス上における誹謗中傷に関する問題が深刻化していることを踏まえ、2020年9月に取りまとめ、公表した「インターネット上の誹謗中傷への対応に関する政策パッケージ」に基づき、関係団体などと連携しつつ、①ユーザーに対する情報モラル及びICTリテラシー向上のための啓発活動、②プラットフォーム事業者の自主的な取組の支援及び透明性・アカウンタビリティの向上、③発信者情報開示に関する取組、④相談対応の充実といった取組を実施している。
また、「プラットフォームサービスに関する研究会」5において、プラットフォーム事業者へのヒアリング等を行い、2022年8月、違法・有害情報への対応について今後の方向性などを取りまとめた「第二次とりまとめ」を公表した。
これを踏まえ、①プラットフォーム事業者による削除等の透明性・アカウンタビリティ確保のあり方、②違法・有害情報の流通を実効的に抑止する観点からのプラットフォーム事業者が果たすべき役割のあり方をはじめとした誹謗中傷等の違法・有害情報への対策を主な論点とした上で、専門的・集中的に検討するための有識者会合として、2022年12月から「誹謗中傷等の違法・有害情報への対策に関するワーキンググループ」を開催した。本ワーキンググループでの議論の結果、誹謗中傷等の違法・有害情報の削除等について、法制上の手当てを含め、①一定期間内の応答義務等を課すことによる対応の迅速化、②基準の策定や運用状況の公表等による透明化を、不特定者間の交流を目的とするサービスのうち、一定規模以上の事業者に求めることが適当と取りまとめられた。
本ワーキンググループの取りまとめを受け、2024年2月、「プラットフォームサービスに関する研究会 第三次とりまとめ」が公表されるとともに、本報告書を踏まえ、2024年5月、プロバイダ責任制限法の一部改正法6が成立した。なお、同改正法により、プロバイダ責任制限法の題名は「特定電気通信による情報の流通によって発生する権利侵害等への対処に関する法律」(通称:情報流通プラットフォーム対処法)に改められた。
同改正法の施行に当たり、総務省では、どのような情報を流通させることが権利侵害や法令違反に該当するのかを明確化するとともに、大規模特定電気通信役務提供者が「送信防止措置の実施に関する基準」を策定する際に盛り込むべき違法情報を例示するため、「違法情報ガイドライン」7を策定した。
加えて、インターネット上の海賊版対策として、総務省では、「インターネット上の海賊版対策に係る総務省の政策メニュー」(2020年12月)に基づき、ユーザーに対する情報モラル及びICTリテラシーの向上のための啓発活動、セキュリティ対策ソフトによるアクセス抑止機能の導入の促進、発信者情報開示制度の見直し、ICANNなどの国際的な場における議論を通じた国際連携の推進に取り組んでいる。
また、「インターネット上の海賊版サイトへのアクセス抑止に関する検討会」による「現状とりまとめ」(2022年9月)を踏まえ、総務省の政策メニューや関係事業者等における取組の進捗を確認している。
SNS等を通じて対面することなく交信を重ねるなどして関係を深めて信用させ、投資金名目やその利益の出金手数料名目などで金銭等をだまし取る「SNS型投資詐欺」の認知件数及び被害額は、2023年1月から2024年12月の2年間で、認知件数として8,684件、被害額にして約1,149.0億円という甚大な被害をもたらしている8。
SNS型投資詐欺における当初の接触手段としては、SNS等におけるバナー等広告が全体の約半数を占めている。特に、SNS等において、個人又は法人の氏名・名称、写真等を無断で利用して著名人等の個人又は有名企業等の法人になりすまし、投資セミナーや投資ビジネスへの勧誘等を図る広告(なりすまし型「偽広告」)を端緒としたSNS型投資詐欺が問題になった。
こうした状況を受け、総務省では、「国民を詐欺から守るための総合対策(令和6年6月18日犯罪対策閣僚会議決定)」を踏まえ、同月21日に、SNS等を提供する大規模事業者に対して、SNS等におけるなりすまし型「偽広告」への対応に関する実施を要請した9。
要請の発出後、2024年10月に「デジタル空間における情報流通の諸課題への対処に関する検討会」(以下「諸課題検討会」という。)の下で開催される「デジタル広告ワーキンググループ」において、要請を実施したプラットフォーム事業者5社(ByteDance、Google、LINEヤフー、Meta、X)に対してなりすまし型「偽広告」への対応に関するヒアリングを実施し、同年11月にその評価を「ヒアリング総括」として公表した10。「ヒアリング総括」においては、広告出稿時の事前審査等及びなりすまし型「偽広告」の削除等に関して、ヒアリングの評価結果を踏まえて事業者に更なる対応の改善を求めるとともに、その対応状況を総務省としてモニタリングすることを通じて、SNS等のサービスを利用する利用者の保護の観点から必要な対応を検討することとされた。
また、デジタル広告の流通をめぐっては、著作権侵害コンテンツや偽・誤情報等を掲載する媒体など、広告主が意図しない媒体に広告が配信されることによる、ブランドの毀損や広告費の流出、偽・誤情報等の拡散の助長等のリスクへの対応も課題となっている。こうしたリスクに対応するためには、広告担当者及び経営陣双方のデジタル広告の流通をめぐるリスクに関する意識改革が重要となるところ、総務省において、2025年6月9日に「デジタル広告の適正かつ効果的な配信に向けた広告主等向けガイダンス」を公表した。
前述のとおり、健全性検討会とりまとめにおいて制度的対応に係る提言がなされたところであるが、その後も、デジタル空間における情報流通を巡る環境は変化してきており、新たな問題(SNS等におけるいわゆる「闇バイト」の募集の投稿に関する問題など)への対応の在り方についても併せて検討を進めることが必要になった。諸外国においても、デジタル空間における情報流通を巡る課題への対応について様々な試行錯誤がなされている状況であることも踏まえ、2025年1月、諸課題検討会の下で「デジタル空間における情報流通に係る制度ワーキンググループ」を開催し、デジタル空間における情報流通に係る制度整備の在り方について検討している。
同ワーキンググループにおいては、諸外国の制度整備の動向調査やプラットフォーム事業者へのヒアリング結果も踏まえつつ、2025年夏頃までに制度整備の方向性の整理を予定している。
技術革新のスピードが速い生成AIの活用は、社会課題の解決や産業競争力の向上等に貢献する一方で、国民生活全般へのリスクにもなり得るものであり、インターネット上の偽・誤情報への対応という観点からも、生成AIを含む技術の更なる精緻化・巧妙化に備えることが必要である。
総務省では、例えば、インターネット上の画像・映像が生成AIにより生成されたものか否かを判別するための対策技術や、情報発信者の真正性・信頼性を確保する技術等の開発・実証に取り組んでいる。
5 本研究会は、平成30年10月から令和6年1月まで開催され、プラットフォーム事業者による利用者情報の適切な取扱いの確保の在り方やインターネット上の違法・有害情報への対応等について検討が行われた(座長:宍戸常寿 東京大学大学院法学政治学研究科教授)。
6 特定電気通信役務提供者の損害賠償責任の制限及び発信者情報の開示に関する法律の一部を改正する法律(令和6年法律第25号)
7 特定電気通信による情報の流通によって発生する権利侵害等への対処に関する法律第26条に関するガイドライン(令和7年3月11日制定)
8 警察庁「令和6年における特殊詐欺及びSNS型投資・ロマンス詐欺の認知・検挙状況等について(確定値版)」
https://www.npa.go.jp/bureau/criminal/souni/tokusyusagi/hurikomesagi_toukei2024_teisei.pdf
9 https://www.soumu.go.jp/menu_news/s-news/01ryutsu02_02000411.html
10 https://www.soumu.go.jp/main_content/000978858.pdf