富士通が偽情報対策システムの研究開発に着手、AIを活用した真偽判定技術の開発へ

text: XEXEQ編集部

記事の要約

富士通が偽情報対策システムの研究開発に着手
経済安全保障重要技術育成プログラムに採択
偽情報の検知・評価・システム化技術を開発

富士通の偽情報対策システム研究開発プロジェクト

富士通株式会社は、内閣府や経済産業省などが創設した「経済安全保障重要技術育成プログラム」のもと、NEDOが公募した「偽情報分析に係る技術の開発」事業に採択され、偽情報対策システムの研究開発に着手した。本プロジェクトは2024年から2027年までの期間で実施され、総額60億円の規模で行われる予定だ。^[1]

この研究開発では、SNS投稿などの情報の真偽判定を行う際に、文章、画像、音声、動画が生成AI等によって作られていないかという作為性の判定を実施する。さらに、「エンドースメントグラフ」と呼ばれる手法を用いて、様々な根拠の関係性を分析し、情報の整合性や矛盾を評価することで、より精度の高い真偽判定を支援する技術の開発を目指している。

本システムは主に4つの特徴的な技術から構成されている。メディアごとの情報分析と偽情報検知、根拠やエンドースメントの管理、大規模言語モデル（LLM）を用いた総合的な真偽判定支援、そして偽情報の社会的影響度評価である。これらの技術を統合し、偽情報対策の社会基盤となるシステムの構築を目指している。

	メディア分析	根拠管理	真偽判定支援	影響度評価
主な機能	作為性判定	グラフ構造化	LLMによる分析	社会的影響評価
対象データ	文章・画像・音声・動画	様々な根拠情報	整合性・矛盾データ	拡散規模・影響範囲
技術的特徴	メディア別分解・分析	エンドースメントグラフ	大規模言語モデル活用	偽情報特徴分析

エンドースメントグラフについて

エンドースメントグラフとは、対象とする情報に付加される真偽判定の根拠となる情報のことを指しており、主な特徴として以下のような点が挙げられる。

発信者（人や組織とその属性）に関する情報を含む
情報の位置や日時などのメタデータを管理
複数の根拠情報の関係性を可視化

エンドースメントグラフは、偽情報対策システムにおいて重要な役割を果たしている。このグラフ構造により、複数の情報源や根拠を体系的に管理し、それらの関連性を明確に把握することが可能となる。結果として、情報の信頼性評価や真偽判定の精度向上に大きく貢献することが期待されている。

偽情報対策システムに関する考察

今後、偽情報対策システムの運用において、プライバシー保護と情報分析のバランスが重要な課題となる可能性がある。個人情報やプライバシーに配慮しつつ、効果的な偽情報検知を行うためには、法的・倫理的な観点からの慎重な検討が必要となるだろう。また、システムの判断基準の透明性確保も重要な論点となる可能性が高い。

将来的には、リアルタイムでの偽情報検知と即時対応機能の追加が期待される。現在のシステムをベースに、より迅速な偽情報の特定と拡散防止策の実施が可能となれば、社会的影響を最小限に抑えることができるだろう。さらに、国際的な連携機能の強化も重要だ。グローバルな情報環境において、各国の偽情報対策システム間でデータや知見を共有できるプラットフォームの構築が望まれる。

偽情報対策システムの発展により、メディアリテラシー教育との連携強化も期待したい。システムによる自動検知だけでなく、一般市民が偽情報を見分ける能力を向上させることで、社会全体の耐性が高まるだろう。また、AIの進化に伴い、偽情報生成技術も高度化すると予想されるため、システムの継続的な改良と適応が不可欠だ。

参考サイト

^ 富士通. 「フェイクニュースの社会課題を解決する偽情報対策システムの研究開発を加速 : 富士通」. https://pr.fujitsu.com/jp/news/2024/07/19.html, (参照 24-07-30).
経済産業省. https://www.meti.go.jp/index.html

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。