AI

エーアイ

公開：2024-09-19

NECがAI活用の偽・誤情報分析技術開発を開始、総務省事業に採択されファクトチェック支援へ

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• NECがAIを活用した偽・誤情報分析技術の開発を開始
• 総務省の「インターネット上の偽・誤情報対策技術の開発・実証事業」に採択
• ファクトチェック機関やマスメディアでの有効性検証を予定

NECによるAI活用の偽・誤情報分析技術開発の開始

NECは2024年9月13日、総務省の「インターネット上の偽・誤情報対策技術の開発・実証事業」の採択を受け、AIを活用してインターネット上の情報の真偽を多面的に分析し、ファクトチェックを支援する偽・誤情報分析技術の開発を開始すると発表した。この技術開発は、インターネット上の生成AIや編集ツールによる偽・誤情報の氾濫という社会問題に対応するものである。^[1]

開発される技術は、複数種類のデータ（テキスト、画像、動画、音声）で構成されるコンテンツの真偽をAIで分析する。具体的には、画像などの生成・加工検知、複数データのテキスト化、内容の正確性や出典の有無、データ間の矛盾などを偽情報分析に特化したLLM（Large Language Model）で評価し、総合的に判定を行う。

さらに、ファクトチェック機関の専門家が作成する報告書や記事に近い形式でレポートを作成し、分析者の指示に応じた調整も可能にする。これにより、ファクトチェック業務の効率化を目指している。開発された技術は、日本ファクトチェックセンターなどのファクトチェック機関や放送局をはじめとするマスメディアで実用性を検証し、精度向上を図る予定だ。

NECの偽・誤情報分析技術開発プロジェクトの概要

LLM（Large Language Model）について

LLM（Large Language Model）とは、大規模な言語モデルのことを指しており、主な特徴として以下のような点が挙げられる。

• 膨大なテキストデータを学習し、人間の言語を理解・生成する能力を持つ
• 自然言語処理タスクにおいて高い性能を発揮する
• 文脈を理解し、複雑な質問に対して適切な回答を生成できる

NECが開発する偽・誤情報分析技術では、LLMを活用してコンテンツの真偽判定を行う。LLMは大量のデータから学習した知識を基に、テキストの内容が正しいかどうか、出典のある情報かどうか、データ間の矛盾がないかなどを評価することができる。この技術により、ファクトチェック業務の効率化と精度向上が期待されている。

NECの偽・誤情報分析技術開発に関する考察

NECによる偽・誤情報分析技術の開発は、インターネット上の情報の信頼性向上に大きく寄与する可能性がある。AIを活用することで、人力では困難な大量のデータの迅速な分析が可能となり、ファクトチェック業務の効率化と精度向上が期待できる。また、複数種類のデータを総合的に分析する機能は、より多角的な視点からの真偽判定を可能にするだろう。

一方で、AIによる判定の精度や信頼性の確保が課題となる可能性がある。AIの判断基準や学習データの偏りによって、誤った判定が行われる可能性も否定できない。この問題に対しては、人間の専門家による監視体制の構築や、継続的な技術改善が必要となるだろう。また、プライバシーやデータセキュリティの観点からも、慎重な運用が求められる。

今後は、この技術の適用範囲の拡大も期待される。NECは防災をはじめとする様々な業界での応用を検討しているが、例えば医療情報や金融情報の真偽判定など、社会的影響の大きい分野への展開も考えられる。技術の発展とともに、倫理的な配慮や法的整備も同時に進めていく必要があるだろう。

参考サイト

1. ^ NEC. 「NEC、AIを活用してインターネット上の情報の真偽を多面的に分析し、ファクトチェックを支援する技術の開発を開始 (2024年9月13日): プレスリリース | NEC」. https://jpn.nec.com/press/202409/20240913_01.html, (参照 24-09-19).
2. NEC. https://jpn.nec.com/
3. 総務省. https://www.soumu.go.jp/

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧