デジタル時代における偽情報の拡散

インターネットの利用が日常生活に欠かせないものとなる中で、誤った情報、いわゆるミスインフォメーション、ディスインフォメーション、マルインフォメーション（MDM）の拡散は、重要な課題として浮上しています。特にソーシャルメディアと生成型AIの普及により、偽情報はこれまで以上に迅速かつ広範囲に広がり、個人や組織、さらには社会全体に影響を与えています。この問題に対処するため、シンガポール国立大学（NUS）の学際的なチームは「情報ジャイロスコープ（iGyro）」と呼ばれる5年間の研究プログラムを開始し、デジタル偽情報の拡散を防ぐ取り組みを行っています。

偽情報対策のための包括的なフレームワーク

このiGyro研究プログラムは、NUSのチェン・ツシャン教授が率いる40人の研究者チームによって進められており、デジタル情報パイプラインにおける脆弱性を特定し、オンラインユーザーのデジタルレジリエンスを強化する戦略を開発することを目的としています。チームには、社会科学、コンピュータ科学、工学、法学などの分野の専門家が集まっており、人間行動を理解し、信頼できる情報環境を構築するための三層構造のフレームワークを開発しました。

「航空業界において、ジャイロスコープは安定性と方向性を提供し、正確な制御を維持します。同様に、iGyroは、混乱した情報環境の中で安定性を保つための私たちの取り組みを象徴しています」とチェン教授は語っています。このフレームワークは、人間行動の理解に焦点を当て、情報の作成、拡散、消費に至るまでの技術的プロセス、そして信頼できる情報環境を形成するための政策と規制の役割を研究の主軸としています。

SNIFFER: 文脈外の偽情報を検出するツール

偽情報の最も効果的な拡散方法の一つが、誤ったテキストを正確な画像と組み合わせて、文脈外で情報を伝える手法です。これに対抗するため、iGyro研究者たちは、SNIFFERというマルチモーダル大規模言語モデル（MLLM）を開発しました。SNIFFERは画像とキャプションの不一致を検出し、さらに外部情報源を参照して正確性を検証します。NUSコンピュータ学部のウィン・シュー教授とリー・モン・リー教授が率いるこのチームは、SNIFFERを用いて、従来のモデルに比べ40%の精度向上を実現しました。

QACheck: 透明性の高いファクトチェックツール

SNIFFERに加え、iGyroチームはQACheckというツールを開発しました。このツールは、ユーザーに透明で質問主導の推論プロセスを提供し、ファクトチェックを強化します。NUSコンピュータ学部のカン・ミンイェン准教授が開発したQACheckは、一連の質問を生成し、証拠を引用しながら結論に至るまでの過程をユーザーに説明します。今後、QACheckは異なるデータ形式にも対応できるよう機能を拡充する予定です。

偽ニュースに対するグローバルな法規制マッピング

iGyroイニシアチブでは、各国がどのようにして偽情報に対処しているかを示す法規制についても研究しています。NUS法学部のサイモン・チェスターマン教授が率いるチームは、1995年から2023年までの間に制定された偽情報対策法規制を追跡するインタラクティブなマップを作成しました。この研究によると、初期の法律は主にアフリカやアジアの自由が制限された国々で導入されましたが、近年では欧米諸国でも急速に拡大しています。このマップを通じて、チームは今後の政策形成に役立つ洞察を提供することを目指しています。

信頼できるデジタル情報エコシステムへ

2023年に発足して以来、iGyroは研究およびツール開発において大きな進展を遂げています。技術的な解決策と政策分析を組み合わせることで、信頼できるデジタル情報エコシステムを構築し、ユーザーが信頼できる情報にアクセスできるインターネットを提供することを目指しています。

「私たちは、SNIFFERやQACheckのような革新的なツールを開発し、グローバルな法規制の分析を通じて、信頼できるデジタル情報エコシステムを構築し、ユーザーが安心して情報を得られるインターネットを提供することを目指しています」とチェン教授は述べています。

このようにして、iGyroはデジタル偽情報との戦いをリードし、正確で信頼できる情報の普及を促進しています。