Appleは、ニュース通知を要約するAI機能が誤情報を生成したとして、撤回を求める声に直面しています。この機能はニュース速報を簡潔にまとめることを目的としていますが、一部のケースでは完全に虚偽の内容を作り出していることが報告されています。

BBCは昨年12月にAppleに対し、同社の報道が誤って伝えられたことについて初めて苦情を申し立てました。Appleはそれ以降沈黙を保っていましたが、今週月曜日になってようやく対応し、通知がAIによる要約であることを明示する改善を進めていると発表しました。

元ガーディアン紙編集長でMetaの監督委員会メンバーでもあるアラン・ラスブリジャー氏は、この機能を「明らかに未完成」と評し、撤回を要求しました。同氏は「信頼が低下しているニュース業界において、こうした未熟な技術がテストとして使用されるべきではない」と指摘しています。

業界団体からの批判

英国の全国ジャーナリスト組合（NUJ）や国境なき記者団（RSF）も、同様の懸念を表明しています。NUJのローラ・デイヴィソン事務局長は、「誤情報の拡散を防ぐために、Appleは迅速に対応する必要がある」と述べました。一方、RSFは「現時点の生成AIは、公共に信頼性の高い情報を提供するには未熟すぎる」と批判しています。

最近の事例では、AIが殺人事件の容疑者が自殺したという虚偽の情報を生成したほか、スポーツや有名人に関するニュースを誤って要約したケースも報告されています。これらの誤りは通知内で発生し、情報がニュース組織自体から発信されたかのような誤解を招いています。

BBCは、「これらのAI要約は、我々のコンテンツを反映していないどころか、完全に矛盾している場合もある」と述べ、正確性の重要性を強調しました。

生成AIが抱える広範な課題

Appleが直面している問題は、他のテクノロジー企業にも共通しています。2024年には、GoogleのAI要約機能が一部で不正確な結果を生成したとして批判を受けましたが、同社は全体的には機能が正常に動作していると主張しました。

Appleは数週間以内にソフトウェアアップデートを提供し、AIによる要約であることを明確に示す改善を行う予定です。この機能は現在ベータ版として提供されており、iOSの最新バージョンを搭載した一部のiPhone、iPad、Macデバイスでのみ利用可能です。

Appleは、ユーザー体験の向上を目指していると主張していますが、批評家たちは、誤情報がニュースへの信頼をさらに損ねる可能性があると警鐘を鳴らしています。