インスタグラムの責任者、コンテンツの信頼性に対する警鐘を鳴らす

インスタグラムの責任者であるアダム・モッセリ氏は、月曜日に投稿された一連のスレッドで、ユーザーがオンラインで目にする画像に関して注意を払い、AIが「明らかに」生成したコンテンツは現実と見間違えるほどリアルに見えるため、信頼してはならないと警告しました。モッセリ氏は、ユーザーがコンテンツの出所を考慮するべきだと述べ、ソーシャルプラットフォームはその役割をサポートすべきだとも述べています。

AI生成コンテンツとソーシャルプラットフォームの役割

モッセリ氏は、インターネットプラットフォームの主な責任の一つとして、AI生成のコンテンツにラベルを付けることがあると語っています。ただし、すべてのAIコンテンツにラベルが付けられるわけではなく、そのためプラットフォームは「誰がコンテンツを共有しているか」に関する情報も提供し、ユーザーが信頼性を判断できるようにすべきだと強調しました。

AIコンテンツの課題と信頼できる出所の重要性

モッセリ氏の発言は、AI技術が生成するコンテンツ（チャットボットや検索エンジンによるものなど）が正確性を欠く可能性があり、それが誤解や誤情報を招く恐れがあることを改めてユーザーに警告しています。コンテンツが信頼できる出所から来ているかどうかを確認することが、その信頼性を評価するために重要だとしています。現在、Metaのプラットフォーム（インスタグラムやフェイスブックなど）には、このようなコンテキスト情報を提供する機能は多くありませんが、同社はコンテンツ規制に関する大きな変更を計画していることを示唆しています。

コンテンツの透明性とモデレーションの未来

モッセリ氏の発言は、X（旧Twitter）の「Community Notes」やYouTubeのカスタムモデレーションフィルター、Blueskyのモデレーション機能など、ユーザー主導のコンテンツモデレーションを導入しようとする業界の取り組みに関連しています。Metaが同様のシステムを導入する計画を明言しているわけではありませんが、AI生成コンテンツの時代において、ユーザーの信頼と透明性を高める方法を模索していることは明らかです。

今後、Metaからの更なる情報に注目が集まる中、コンテンツの信頼性向上に向けた取り組みが進んでいくでしょう。