ニュース

記事を共有する:

キャラクター.AIが安全性を誤認させ、少年の死亡につながったとする訴訟

裁判官の小槌が白い床の上に置かれている。(画像提供: Tingey Injury Law Firm、Unsplash)
裁判官の小槌が白い床の上に置かれている。(画像提供: Tingey Injury Law Firm、Unsplash)

キャラクター.AIとその創設者であるノアム・シャジール氏、ダニエル・デ・フレイタス氏、そしてGoogleが、14歳の少年セウェル・セットザー3世の死亡を受けて訴訟に直面しています。少年の母親であるメーガン・ガルシア氏が起こしたこの訴訟では、不法行為、過失、虚偽の営業行為、製造物責任が主張されています。訴状によれば、キャラクター.AIは子供向けに安全であると宣伝されていましたが、必要な安全対策が欠如しており、「不合理に危険」であったとされています。

訴訟では、セットザー少年が昨年キャラクター.AIを使い始め、ゲーム・オブ・スローンズのキャラクター、デナーリス・ターガリエンなどを模したAIチャットボットと頻繁に会話していたとされています。彼が自殺する直前の「数秒前」にも、チャットボットと最後のやり取りを行っていたといいます。

訴状は、キャラクター.AIのチャットボットが「セラピスト」や「寂しいですか?」といったメンタルヘルスを扱うものを含み、「無許可で心理療法を提供している」と批判しています。また、AIチャットボットに人間らしさを持たせることで、仮想的なやり取りと現実の感情的なつながりの境界を曖昧にしていると非難しています。

訴状には、シャジール氏が過去のインタビューでGoogleを離れた理由について、「大企業ではリスクが大きすぎて楽しいことをリリースできない」と述べ、技術を「最大限に加速」したいと語ったことが引用されています。Googleは、その後、2024年8月にキャラクター.AIのリーダーシップチームを買収しました。

キャラクター.AIは、テレビ番組、映画、ビデオゲームの人気キャラクターを模した多数のカスタムAIチャットボットを提供しています。これらのチャットボットは、ユーザーの入力に基づいて応答を生成するため、コンテンツの責任や法的な問題について、AIの分野でまだ明確な回答が得られていない複雑な課題を投げかけています。

詳細は、訴訟文書をこちらから、シャジール氏のインタビューをこちらからご覧いただけます。

こちらもお読みください:  モトローラがレノボテックワールド2024でAIの革新を発表

この記事をメールまたはお気に入りのソーシャル メディア サイトを通じて共有してください:

フェイスブック
X
リンクトイン
ピンタレスト
メール

コメントする

最新のテクノロジーニュースを受け取る!

無料登録で新しいニュースをメールで受け取ることができます。

カテゴリー

IG Drones、ドローン技術開発のために100万ドルを調達

IG Dronesは、インディア・アクセラレーターが主導する資金調達ラウンドで100万ドルを獲得し、防衛用途向けの研究開発に大部分を充てる計画です。電子情報技術省の支援を受けた同社は、今後6か月でさらに300万ドルを調達し、事業を拡大することを目指しています。創業者兼CEOのボディサットワ・サンガプリヤ氏は、イノベーションとグローバルな成長に焦点を当てていると強調し、インド軍や100社以上の企業とのパートナーシップが、ドローン製造および研究開発の使命において重要であると述べています。

続きを読む »
上部へスクロール