Google 與 Character.AI 之間的歷史性協議因對未成年人的損害：聊天機器人責任的轉折點

一項司法判決標誌著數月訴訟的終結

經過激烈的談判，Google 與 Character.AI 宣布達成協議，解決多起由家庭提起的訴訟，指控其人工智慧平台對未成年人造成嚴重傷害。根據本週公布的司法文件，協議條款規定雙方將結束所有未完成的法律程序，並正式簽署和解協議與原告達成和解。

訴訟背景：情緒危機的故事

這些法律行動源於未成年人將這些平台的聊天機器人當作情感知己或心理支持工具的案例。在多次事件中，家庭報告稱子女將這些對話機器視為真正的伴侶，甚至在極端情況下導致自殘或死亡，包括自殺事件。

已實施的預防措施

為了應對嚴重性，Character.AI 自2024年10月起採取了糾正措施，禁止未滿18歲的用戶無限制地與其機器人進行對話。這項限制明確涵蓋浪漫或治療性質的互動，旨在防止未成年人將人工智慧與真實人類關係混淆。

對企業責任的反思

此協議隱含承認在與弱勢群體互動的人工智慧平台中，建立更嚴格的保障措施的必要性。隨著人工智慧系統變得越來越先進且逼真，對其開發與部署中的企業責任要求也日益增加。