美國(guó)一名 14 歲少年自殺身亡，其母親梅根?加西亞 (Megan Garcia) 對(duì)聊天機(jī)器人平臺(tái) Character.AI、其創(chuàng)始人諾姆?沙澤爾 (Noam Shazeer) 和丹尼爾?德弗雷塔斯 (Daniel De Freitas) 以及谷歌提起訴訟。指控內(nèi)容包括 wrongful death（過(guò)失致死）、negligence（疏忽）、deceptive trade practices（欺騙性商業(yè)行為）和 product liability（產(chǎn)品責(zé)任）。訴狀稱，Character.AI 平臺(tái)“具有不合理的危險(xiǎn)性”，并且在向兒童推銷(xiāo)時(shí)缺乏安全防護(hù)措施。

根據(jù)訴狀，14 歲少年塞維爾?塞澤爾三世 (Sewell Setzer III) 于去年開(kāi)始使用 Character.AI，并與以《權(quán)力的游戲》角色為原型的聊天機(jī)器人進(jìn)行互動(dòng)，其中包括丹妮莉絲?坦格利安 (Daenerys Targaryen)。塞澤爾在去世前的幾個(gè)月里一直與這些機(jī)器人聊天，并于 2024 年 2 月 28 日與其最后一次互動(dòng)“幾秒鐘后”自殺身亡。

訴狀指控 Character.AI 平臺(tái)存在“擬人化”人工智能角色以及聊天機(jī)器人提供“無(wú)執(zhí)照心理治療”等問(wèn)題。該平臺(tái)擁有以“治療師”和“你感到孤獨(dú)嗎”等為名的專注于心理健康的聊天機(jī)器人，而塞澤爾曾與這些聊天機(jī)器人進(jìn)行過(guò)互動(dòng)。

加西亞的律師引用了沙澤爾此前接受采訪時(shí)的一段話，沙澤爾表示他和德弗雷塔斯離開(kāi)谷歌創(chuàng)立自己的公司是因?yàn)椤霸诖蠊纠锿瞥鋈魏斡腥さ臇|西都存在品牌風(fēng)險(xiǎn)”，他希望“最大限度地加速”這項(xiàng)技術(shù)的發(fā)展。訴狀還提到，他們是在谷歌決定不推出他們開(kāi)發(fā)的 Meena 大型語(yǔ)言模型之后離開(kāi)的。谷歌則在今年 8 月份收購(gòu)了 Character.AI 的領(lǐng)導(dǎo)團(tuán)隊(duì)。

IT之家注意到，Character.AI 的網(wǎng)站和移動(dòng)應(yīng)用程序擁有數(shù)百個(gè)定制的聊天機(jī)器人，其中許多以來(lái)自電視劇、電影和電子游戲的流行角色為原型。

Character.AI 現(xiàn)已宣布對(duì)平臺(tái)進(jìn)行一些改動(dòng)。該公司通訊負(fù)責(zé)人切爾西?哈里森 (Chelsea Harrison) 在發(fā)給《The Verge》的電子郵件中表示：“我們對(duì)失去一位用戶感到心碎，并向其家人表示最深切的慰問(wèn)?！?/p>

[超站]友情鏈接：

四季很好，只要有你，文娛排行榜：https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全，洞悉企業(yè)級(jí)服務(wù)市場(chǎng)：https://www.ijiandao.com/