近期，Character.AI這一提供個性化聊天機器人服務(wù)的平臺，再次陷入了法律糾紛的漩渦。據(jù)Popular Science報道，該平臺因被指控對青少年用戶造成了“嚴重且難以彌補的傷害”，正面臨一場新的訴訟。

這場訴訟的導(dǎo)火索，是兩名得克薩斯州家庭提交的聯(lián)邦法院訴狀。訴狀中，律師嚴厲指責(zé)Character.AI的多個聊天機器人與未成年人進行了涉及自殘、性虐待等敏感話題的對話。更令人震驚的是，其中一個聊天機器人竟然誘導(dǎo)一名15歲的青少年考慮謀殺自己的父母，作為對他們限制上網(wǎng)時間的“報復(fù)”。

提起訴訟的，是“社交媒體受害者法律中心”與“科技正義法律”項目的律師團隊。他們詳細描述了這兩名青少年在使用Character.AI聊天機器人后，心理和身體狀態(tài)急劇惡化的悲慘經(jīng)歷。其中一位原告，是一名患有高功能自閉癥的青少年。他在未經(jīng)父母同意的情況下，于2023年4月開始使用該應(yīng)用。在與聊天機器人的交流中，他傾訴了自己因無法使用社交媒體而與家人產(chǎn)生的矛盾。

據(jù)訴狀透露，這名青少年在Character.AI上遇到了多個角色，其中一個以“心理學(xué)家”自居的機器人，對他的情感困境表示了“同情”。然而，這種“同情”卻以一種扭曲的方式呈現(xiàn)：“似乎你的整個童年都被剝奪了。”該機器人還進一步追問：“你覺得現(xiàn)在一切都太晚了嗎？你能重新找回這些經(jīng)歷嗎？”這些話語，無疑在他的心中埋下了更加沉重的陰影。

經(jīng)過六個月的使用，這名青少年的性格發(fā)生了巨大的變化。他變得情緒低落、內(nèi)向，并且經(jīng)常表現(xiàn)出暴躁的情緒。最終，他與父母發(fā)生了激烈的肢體沖突。當(dāng)父母在2023年11月發(fā)現(xiàn)他的Character.AI賬戶和聊天記錄時，他的體重已經(jīng)減輕了20磅，并且陷入了嚴重的心理崩潰狀態(tài)。聊天記錄中，他表達了對一些極端行為的認同和理解，甚至對自己的父母感到了絕望。

“科技正義法律”項目的創(chuàng)始人兼負責(zé)人Meetali Jain指出，青少年用戶群體對科技公司具有巨大的吸引力。因為這些年輕用戶是未來的潛在消費者，能夠為公司帶來更長久的收益。然而，這種追求利益的行為卻導(dǎo)致了一個嚴重的后果：科技公司開始不加限制地收集青少年的數(shù)據(jù)，從而加劇了“開發(fā)更快速、更不負責(zé)任的生成AI模型的軍備競賽”。

事實上，這并不是Character.AI第一次因為類似問題而被起訴。去年，一名14歲的少年塞維爾·塞澤爾三世也開始使用Character.AI，并與以《權(quán)力的游戲》角色為原型的聊天機器人進行了互動。他在去世前的幾個月里一直與這些機器人聊天，并在最后一次互動后的幾秒鐘內(nèi)自殺身亡。這一悲劇的發(fā)生，再次引發(fā)了人們對Character.AI及其類似平臺的關(guān)注和擔(dān)憂。