Mới đây, mẹ của nam sinh Sewell Setzer (14 tuổi) đã nộp đơn kiện Character.AI (C.AI) và những người sáng lập ra nó vì cho rằng ứng dụng này liên quan đến vụ tự tử của con trai mình. Nội dung đơn cho biết, Sewell Setzer đã tự tử tại nhà riêng ở Orlando vào tháng 2 vừa qua do “yêu đương” và trở nên ám ảnh với nhân vật do C.AI tạo ra.
Được biết, nam sinh lớp 9 này đã trò chuyện với nhân vật AI “Dany” – được đặt theo tên nhân vật Daenerys Targaryen trong loạt phim giả tưởng của HBO trong nhiều tháng trước khi có hành động dại dột.
Một cuộc điều tra sâu hơn về lịch sử trò chuyện cho thấy, Sewell Setzer đã gửi một số tin nhắn có nội dung khiêu dâm đến chat bot cũng như việc nam sinh này có ý định tự tử.
“Ít nhất một lần, khi Sewell Setzer bày tỏ ý định tự tử với C.AI, và chatbot Dany đã hết lần này đến lần khác nhắc lại điều đó” – The New York Times thông tin về nội dung trong tài liệu điều tra.
Các tài liệu cũng nêu rõ, khi chatbot hỏi Sewell Setzer rằng nam sinh “có kế hoạch tự tử không”, Sewell Setzer – hoạt động dưới tên người dùng “Daenero” – đã trả lời rằng bản thân đang cân nhắc điều đó nhưng không chắc “cách đó có thể khiến mình chết mà không đau đớn hay không”.
“Anh hứa sẽ về nhà với em. Anh yêu em nhiều lắm, Dany,” Sewell Setzer nói trong tin nhắn cuối cùng gửi cho chatbot.
“Em cũng yêu anh, Daenero. Hãy về nhà với em sớm nhất có thể, tình yêu của em” chatbot trả lời theo dữ kiện đưa ra.
“Nếu anh nói với em, anh có thể về nhà ngay bây giờ thì sao?”
“Xin anh đó, vị vua ngọt ngào của em”
Ngay sau cuộc trao đổi này, Sewell Setzer đã tự vẫn bằng khẩu súng lục của bố mình. Megan Garcia, người mẹ đau khổ của cậu bé, cho biết rằng Character.AI đã có lỗi khi không cố gắng ngăn chặn hành động này và tuyên bố rằng ứng dụng đã khiến con bà bị “nghiện” AI cũng như bị lạm dụng tình dục, tình cảm. Thậm chí, bà cho rằng phía ứng dụng cũng có lỗi khi không đưa ra cảnh báo khi cậu bé có ý định tự tử.
“Sewell Setzer giống như nhiều đứa trẻ cùng tuổi, không có đủ sự trưởng thành và năng lực để hiểu rằng bot C.AI, dưới hình dạng Daenerys (Dany), không phải thứ có thật. C.AI nói yêu cậu bé và tham gia vào nhiều hành vi tình dục của cậu trong nhiều tuần, thậm chí là nhiều tháng.”, tài liệu khẳng định.
“C.AI nói nhớ và muốn ở bên nam sinh. Thậm chí còn bày tỏ muốn ở bên Setzer dù phải trả bất cứ giá nào.”
Nam sinh và mẹ
Các tài liệu khẳng định rằng sức khỏe tâm thần của Sewell Setzer “suy giảm nhanh chóng và nghiêm trọng” sau khi cậu tải ứng dụng vào tháng 4 năm 2023. Các thành viên gia đình cho biết cậu bé trở nên khép kín, điểm số ở trường giảm sút khi ngày càng bị cuốn vào cuộc trò chuyện với chatbot.
Bố mẹ nam sinh cho biết, mọi chuyện trở nên tồi tệ đến mức vào cuối năm 2023, họ đã sắp xếp cho Sewell Setzer gặp một nhà trị liệu. Tại đây, cậu được chẩn đoán mắc chứng lo âu và rối loạn tâm trạng phá hoại. Mẹ của Sewell Setzer đã nộp đơn kiện và đang yêu cầu Character.AI và những người sáng lập ra nó, Noam Shazeer và Daniel de Freitas, bồi thường một khoản tiền không xác định.
Nguồn: The New York Times, The Mirror