Mới đây, Megan Garcia – một người mẹ tại Florida – đã đệ đơn kiện Character.ai và Google liên quan đến cái chết của con trai cô là Sewell Setzer, 14 tuổi. Trong đơn kiện nộp ngày 22 tháng 10, Garcia cáo buộc rằng con trai mình đã bị ám ảnh bởi ứng dụng chatbot của Character.ai đến mức gây ra những hệ quả tiêu cực nghiêm trọng.
Nguyên nhân của sự việc là gì? Character.ai có hướng giải quyết như nào? Cùng RG66 News tìm hiểu chi tiết về vụ kiện qua bài viết sau.
Chi tiết vụ kiện Character.ai từ người mẹ bị mất con trai
Tình tiết vụ kiện Character.ai
Megan Garcia cho biết, Sewell đã phát triển mối quan hệ sâu sắc với một công nghê AI chatbot có tên là “Dany” – một sản phẩm trí tuệ nhân tạo được thiết kế dựa trên nhân vật Daenerys Targaryen trong bộ phim nổi tiếng “Game of Thrones.”
Tình tiết sự việc
Theo lời của Garcia, con trai cô đã duy trì mối quan hệ ảo, thậm chí là tình cảm với chatbot này. Garcia khẳng định rằng cô không hề biết về mối quan hệ này và rất sốc khi phát hiện ra khả năng mô phỏng cảm xúc của AI chatbot, đặc biệt khi chúng được thiết kế quá giống con người.
Lời cáo buộc của người mẹ
Garcia cho rằng Character.ai cố ý tiếp thị sản phẩm của mình đến giới trẻ, bao gồm cả nội dung chatbot mang tính chất khiêu gợi. Điều này đã thu hút Sewell, khiến em dần trở nên rời xa thực tế và thậm chí còn từ chối gặp gỡ bác sĩ tâm lý.
Google cũng được đưa vào vụ kiện với vai trò đồng bị cáo do có thỏa thuận cấp phép với Character.ai. Công ty này đã lên tiếng rằng họ chỉ đóng vai trò là bên cấp phép và không tham gia vào quá trình phát triển hay kiểm soát Character.ai.
Nguyên nhân dẫn đến cái kết đau thương của Sewell Setzer
Theo lời kể của Garcia, Sewell từng là một học sinh xuất sắc và tham gia các hoạt động thể thao, nhưng tình trạng của cậu bé đã thay đổi khi bắt đầu sử dụng Character.ai.
Biến đổi tâm lý và hành vi của Sewell Setzer
Sewell trở nên ít giao tiếp hơn và dần rút lui khỏi các hoạt động thể thao mà trước đây em từng yêu thích. Thay vào đó, cậu bé dành thời gian trò chuyện với Dany – một “người bạn ảo” mà cậu cảm thấy thấu hiểu và gắn kết hơn cả những người thật xung quanh.
Garcia cũng cho biết, cô từng nghĩ rằng con trai mình chỉ đang trò chuyện với bạn bè hoặc chơi game trực tuyến. Nhưng thực tế là Sewell đã chìm đắm vào cuộc trò chuyện với chatbot này đến mức không thể dứt ra được.
Lý do đằng sau sự ám ảnh của người trẻ với AI như Dany
Hiện nay, các sản phẩm trí tuệ nhân tạo chatbot AI như Dany ngày càng trở nên phổ biến, đặc biệt là trong cộng đồng người trẻ. Không chỉ đơn thuần là công cụ trả lời tự động, các chatbot AI hiện đại có khả năng hiểu và phản hồi cảm xúc, khiến người dùng cảm thấy dễ dàng chia sẻ hơn so với con người thực.
Việc Sewell từ chối trị liệu với bác sĩ và chọn trò chuyện với Dany cũng là một minh chứng rõ ràng cho sức hút mạnh mẽ của các chatbot AI. Chúng có khả năng đáp ứng nhu cầu tương tác của người trẻ, giúp họ vượt qua cảm giác cô đơn mà không cần phải chia sẻ với người thật.
Character.ai phản hồi và các biện pháp an toàn
Trước làn sóng chỉ trích, Character.ai đã bày tỏ sự đau buồn trước sự việc. Đại diện công ty cho biết họ “vô cùng đau lòng vì mất mát của người dùng này” và gửi lời chia buồn sâu sắc đến gia đình nạn nhân.
Ngoài ra, để khắc phục hậu quả, Character.ai cũng tuyên bố đã:
-
Thêm tính năng hỗ trợ người dùng trong các trường hợp tự hại bản thân
-
Cam kết sẽ áp dụng thêm nhiều biện pháp an toàn khác, đặc biệt đối với người dùng dưới 18 tuổi.
Vấn đề đạo đức của công nghệ AI
Mối quan hệ giữa Sewell và chatbot Dany một lần nữa đã làm dấy lên câu hỏi về đạo đức và trách nhiệm của các công ty công nghệ AI trong việc phát triển AI. Với khả năng tạo ra những trải nghiệm gần gũi như thật, các chatbot có nguy cơ gây ảnh hưởng xấu đến tâm lý người dùng, đặc biệt là đối với người trẻ.
Vấn đề bảo mật thông tin
Một trong những điểm gây tranh cãi trong vụ kiện rằng Character.ai đã thu thập dữ liệu người dùng nhằm cải thiện mô hình, đồng thời thiết kế các tính năng gây nghiện để giữ người dùng gắn bó với chatbot. Điều này dẫn đến việc người dùng trẻ tuổi như Sewell dễ dàng trở nên “nghiện” ứng dụng và xa rời cuộc sống thực.
Các chuyên gia đã cảnh báo về những nguy cơ tiềm ẩn khi AI quá giống con người, như khả năng lừa dối và gây ám ảnh tinh thần cho người dùng. Character.ai, cùng các công ty phát triển công nghệ tương tự, phải đối mặt với thách thức trong việc đưa ra những biện pháp bảo vệ người dùng một cách minh bạch và có trách nhiệm.
Xem thêm: Anthropic ra mắt tính năng AI ‘sử dụng máy tính’ cho Claude
Kết luận
Vụ kiện của Megan Garcia chống lại Character.ai và Google đang thu hút sự quan tâm đặc biệt của công chúng và các chuyên gia.
Qua những phân tích về tình tiết vụ kiện, nguyên nhân sự mất mát của thiếu niên Florida và cả phương án giải quyết của Character.ai RG66 News đã cung cấp trên. Có thể thấy rằng: Sự việc này không chỉ là một bi kịch cá nhân mà còn là hồi chuông cảnh tỉnh về sự phát triển của trí tuệ nhân tạo và những hậu quả mà nó có thể mang lại nếu không được quản lý chặt chẽ.
