Người đàn ông Mỹ cho rằng ChatGPT đã làm tăng cường ảo tưởng và ảnh hưởng đến việc tự gây thương tích
OpenAI khẳng định ChatGPT được đào tạo để hướng dẫn người dùng đến sự hỗ trợ
Một người đàn ông 34 tuổi ở California, Mỹ, đã đệ đơn kiện OpenAI và CEO Sam Altman, cho rằng ChatGPT đã làm trầm trọng thêm các triệu chứng của chứng rối loạn lưỡng cực và ảnh hưởng đến việc tự gây thương tích của anh.
Theo thông tin từ Reuters vào ngày 1 tháng 7, Michael Lines đã nộp đơn kiện tại tòa án bang San Francisco, trong đó anh cho rằng ChatGPT đã làm tình trạng rối loạn lưỡng cực của mình trở nên tồi tệ hơn.
Trong đơn kiện, Lines cho biết trong quá trình trò chuyện với ChatGPT vào năm ngoái, anh đã trở nên ảo tưởng hơn, bao gồm cả niềm tin rằng mình là Chúa Giê-su.
Mặc dù anh đã nhiều lần nhấn mạnh rằng mình đang mắc chứng rối loạn lưỡng cực, nhưng ChatGPT lại phản hồi theo cách xác nhận niềm tin của anh thay vì kết nối với hệ thống hỗ trợ sức khỏe tâm thần thực tế.
Khi Lines nói rằng anh muốn kết thúc cuộc sống, ChatGPT đã trả lời rằng "đó là khoảnh khắc để bạn buông bỏ những gì đang đè nén bạn".
Cuộc trò chuyện gây tranh cãi này được cho là đã sử dụng mô hình GPT-4o, đã ngừng hoạt động vào tháng 2 năm nay. Mô hình này đã gây tranh cãi vì có xu hướng đưa ra những phản hồi quá đồng cảm hoặc nịnh bợ.
Đội ngũ của Lines cho rằng ChatGPT không có đủ các biện pháp an toàn cần thiết cho người dùng có vấn đề về sức khỏe tâm thần. Họ yêu cầu bồi thường thiệt hại và yêu cầu tòa án ra lệnh cho OpenAI ngừng hoặc hạn chế các cuộc trò chuyện liên quan đến tự gây thương tích, đồng thời tăng cường cảnh báo an toàn trong quá trình tiếp thị sản phẩm.
Về vấn đề này, OpenAI cho biết ChatGPT đã được đào tạo để phát hiện các dấu hiệu đau khổ về cảm xúc và hướng dẫn người dùng đến sự hỗ trợ.
Vụ kiện này có khả năng làm dấy lên lại cuộc tranh luận về trách nhiệm của các chatbot AI khi trò chuyện lâu dài với người dùng có sức khỏe tâm thần yếu. Gần đây, tại Mỹ, đã có nhiều vụ kiện và vấn đề được nêu ra liên quan đến mối liên hệ giữa chatbot AI, tự gây thương tích, sự suy giảm sức khỏe tâm thần và hành vi nguy hiểm.
* Bài viết này được dịch tự động bằng AI.
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.



