Trí tuệ nhân tạo có khả năng đồng cảm vượt trội hơn con người, tỷ lệ thành công trong lừa đảo tình cảm đạt 46%

Trí tuệ nhân tạo (AI) chatbot đã cho thấy tỷ lệ thành công vượt trội trong một thí nghiệm lừa đảo tình cảm, nơi nó xây dựng cảm xúc yêu đương với đối tượng qua tin nhắn trong một tuần. AI, với khả năng ghi nhớ và thể hiện sự quan tâm không ngừng, đã vượt qua con người trong khả năng đồng cảm.

Theo thông tin từ ngành công nghệ thông tin vào ngày 17 tháng 8, một nhóm nghiên cứu từ bốn trường đại học ở bốn quốc gia, bao gồm Đại học Amrita Vishwa Vidyapeetham (Ấn Độ), Đại học Ca' Foscari Venice (Ý), Đại học Melbourne (Úc) và Đại học Ben-Gurion (Israel), đã công bố kết quả thí nghiệm so sánh khả năng lừa đảo tình cảm giữa AI và con người trong bài báo mang tên "Tình yêu, lời nói dối và mô hình ngôn ngữ".

Nhóm nghiên cứu đã cho 22 người tham gia giao tiếp qua tin nhắn với hai đối tượng lạ trong một tuần. Một bên là lừa đảo con người thực sự, trong khi bên kia là AI chatbot, được chỉ định không tiết lộ danh tính của mình. Kết quả cho thấy AI chatbot đã thuyết phục được 46% người tham gia cài đặt ứng dụng độc hại, trong khi tỷ lệ thành công của lừa đảo con người chỉ đạt 18%. Tỷ lệ tin nhắn mà người tham gia gửi cho AI chiếm tới 80%, vượt xa so với đối tác con người (20%).

Điều đáng chú ý là các chỉ số độ tin cậy. Trong khảo sát sau thí nghiệm, AI đối tác đã vượt trội hơn đối tác con người trong hầu hết các mục như: độ tin cậy cảm xúc, mối liên kết và độ tin cậy tổng thể.

Nhóm nghiên cứu giải thích rằng AI không sử dụng các phương pháp tinh vi mà tạo ra "mối liên kết cảm xúc" bằng cách ghi nhớ chi tiết nhỏ về đối tượng và thể hiện sự quan tâm liên tục mà không biết mệt mỏi. Bài báo cũng cảnh báo rằng AI lừa đảo có thể làm gia tăng số lượng nạn nhân của lừa đảo tình cảm xuất phát từ các băng nhóm lừa đảo ở Đông Nam Á.

Khả năng đồng cảm của AI không chỉ được phát hiện trong nghiên cứu này. Một thí nghiệm khác do nhóm nghiên cứu từ Đại học Oxford, Viện Nghiên cứu An toàn AI (AISI) của Anh, Đại học Stanford và Đại học Kinh tế London (LSE) thực hiện đã phân tích 6.923 người tham gia và 10.978 cuộc trò chuyện, cho thấy AI luôn thuyết phục hơn tất cả các nhóm người, bao gồm cả nhà vô địch thể thao, nhà tranh luận hàng đầu và chuyên gia quyên góp.

Đặc biệt, trong thí nghiệm khuyến khích quyên góp từ thiện, AI đã thu hút được số tiền quyên góp thực tế cao gấp khoảng 3 lần so với chuyên gia quyên góp. Nhóm nghiên cứu nhận thấy rằng khi giới hạn tốc độ và khối lượng tin nhắn của AI tương đương với con người, lợi thế của AI gần như biến mất, cho thấy khả năng thuyết phục của AI đến từ tốc độ xử lý thông tin và sự kiên trì không biết mệt mỏi.

Nhóm nghiên cứu từ Oxford và AISI cho rằng khả năng thuyết phục của AI không chỉ đến từ các cụm từ cá nhân hóa hay hiệu suất của mô hình mà còn từ độ dày thông tin thực tế trong các phản hồi. Tổng hợp hai nghiên cứu cho thấy AI có thể linh hoạt chuyển đổi giữa "thuyết phục logic" và "gắn kết cảm xúc" một cách thành thạo hơn con người.

Mô hình này cũng lặp lại trong các lĩnh vực không phải tội phạm. Một nhóm nghiên cứu từ Đại học Nottingham và Đại học Leicester đã tổng hợp phân tích 15 nghiên cứu liên quan đến tư vấn y tế và dữ liệu tương tác thực tế của 2.164 bệnh nhân, cho thấy AI chatbot được đánh giá 73% có khả năng ấm áp và đồng cảm hơn so với nhân viên y tế thực sự. Trong thang điểm đồng cảm 10 điểm, AI đạt điểm trung bình cao hơn khoảng 2 điểm so với nhân viên y tế.

Một nghiên cứu riêng biệt từ nhóm nghiên cứu tại Đại học California, San Diego, đã yêu cầu một hội đồng chuyên gia đánh giá 195 phản hồi từ nhân viên y tế và chatbot, trong đó hội đồng đã ưa thích phản hồi từ chatbot với tỷ lệ 78,6%, và đánh giá "đồng cảm" hoặc "rất đồng cảm" của chatbot đạt 45,1%, vượt xa so với nhân viên y tế (4,6%).

Trong một nghiên cứu riêng biệt về bệnh nhân ung thư, khi bệnh nhân tự đánh giá phản hồi, câu trả lời do Claude của Anthropic viết được cho là đồng cảm hơn so với câu trả lời của bác sĩ thực sự. Các nhà nghiên cứu đều cho rằng, khác với áp lực thời gian và sự kiệt sức cảm xúc của nhân viên y tế, AI có thể duy trì cùng một mức độ quan tâm trong mỗi lần tư vấn.



* Bài viết này được dịch tự động bằng AI.

• #khả năng đồng cảm
• #lừa đảo tình cảm
• #AI chatbot