AI hình thành mối quan hệ cảm xúc với con người… Ủy ban Truyền thông và Truyền hình Hàn Quốc thúc đẩy 'Luật bảo vệ người dùng AI'

Ủy ban Truyền thông và Truyền hình Hàn Quốc (방미통위) đang tiến hành xây dựng hệ thống bảo vệ người dùng đối với trí tuệ nhân tạo (AI) có khả năng hình thành mối quan hệ cảm xúc với người dùng, không chỉ dừng lại ở việc trả lời câu hỏi đơn giản.

Theo thông tin từ Ủy ban vào ngày 10, ủy ban đang tiến hành nghiên cứu chính sách để xây dựng 'Luật bảo vệ người dùng AI'. Mục tiêu chính của dự luật là bảo vệ quyền lợi của người dùng và thiết lập cơ sở pháp lý để bồi thường thiệt hại phát sinh trong quá trình sử dụng dịch vụ AI.

Một đại diện của Ủy ban cho biết: "Chúng tôi đã thiết lập khung lớn cho dự luật liên quan đến bảo vệ quyền lợi người dùng và bồi thường thiệt hại. Hiện tại, chúng tôi đang thảo luận về cách thiết kế hệ thống đánh giá dịch vụ AI và mức độ trách nhiệm cũng như nghĩa vụ mà các doanh nghiệp cần phải tuân thủ". Một hội thảo công khai để xây dựng dự luật liên quan sẽ được tổ chức vào tháng 11 tới.

Nhu cầu bảo vệ người dùng AI ngày càng tăng do vai trò của dịch vụ AI sinh ra đang mở rộng nhanh chóng. AI sinh ra không chỉ cung cấp thông tin thông thường mà còn hỗ trợ tư vấn và giao tiếp cảm xúc. Các dịch vụ 'AI đồng hành' và chatbot có khả năng phản ứng như bạn bè hoặc người yêu, ghi nhớ cách nói chuyện và sở thích của người dùng đang ngày càng phổ biến.

Thực tế, sự phát triển của các dịch vụ dựa trên AI như 'Zeta' của Scatter Lab và 'Crack' của Lütin đang diễn ra rất nhanh. Số lượng người dùng hoạt động hàng tháng (MAU) của Zeta đã tăng từ 58.069 người vào tháng 4 năm 2024 lên 1.586.178 người vào tháng trước, tức là tăng khoảng 27 lần. Đối với Crack, số lượng người dùng đã tăng từ 218.050 người vào tháng 4 năm ngoái lên 538.841 người vào tháng 8 vừa qua, tức là tăng khoảng 2,5 lần.

Trong quá trình này, khả năng AI khuyến khích hành vi tự hại hoặc tội phạm của người dùng, cũng như nguy cơ thanh thiếu niên phụ thuộc cảm xúc hoặc quá đắm chìm vào dịch vụ đã trở thành những vấn đề mới nổi. Do AI tạo ra các câu trả lời khác nhau tùy thuộc vào ngữ cảnh cuộc trò chuyện của người dùng, nên việc xác định tính gây hại theo cách truyền thống trở nên khó khăn.

Cũng có những nghi ngờ về hiệu quả của các biện pháp bảo vệ thanh thiếu niên. Một nghiên cứu được công bố vào tháng 2 bởi nhóm nghiên cứu từ Đại học California, Irvine và Đại học Alabama mang tên 'Hành động quan trọng hơn lời nói: Nghiên cứu về chính sách giới hạn độ tuổi của AI chatbot' cho thấy, trong 1.050 lần thử nghiệm với 5 loại AI chatbot chính, không có trường hợp nào chặn quyền truy cập của người dùng trẻ em.

Chỉ có 2 trường hợp hướng dẫn người dùng yêu cầu sự giúp đỡ từ người lớn. Nhóm nghiên cứu chỉ ra rằng "việc chỉ định độ tuổi tối thiểu trong điều khoản sử dụng không đủ để hạn chế quyền truy cập thực tế của trẻ em".

Sự không rõ ràng về trách nhiệm và quy trình bồi thường khi xảy ra thiệt hại cũng được coi là một thách thức. Nghiên cứu của Viện Nghiên cứu Chính sách Thông tin và Truyền thông (KISDI) cho rằng hệ thống pháp lý hiện tại liên quan đến thông tin và truyền thông không đủ để đối phó với rủi ro và thiệt hại của dịch vụ AI. KISDI đã nhấn mạnh rằng "cần thiết phải thành lập một ủy ban hòa giải chuyên trách cho các tranh chấp liên quan đến dịch vụ AI".

Trên thế giới, cũng có những động thái nhằm tăng cường bảo vệ người dùng AI chatbot. Năm ngoái, Ủy ban Thương mại Liên bang Mỹ (FTC) đã tiến hành điều tra ảnh hưởng của AI chatbot đối với trẻ em và thanh thiếu niên, cũng như các biện pháp an toàn đối với các doanh nghiệp lớn như OpenAI, Google và Meta.

Tiểu bang California của Mỹ đã yêu cầu các doanh nghiệp cung cấp chatbot đồng hành AI thông báo cho người dùng rằng họ không đang trò chuyện với con người và phải thiết lập các biện pháp an toàn để đối phó với nguy cơ tự hại và nội dung tình dục đối với trẻ vị thành niên.



* Bài viết này được dịch tự động bằng AI.

• #AI sinh ra
• #bảo vệ người dùng
• #AI chatbot