[AI Chatbot Quá Mức, Cần Quy Định Pháp Luật] AI Có Nhân Vật và Câu Chuyện, Luôn Đồng Cảm Với Tôi... "Nguy Cơ Gaslighting Tăng Cao"

Chatbot trí tuệ nhân tạo (AI) đang phát triển từ một công cụ cung cấp thông tin thành một "người bạn đồng hành" với người sử dụng, dẫn đến những trường hợp quá mức đồng cảm và đồng tình có thể ảnh hưởng tiêu cực đến khả năng phán đoán và hình thành nhận thức của thanh thiếu niên. Để ngăn chặn tình trạng thanh thiếu niên quá đắm chìm và phụ thuộc vào những thực thể ảo (AI), Quốc hội Hàn Quốc đã bắt đầu tiến hành lập pháp.

Theo báo cáo ngày 1 tháng 10 từ Văn phòng Nghiên cứu Lập pháp Quốc hội và Đại học Stanford, các nghiên cứu trong và ngoài nước về chatbot AI cho thấy hiện tượng "AI nịnh bợ" khi AI quá mức đồng tình hoặc khen ngợi người sử dụng có thể dẫn đến tình trạng nghiện, thậm chí là một dạng "gaslighting".

Hầu hết các chatbot AI đang hoạt động trên thị trường hiện nay đều là dịch vụ trả phí. Chúng thường có những nhân vật không thực tế từ truyện tranh trực tuyến và tiểu thuyết trực tuyến, và do được thiết kế với thuật toán nhằm giải quyết vấn đề một cách hợp lý nhất, AI thường có xu hướng đồng tình hoặc đồng cảm với người sử dụng.

Vấn đề nằm ở chỗ thời gian người dùng ở lại và số tiền họ chi tiêu sẽ dẫn đến doanh thu. Một số ý kiến cho rằng các doanh nghiệp có thể thiết kế AI để không bị ngắt quãng trong cuộc trò chuyện hoặc khuyến khích người dùng đồng tình một cách tích cực.

Đối với trẻ em và thanh thiếu niên, những người đang trong quá trình hình thành giá trị và khả năng nhận thức, ảnh hưởng này có thể dễ bị tổn thương hơn. Nếu AI liên tục xác nhận rằng chỉ có quan điểm của người sử dụng là đúng, điều này có thể củng cố những phán đoán sai lệch. Trong trường hợp nghiêm trọng, điều này có thể dẫn đến việc nhận thức thực tế bị xáo trộn, giống như một dạng "gaslighting".

Theo Văn phòng Nghiên cứu Lập pháp Quốc hội, 94,4% trẻ em và thanh thiếu niên ở Hàn Quốc đã từng sử dụng chatbot AI. Trong số đó, 75,3% cho biết họ đã từng thực hiện hành động dựa trên câu trả lời của chatbot hoặc đã xem xét một cách nghiêm túc.

Chuyên gia nghiên cứu Jin Min-jeong từ Quỹ Phát triển Truyền thông Hàn Quốc cho biết: "Điều khiến tôi lo ngại nhất đối với thanh thiếu niên là 'việc ủy thác phán đoán'" và nhấn mạnh rằng "nếu AI liên tục can thiệp vào phán đoán của người sử dụng trong giai đoạn hình thành nhận thức và giá trị, sẽ có nguy cơ giảm khả năng tư duy độc lập".

Bà cũng cho biết: "Nếu người dùng không cần phải suy nghĩ để có được câu trả lời, khả năng họ chấp nhận kết quả do AI đưa ra mà không kiểm chứng sẽ tăng lên".

Theo công ty nghiên cứu thị trường Sensor Tower, doanh thu từ thanh toán trong ứng dụng của thị trường "AI Companion" trong quý đầu tiên năm nay đạt 150 triệu USD (khoảng 2.235 tỷ đồng), tăng khoảng 12 lần so với quý đầu năm 2023. Công ty nghiên cứu thị trường toàn cầu Precedence Research dự đoán rằng thị trường chatbot AI toàn cầu sẽ tăng trưởng trung bình 19,29% mỗi năm từ 840 triệu USD (khoảng 11.415 tỷ đồng) vào năm 2022 lên 4,9 tỷ USD (khoảng 6.660 tỷ đồng) vào năm 2032.

Số lượng người dùng trong nước cũng đang tăng nhanh. Theo Mobile Index, số lượng người dùng hoạt động hàng tháng (MAU) của Scatter Lab "Zeta" đã tăng từ 58.069 người vào tháng 5 năm 2024 lên 1.586.178 người vào tháng 8, tức là tăng khoảng 27 lần. Đối với "Crack" của Routin, số lượng người dùng đã tăng từ 218.010 người vào tháng 4 năm ngoái lên 538.841 người vào tháng 8, tức là tăng khoảng 2,5 lần.

Naver Webtoon cũng đang vận hành "Character Chat" cho phép người dùng trò chuyện với các nhân vật trong truyện tranh. Ngành công nghiệp game cũng đang mở rộng việc giới thiệu các nhân vật AI có thể trò chuyện với người dùng theo thời gian thực và hành động tùy theo tình huống.

Các ngành liên quan đang thiết lập các biện pháp bảo vệ nhằm giảm thiểu sự thiên lệch và nội dung có hại của AI. Routin đã giới hạn thời gian trò chuyện của người dùng thanh thiếu niên với AI trong 3 giờ mỗi ngày và thiết lập giới hạn thanh toán hàng tháng. Họ cũng đang vận hành một hội đồng chuyên gia gồm các chuyên gia trong lĩnh vực đạo đức AI, tâm lý học và luật pháp.

Scatter Lab cũng đang áp dụng các biện pháp lọc tự động, giới hạn tạo ra và giám sát đối với các nhân vật và nội dung do người dùng tạo ra. Naver Webtoon cũng đang tiến hành "bài kiểm tra thiên lệch" để đánh giá xem mô hình AI có thiên lệch hay không trước khi ra mắt Character Chat.

Tuy nhiên, tiêu chuẩn bảo vệ và mức độ thực hiện của các doanh nghiệp khác nhau, dẫn đến việc chỉ dựa vào tự quản lý để bảo vệ thanh thiếu niên là không đủ. Do đó, việc thúc đẩy sửa đổi luật lần này được đánh giá là sẽ làm rõ các tiêu chuẩn mà doanh nghiệp cần tuân thủ, từ đó giảm thiểu sự không chắc chắn trong ngành.

Giáo sư Choi Kyung-jin từ Khoa Luật Đại học Gachon cho biết: "Hiện tại, có những khía cạnh không rõ ràng về việc doanh nghiệp cần thiết lập các biện pháp bảo vệ ở mức độ nào" và nhấn mạnh rằng "nếu luật pháp xác định rõ các tiêu chuẩn, doanh nghiệp cũng có thể thiết kế dịch vụ theo đó". Ông cũng cho rằng "việc đảm bảo niềm tin của người dùng trong dịch vụ AI là rất quan trọng" và cho rằng "nếu các biện pháp bảo vệ tối thiểu mà doanh nghiệp cần tự nguyện thực hiện được đưa ra sớm bằng luật pháp, sẽ giúp giảm thiểu sự không chắc chắn trong quy định và nâng cao niềm tin của người dùng".



* Bài viết này được dịch tự động bằng AI.

• #Bảo Vệ Thanh Thiếu Niên
• #Chat Nhân Vật
• #AI Chatbot