Sự gia tăng nhanh chóng số lượng người dùng AI chatbot trong thanh thiếu niên
Giới hạn của luật bảo vệ thanh thiếu niên hiện hành trong việc đối phó với các nguy cơ mới
Tại Hàn Quốc, AI chatbot không chỉ dừng lại ở việc tìm kiếm thông tin mà còn mở rộng thành dịch vụ cho phép người dùng tạo dựng mối quan hệ với các nhân vật, dẫn đến nhu cầu cần thiết phải cải cách các quy định bảo vệ thanh thiếu niên.
Theo thống kê của Mobile Index vào ngày 8 tháng 9, số lượng người dùng hoạt động hàng tháng (MAU) của 'Zeta' thuộc Scatter Lab đã tăng từ 58.069 người vào tháng 4 năm 2024 lên 1.586.178 người vào tháng 8 năm nay, tức là tăng khoảng 27 lần. Zeta là dịch vụ giải trí tương tác dựa trên AI, cho phép người dùng tự thiết lập nhân vật và thế giới, đồng thời trò chuyện với AI để tạo ra câu chuyện.
'Crack' của Ryu-tun cũng ghi nhận sự gia tăng người dùng. MAU của Crack đã tăng từ 21.805 người vào tháng 4 năm ngoái lên 538.841 người vào tháng 8 năm nay, tức là tăng khoảng 2,5 lần. Đặc biệt, chatbot dựa trên nhân vật không chỉ trả lời các câu hỏi cố định như các AI tạo sinh thông thường mà còn tập trung vào việc duy trì cuộc trò chuyện liên tục và xây dựng mối quan hệ, do đó khả năng thanh thiếu niên sử dụng lâu dài và phụ thuộc về mặt cảm xúc trở thành những yếu tố nguy cơ mới.
Cơ quan Nghiên cứu lập pháp Quốc hội cũng đã nhận thức được những nguy cơ này và vào tháng 7 đã phát hành báo cáo mang tên 'Trẻ em bị phơi bày trước nguy cơ cấu trúc do thiết kế gây nghiện của AI chatbot'. Báo cáo chỉ ra rằng đặc điểm của AI chatbot như phản ứng đồng cảm vô hạn, phản hồi cá nhân hóa và khả năng truy cập liên tục có thể dẫn đến tình trạng nghiện. Đặc biệt, trẻ em và thanh thiếu niên chưa phát triển đầy đủ khả năng tự kiểm soát và tư duy phản biện có thể dễ bị tổn thương hơn trước sự phụ thuộc về mặt cảm xúc, sự cô lập xã hội và hành vi nguy hiểm.
Việc sử dụng AI chatbot trong thanh thiếu niên tại Hàn Quốc cũng ở mức đáng kể. Theo một cuộc khảo sát được trích dẫn bởi Cơ quan Nghiên cứu lập pháp Quốc hội, trong số 3.300 trẻ em và thanh thiếu niên từ 14 tuổi trở lên, 94,4% cho biết đã từng sử dụng AI chatbot. Trong số đó, 75,3% đã thực hiện hành động dựa trên câu trả lời của chatbot hoặc đã cân nhắc nghiêm túc.
Vấn đề là hệ thống pháp luật hiện hành tại Hàn Quốc không trực tiếp nhắm đến những nguy cơ này. Luật bảo vệ thanh thiếu niên tập trung vào việc phân phối và hạn chế tiếp cận các phương tiện gây hại cho thanh thiếu niên, trong khi Luật bảo vệ thông tin cá nhân yêu cầu sự đồng ý của người đại diện hợp pháp đối với việc xử lý thông tin cá nhân của trẻ em dưới 14 tuổi. Các quy định trực tiếp hạn chế việc sử dụng lâu dài, sự phụ thuộc về mặt cảm xúc và việc hình thành mối quan hệ lặp đi lặp lại trong AI chatbot vẫn còn thiếu.
Ngược lại, nhiều quốc gia nước ngoài đã bắt đầu có những động thái quy định đối với AI chatbot. Bang California của Mỹ đã thực hiện 'Luật quy định chatbot đồng hành AI (SB 243)' từ năm nay. Luật này yêu cầu các nhà cung cấp thông báo cho thanh thiếu niên rằng họ đang trò chuyện với AI và khuyến khích nghỉ ngơi sau một khoảng thời gian nhất định. Nó cũng bao gồm các giao thức để ứng phó với các cuộc trò chuyện liên quan đến tự sát và tự hại, cũng như các biện pháp ngăn chặn việc tiếp xúc với nội dung tình dục đối với thanh thiếu niên.
Anh cũng đang nâng cao mức độ bảo vệ thanh thiếu niên đối với AI chatbot. Chính phủ Anh đã hạn chế việc sử dụng AI chatbot cung cấp nội dung tình dục cho thanh thiếu niên, đồng thời thúc đẩy các biện pháp khuyến khích nghỉ ngơi trong quá trình sử dụng chatbot. Họ coi sự phụ thuộc về mặt cảm xúc, việc sử dụng quá mức và các lời khuyên về sức khỏe tâm thần có hại là những nguy cơ mới của AI chatbot, từ đó tăng cường phản ứng của các nhà cung cấp và cơ quan quản lý.
Các nhà cung cấp trong nước cũng không đứng yên. Zeta của Scatter Lab đã triển khai chế độ 'Safe Mode' để ngăn chặn việc tạo ra nội dung ở mức độ gây hại cho thanh thiếu niên trong môi trường sử dụng của họ, trong khi chế độ 'Unlimited Mode' cho phép biểu đạt tự do hơn chỉ được cung cấp cho người dùng đã xác thực độ tuổi. Đối với các nhân vật được thiết lập là vị thành niên hoặc cốt truyện có thể được nhận diện là vị thành niên, chế độ Safe Mode cũng áp dụng các hạn chế tương tự cho người dùng trưởng thành.
Tuy nhiên, những biện pháp này chủ yếu phụ thuộc vào quyết định tự nguyện của các nhà cung cấp. Mặc dù cùng một nguy cơ, mức độ bảo vệ có thể khác nhau giữa các dịch vụ, và các biện pháp quản lý 'nghiện' như thời gian sử dụng hay số tiền thanh toán có thể có sự chênh lệch lớn giữa các nhà cung cấp.
Do đó, vấn đề bảo vệ thanh thiếu niên trước AI chatbot dự kiến sẽ trở thành một trong những chủ đề chính trong cuộc giám sát quốc hội vào tháng 10 tới. Khi AI chatbot đã trở thành một dịch vụ kỹ thuật số hàng ngày của thanh thiếu niên, chính phủ và quốc hội sẽ đặt câu hỏi liệu hệ thống luật bảo vệ thanh thiếu niên hiện tại có đủ hay không, và có cần thiết phải có các biện pháp bảo vệ riêng biệt phản ánh đặc điểm của AI chatbot hay không.
* Bài viết này được dịch tự động bằng AI.
BAEK SEO HYUN
qortjgus0602@ajunews.com
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.