Kakao đã thiết lập các nguyên tắc đạo đức và hướng dẫn thực hiện cho dịch vụ AI, từ giai đoạn lập kế hoạch đến vận hành, nhằm ứng phó với sự phát triển của đại lý tự động. Công ty sẽ xây dựng hệ thống kiểm tra các yếu tố rủi ro trong toàn bộ chu trình dịch vụ, quản lý quyền kiểm soát, trách nhiệm và quyền hạn được giao cho AI, nhằm giảm thiểu các rủi ro có thể xảy ra trong quá trình AI tự lập kế hoạch và hành động.
Vào ngày 13 tháng 10, Kakao đã công bố 'Nguyên tắc đạo đức AI cho thời đại đại lý tự động và hướng dẫn thực hiện' tại hội nghị dành cho nhà phát triển mang tên 'if(kakao)26' tổ chức tại khuôn viên AI của Kakao.
Ha Jin-hwa, trưởng bộ phận truyền thông AI của Kakao, đã nhấn mạnh sự cần thiết phải xác định trách nhiệm và phán quyết của con người trong môi trường mà AI tự lập kế hoạch và hành động, đồng thời phản ánh đạo đức vào thiết kế và vận hành dịch vụ.
Nguyên tắc đạo đức AI mới mang tên 'SPIRIT' bao gồm 6 yếu tố: an toàn, quyền riêng tư, bao trùm, trách nhiệm, chủ thể người dùng, và tính minh bạch cũng như độ tin cậy. Đây là những tiêu chí thực hiện chính được lựa chọn từ 3 giá trị và 7 nguyên tắc của 'Nguyên tắc đạo đức AI Hàn Quốc'. Dựa trên đó, Kakao đã bổ sung các nội dung chi tiết phù hợp với dịch vụ của mình.
Kakao đã xây dựng phương thức thực hiện nguyên tắc đạo đức thông qua 'NORMA', nhằm quản lý các nhiệm vụ đạo đức AI phức tạp ở cấp tổ chức và cụ thể hóa chúng thành các bước khả thi.
Các nguyên tắc đạo đức này đã được sự tham gia của 7 thành viên trong ban tư vấn bên ngoài của Ủy ban Đạo đức AI và Công nghệ, được thành lập vào tháng 7. Ban tư vấn đã kiểm tra tính tương thích với các quy chuẩn trong và ngoài nước, và các bộ phận liên quan đến an toàn AI, bảo mật thông tin và dịch vụ của Kakao đã xem xét từ góc độ thực tiễn.
Kakao phân chia rủi ro của đại lý tự động thành 5 lĩnh vực quản lý: quyền kiểm soát, mục tiêu, quyền hạn, tài nguyên tham khảo và tương tác, đồng thời kết nối các biện pháp kiểm soát cần thiết như giám sát của con người, kiểm soát khẩn cấp, kiểm soát quyền hạn và bảo vệ dữ liệu.
Dựa trên đó, 'Danh sách kiểm tra thực hiện đạo đức AI' sẽ được vận hành qua ba giai đoạn: xác định thuộc tính dịch vụ, sàng lọc rủi ro trước và kiểm tra các mục kiểm soát và đánh giá. Danh sách kiểm tra này dự kiến sẽ được áp dụng trong năm nay.
Kakao cũng sẽ tăng cường kiểm tra nhằm bảo vệ trẻ em và thanh thiếu niên. Công ty dự định sẽ bổ sung các yếu tố kiểm tra rủi ro đặc thù của AI cho trẻ em vào danh sách kiểm tra mới, tham khảo hệ thống phân loại rủi ro trực tuyến cho trẻ em của OECD và UNICEF (5Cs), bên cạnh danh sách kiểm tra bảo vệ trẻ em và thanh thiếu niên số đã được áp dụng từ năm 2025.
Kim Se-woong, chủ tịch Ủy ban Đạo đức AI và Công nghệ của Kakao, cho biết: "Chúng tôi đã thiết lập một hệ thống kiểm tra rủi ro hoạt động trong toàn bộ chu trình dịch vụ AI, kết hợp quan điểm của ban tư vấn bên ngoài và tổ chức nội bộ. Khi tính tự chủ của AI ngày càng tăng, chúng tôi sẽ làm rõ trách nhiệm và phán quyết của con người, đồng thời tạo ra dịch vụ AI mà người dùng có thể yên tâm sử dụng."
Trong khi đó, vào tháng trước, Kakao đã ký kết thỏa thuận hợp tác với Viện Nghiên cứu An toàn AI để xây dựng hệ thống đánh giá và đánh giá an toàn AI. Hai bên sẽ cùng nhau đánh giá an toàn của các mô hình và đại lý AI, cũng như phát triển công cụ đánh giá để xác định các yếu tố rủi ro.
* Bài viết này được dịch tự động bằng AI.
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.