KAIST gia nhập mạng lưới toàn cầu về an toàn AI của Microsoft, là cơ sở duy nhất trong nước

KAIST đã trở thành cơ sở duy nhất trong nước được chọn tham gia chương trình nghiên cứu an toàn trí tuệ nhân tạo (AI) toàn cầu của Microsoft (MS), nhằm phát triển công nghệ bảo mật và độ tin cậy cho AI thế hệ tiếp theo.
 
KAIST thông báo rằng giáo sư Son Soo-yeol thuộc Khoa Khoa học Máy tính đã được chọn làm đối tượng hỗ trợ nghiên cứu cho chương trình nghiên cứu an toàn AI toàn cầu "EXTRA (External Red Team Alliance, Liên minh Đội đỏ bên ngoài)" do đội ngũ AI Red Team của MS điều hành vào ngày 28 tháng 7.
 
EXTRA là chương trình hỗ trợ nghiên cứu toàn cầu mới được MS AI Red Team ra mắt trong năm nay. Chương trình này được thiết lập nhằm xác minh an toàn và các lỗ hổng bảo mật của hệ thống AI từ nhiều góc độ khác nhau, đồng thời mở rộng hệ sinh thái nghiên cứu an toàn AI độc lập. Điều này có ý nghĩa lớn khi không chỉ giới hạn việc đánh giá an toàn AI trong nội bộ doanh nghiệp mà còn mở rộng ra các trường đại học và tổ chức nghiên cứu trên toàn thế giới.
 
MS nhận thấy rằng khi hệ thống AI ngày càng phát triển, cần phải tổng hợp chuyên môn từ nhiều lĩnh vực khác nhau như an ninh mạng, môi trường đa ngôn ngữ, bối cảnh khu vực và văn hóa, sự đồng bộ của AI, và khả năng bị lạm dụng. Tuy nhiên, một tổ chức đơn lẻ không thể đánh giá đầy đủ những rủi ro này, vì vậy họ đã quyết định ra mắt EXTRA.
 
Theo quyết định này, KAIST sẽ nhận được khoản hỗ trợ nghiên cứu trị giá 25.000 USD (khoảng 3.700 triệu đồng) từ MS cho các nghiên cứu về an toàn AI, bảo mật, sự đồng bộ của AI và phát triển AI có trách nhiệm. Khoản hỗ trợ này sẽ được cung cấp dưới hình thức "giải thưởng quà tặng" mà không quy định thời gian thực hiện dự án nghiên cứu, và sẽ được sử dụng cho các nghiên cứu về an toàn và bảo mật AI của nhóm nghiên cứu giáo sư Son Soo-yeol.
 
EXTRA có sự tham gia của hơn 10 trường đại học từ 6 châu lục trên toàn thế giới, bao gồm cả KAIST. MS dự định mở rộng hệ sinh thái nghiên cứu an toàn AI độc lập và tăng cường hợp tác giữa học viện và ngành công nghiệp thông qua chương trình này.
 
Giáo sư Son Soo-yeol cho biết: "Khi hệ thống AI nhanh chóng lan rộng trong xã hội, việc đảm bảo không chỉ hiệu suất mà còn an toàn và độ tin cậy là vô cùng quan trọng. Tham gia EXTRA của MS AI Red Team sẽ giúp chúng tôi phân tích một cách hệ thống các mối đe dọa bảo mật có thể xảy ra trong môi trường dịch vụ AI thực tế, từ đó đóng góp vào việc phát triển công nghệ AI mà mọi người có thể yên tâm sử dụng."




* Bài viết này được dịch tự động bằng AI.

• #Microsoft
• #KAIST
• #an toàn AI