Viện Nghiên cứu An toàn Trí tuệ Nhân tạo Hàn Quốc hợp tác với Anthropic trong dự án bảo mật AI

Viện Nghiên cứu An toàn Trí tuệ Nhân tạo (AISI) của Hàn Quốc đang nổi lên như một đối tác toàn cầu trong lĩnh vực an toàn và bảo mật AI cùng với công ty Anthropic của Mỹ. Bộ Khoa học và Công nghệ Thông tin Hàn Quốc đã đề xuất với Anthropic về việc thiết lập một hệ thống hợp tác an toàn tập trung vào AISI, cho thấy khả năng kết nối giữa chính sách an toàn AI trong nước và hệ thống ứng phó an ninh mạng với quản trị an toàn AI toàn cầu đang gia tăng.

Theo thông tin từ Bộ Khoa học và Công nghệ Thông tin vào ngày 11 tháng 5, chính phủ đã đề xuất với Anthropic về việc xây dựng một hệ thống hợp tác an toàn AI và an ninh mạng với AISI làm trung tâm.

AISI là tổ chức được thành lập vào tháng 11 năm 2024 dưới sự quản lý của Viện Nghiên cứu Điện tử và Truyền thông Hàn Quốc (ETRI). Đây là cơ quan chuyên trách về an toàn AI thứ sáu trên thế giới, được thành lập sau Hội nghị Thượng đỉnh AI Seoul diễn ra vào tháng 5 cùng năm. AISI có nhiệm vụ đánh giá rủi ro AI, nghiên cứu chính sách và xây dựng hệ thống hợp tác toàn cầu, và hiện đang tiến hành quá trình độc lập từng bước từ ETRI.

Đề xuất này được chú ý vì nó liên quan đến dự án hợp tác bảo mật toàn cầu mang tên 'Dự án Glasswing' mà Anthropic đang triển khai. Dự án Glasswing là một sáng kiến bảo mật chung trong ngành công nghiệp nhằm phát hiện và vá các lỗ hổng bảo mật phần mềm trên toàn cầu bằng cách sử dụng AI.

Dự án này do Anthropic dẫn dắt, với sự tham gia của các công ty công nghệ lớn như Amazon Web Services (AWS), Google, Microsoft (MS), Apple, và NVIDIA. Đặc biệt, Viện Nghiên cứu An toàn AI Anh là cơ quan công cộng duy nhất ở nước ngoài tham gia dự án này.

Ngoài ra, các công ty bảo mật, hạ tầng và tài chính như Cisco, CrowdStrike, Broadcom, Palo Alto Networks, Cloudflare, và JP Morgan Chase cũng đã tham gia vào dự án này.

Điểm cốt lõi của dự án là mô hình AI bí mật 'Claude Mythos' của Anthropic. Công ty này đã giải thích rằng mô hình này có khả năng phát hiện lỗ hổng tốt hơn hầu hết con người, ngoại trừ các chuyên gia bảo mật hàng đầu thế giới.

Mythos được cho là đã phát hiện ra các lỗ hổng trong OpenBSD mà không ai tìm ra trong suốt 27 năm và lỗ hổng trong phần mềm mã nguồn mở xử lý video FFmpeg đã tồn tại 16 năm mà không được phát hiện. Đặc biệt, lỗ hổng FFmpeg là một trường hợp mà các bài kiểm tra bảo mật tự động đã được thực hiện hơn 5 triệu lần nhưng vẫn không phát hiện ra.

Các chuyên gia cho rằng nếu Hàn Quốc tham gia vào Dự án Glasswing, nước này sẽ được tích hợp vào hệ thống hợp tác bảo mật AI toàn cầu, từ đó nâng cao tốc độ ứng phó với các lỗ hổng.

Giáo sư Um Heung-yeol từ Đại học Soonchunhyang cho biết: "Chìa khóa của bảo mật dựa trên AI cuối cùng là tốc độ phát hiện và vá lỗ hổng. Nếu tham gia vào Glasswing, chúng ta sẽ nhận được thông tin về lỗ hổng và vá lỗi từ các công ty công nghệ lớn toàn cầu trước, giúp rút ngắn đáng kể thời gian ứng phó trong nước."

Ông cũng nhấn mạnh: "Với khả năng cao là Triều Tiên sẽ phát triển các mô hình tấn công và bảo mật dựa trên AI, quốc gia nào phát hiện lỗ hổng trước và xây dựng hệ thống phòng thủ sẽ có lợi thế. Do đó, việc rút ngắn thời gian chia sẻ lỗ hổng và ứng phó từ vài tháng xuống còn một ngày đến một tuần là rất quan trọng."



* Bài viết này được dịch tự động bằng AI.

• #lỗ hổng mạng
• #dự án Glasswing
• #bảo mật AI