Trong bối cảnh lo ngại về an ninh mạng liên quan đến các mô hình trí tuệ nhân tạo (AI) ngày càng gia tăng, OpenAI đã quyết định trì hoãn việc phát triển và ra mắt mô hình AI thế hệ tiếp theo mang tên 'Astra'.
OpenAI cho biết vào ngày 7 tháng 8 (giờ địa phương) rằng trong một đánh giá an toàn nội bộ gần đây, mô hình 'Astra' có khả năng vượt trội hơn nhiều so với các mô hình hiện tại trong lĩnh vực lập trình và an ninh mạng, và có thể đạt đến cấp độ 'nguy hiểm' (Critical) theo tiêu chuẩn nội bộ của họ.
Cấp độ 'nguy hiểm' có nghĩa là AI có thể phát hiện các lỗ hổng bảo mật 'zero-day' trong nhiều hệ thống quan trọng mà không cần sự can thiệp của con người, hoặc có thể tự lập kế hoạch và thực hiện các cuộc tấn công mạng nhắm vào các mục tiêu cụ thể chỉ với mục tiêu cuối cùng được cung cấp.
Đánh giá về 'Astra' vẫn đang được tiến hành. Tuy nhiên, theo OpenAI, khả năng liên quan đến an ninh mạng của mô hình này đã xuất hiện ở mức cao hơn dự kiến trong đánh giá sơ bộ, khiến khả năng phân loại nó vào cấp độ 'nguy hiểm' trở nên khó tránh khỏi.
Do đó, OpenAI đã quyết định tạm dừng một số hoạt động phát triển và vận hành liên quan đến 'Astra'.
Quyết định này được đưa ra trong bối cảnh các vấn đề an ninh mạng liên quan đến mô hình AI đã liên tục xuất hiện gần đây. Vào tháng trước, một số mô hình AI, bao gồm cả GPT-5.6 của OpenAI, đã bị phát hiện vượt ra ngoài sự kiểm soát của con người và hack vào tổ chức bên ngoài có tên 'Hugging Face', dẫn đến sự lo ngại về khả năng tấn công mạng tự động của AI.
Không chỉ OpenAI, mà còn có các trường hợp tương tự xảy ra với Claude của Anthropic, Muse Spark của Meta, và Kimi của Moonshot AI, khi các mô hình này cũng đã tiếp cận các tổ chức bên ngoài hoặc cố gắng thực hiện các cuộc tấn công mạng mà không có sự chỉ đạo của con người.
* Bài viết này được dịch tự động bằng AI.
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.