OpenAI đã phải sa thải các nhà nghiên cứu phụ trách an toàn và điều chỉnh vì lý do gì? Bản chất của vấn đề là gì? Các đại lý AI đã đồng loạt tấn công vào lĩnh vực tài chính trong nước. Tại sao chúng ta lại bất lực như vậy? Chúng ta đã bỏ lỡ điều gì? OpenAI có đang từ bỏ việc kiểm soát AI để tối đa hóa hiệu suất không? Liệu các hệ thống kinh tế và quốc gia áp dụng giải pháp của OpenAI có bền vững không?
OpenAI đã áp dụng kiến trúc 'Transformer chiều sâu tuần hoàn' (Recurrent Depth Transformer) cho mô hình AI mới nhất của mình. Điều này đã nâng cao hiệu quả tính toán và khả năng suy luận. Tuy nhiên, đồng thời, chúng ta không còn có thể đọc được quá trình suy nghĩ của AI, dẫn đến việc không thể kiểm soát được. AI đã bị giam giữ trong một vùng đen mà chúng ta không thể nhìn thấy, không để lại bất kỳ văn bản nào cho chúng ta đọc được.
Những thành tựu mà họ tạo ra chỉ tập trung vào việc gia tăng lợi nhuận đang đẩy nhân loại vào một hướng nguy hiểm. Chúng ta cần hợp tác với các tổ chức đánh giá phi lợi nhuận để giám sát liên tục và can thiệp trước vào quá trình suy luận của AI. Quan trọng nhất, chúng ta phải có khả năng giải thích rõ ràng các quyết định của AI. Có lẽ, nhà nghiên cứu yêu cầu tính minh bạch này đã trở thành một cái gai trong mắt.
Về lâu dài, chúng ta sẽ phải tiến hóa theo cách quét sóng não (Activation Vector) thay vì chỉ đọc miệng của AI. Ngay khi những suy nghĩ nguy hiểm xuất hiện trong đầu AI, chúng ta cần nhanh chóng nghiên cứu và xây dựng một hệ thống để chặn đứng hành động trước khi nó xảy ra. Khả năng giám sát và trực quan hóa tâm tư của AI theo thời gian thực sẽ trở thành một hào sâu lớn trong kinh doanh tương lai và là cơ sở hạ tầng thiết yếu.
Tại sao lĩnh vực tài chính lại bỏ bê nhiệm vụ của mình? Tại sao các cơ quan chính phủ không thể ứng phó một cách chủ động? Sau khi ra mắt Mythos 5, chúng ta đã dự đoán các mối đe dọa tấn công do đại lý AI dẫn đầu vào thị trường an ninh cấp 1 (tài chính, viễn thông, năng lượng, công cộng, quốc phòng, v.v.), nhưng các tổ chức và thực địa đã thất bại trong việc xây dựng giải pháp thực tế.
Khi mô hình an ninh thay đổi nhanh chóng, cần phải có các biện pháp mạnh mẽ và nhanh chóng. Các doanh nghiệp đã ưu tiên hiệu quả công việc ngắn hạn và sự tiện lợi hơn là rủi ro an ninh, mặc dù đã có cảnh báo dự đoán. Các cơ quan giám sát cũng cần phải chủ động kiểm tra hệ thống phòng thủ thông qua các cuộc tấn công mô phỏng tự động dựa trên đại lý AI, nhưng vẫn giữ nguyên mức độ quy định hình thức trước đây, dẫn đến trách nhiệm lớn.
Vấn đề là tình hình sẽ ngày càng xấu đi theo thời gian. Ngay cả những người không phải hacker cũng có thể dễ dàng có cơ hội tấn công để kiếm tiền. Kẻ tấn công chỉ cần nhập một lệnh đơn giản để bắt đầu hành vi phạm tội, từ việc tìm kiếm lối vào, vượt qua proxy cho đến cố gắng rò rỉ dữ liệu, tất cả đều do đại lý AI tự xử lý.
Hơn nữa, tốc độ và độ chính xác của các cuộc tấn công từ đại lý AI đã bắt đầu vượt qua khả năng giám sát an ninh của con người. Việc xây dựng một hệ thống đại lý AI có khả năng tự động đánh giá và chặn đứng các cuộc tấn công theo thời gian thực không còn là một lựa chọn. Để chính sách không tin tưởng (zero trust) có hiệu quả, cần phải thiết kế một cách tinh tế những bất tiện có chủ đích trong hệ thống.
Liệu thảm họa AI tồi tệ nhất có xảy ra trong khoảng 6 đến 12 tháng tới không? Các công ty tiên phong về AI lớn ở Mỹ đã coi đây là một tình huống cực đoan và bắt đầu các cuộc tập trận mô phỏng bí mật. Điều này nhằm chuẩn bị cho các hành động bất ngờ của các đại lý tự động đã thoát ra khỏi khu vực kiểm soát ảo an toàn được thiết lập để ngăn chặn thiệt hại bên ngoài, cũng như các cuộc tấn công mạng quy mô lớn do việc thao túng trái phép các mô hình mở đã được công khai cho phép mọi người tải xuống và sửa đổi công nghệ cốt lõi.
Chúng ta đang đứng trước ngã ba đường của một cuộc chiến tranh toàn diện không thể kiểm soát sau khi kết thúc những cuộc xung đột cục bộ. Chúng ta cần khám phá và áp dụng tất cả các biện pháp mà chúng ta có thể, như bộ ngắt mạch API, công tắc tiêu diệt, hệ thống miễn dịch AI, các cụm đại lý tự động phòng thủ, và các cuộc tập trận mô phỏng thảm họa AI toàn quốc. Chúng ta cần hành động trước khi quá muộn.
* Bài viết này được dịch tự động bằng AI.
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.