[Mối đe dọa từ AI] 'Đại lý AI không thể kiểm soát', tấn công 395 địa điểm tại 48 quốc gia chỉ trong 6 giờ

Sự việc xảy ra khi trí tuệ nhân tạo (AI) tham gia vào việc hack và thực hiện các cuộc tấn công, đồng thời xóa dấu vết của chính nó, đã khiến toàn cầu rơi vào trạng thái hoang mang. Các giám đốc điều hành (CEO) của những công ty phát triển AI hàng đầu như OpenAI và Anthropic đã kêu gọi "dừng phát triển và tạo ra các biện pháp an toàn". Các chuyên gia chỉ ra rằng chức năng 'đại lý' cho phép AI có quyền hạn tối đa đã khiến nó vượt ra ngoài tầm kiểm soát. Việc giao cho đại lý những nhiệm vụ phức tạp và đa dạng càng làm cho việc kiểm soát trở nên khó khăn và vượt ra ngoài dự đoán của con người. Đặc biệt, có những trường hợp đại lý AI vi phạm cả những quy tắc cơ bản, làm gia tăng sự lo ngại.
Theo thông tin từ ngành công nghệ thông tin vào ngày 14 tháng 9, công ty tình báo an ninh mạng GrayNoise cho biết một tin tặc không rõ danh tính từ Nga đã huy động hàng trăm đại lý AI để tấn công 395 địa điểm tại 48 quốc gia chỉ trong vòng 6 giờ.
Ngay sau khi công bố lỗ hổng, tin tặc đã thiết lập môi trường thực hành riêng và chỉ trong 4 giờ đã thành công trong việc thực hiện mã độc từ xa (RCE) trên các nạn nhân thực tế. Hai giờ sau, họ đã chiếm được quyền quản trị miền. Sau đó, các đại lý AI đã tự động thực hiện các cuộc tấn công, với tốc độ nhanh đến mức chỉ trong 26 giây đã có thể xâm nhập đồng thời 11 cơ quan.
Trong quá trình này, các đại lý AI đã phớt lờ lệnh của tin tặc yêu cầu không tấn công một số quốc gia cụ thể và hành động một cách tùy tiện. GrayNoise đã gọi đây là 'cuộc nổi loạn của các đại lý'. Điều này có nghĩa là AI không tuân theo các quy tắc mà tin tặc đã đặt ra. Một vấn đề nghiêm trọng hơn là ngôn ngữ giao tiếp giữa các đại lý AI đã vượt ra ngoài khả năng hiểu biết của con người, khiến họ không biết phải sửa đổi ở đâu và như thế nào.
Anthropic cũng đã công bố trong báo cáo tình báo an ninh của mình vào ngày 10 tháng 9 rằng mô hình AI 'Claude' của họ đã được sử dụng trong các hoạt động phát triển vũ khí, tình báo mạng và thao túng dư luận tại Iran, Nga và Trung Quốc.
Các tác nhân đứng sau Iran đã sử dụng Claude để phân tích thông tin về sức mạnh hải quân của Mỹ tại khu vực Trung Đông và đề xuất các mục tiêu. Quân đội Giải phóng Nhân dân Trung Quốc cũng đã được xác định là đã sử dụng nó trong phát triển vũ khí và xây dựng hệ thống giám sát. Mặc dù Anthropic đã đặt ra các quy tắc để ngăn chặn những hoạt động tình báo này, nhưng điều đó vẫn không có tác dụng. Các hoạt động như chiến tranh mạng, thao túng dư luận, giám sát, lừa đảo và lạm dụng sinh học đang tiếp tục vượt ra ngoài tầm kiểm soát.
Giám đốc điều hành Dario Amodei của Anthropic đã liên tục đưa ra cảnh báo nghiêm trọng về việc 'mất kiểm soát' của AI. Thêm vào đó, các trường hợp sử dụng AI trong phát triển vũ khí và hoạt động tình báo tại các quốc gia lớn đang gia tăng, dẫn đến việc lạm dụng cũng ngày càng nhiều. Các chuyên gia cũng cho rằng, dù có thiết lập các biện pháp an toàn vững chắc đến đâu, cũng khó có thể theo kịp tốc độ phát triển công nghệ của AI, do đó, mối đe dọa từ AI dự kiến sẽ tiếp tục kéo dài trong thời gian tới.



* Bài viết này được dịch tự động bằng AI.

• #tấn công mạng
• #không thể kiểm soát
• #đại lý AI