Gia tăng tấn công nhắm vào mô hình AI, S2W công bố chiến lược bảo mật mới

Đề xuất 4 loại tấn công AI: thao tác đầu vào, xâm phạm tính toàn vẹn, danh tính tổng hợp Hạn chế của hệ thống bảo mật hiện tại, cần đối phó với điểm yếu trong cấu trúc logic AI

Ngày 15 tháng 4, S2W tổ chức hội thảo chiến lược bảo mật thời đại AI tại trụ sở chính ở Seongnam Pangyo. [Ảnh=S2W]

[Kinh tế Nhật báo] Sự phát triển của công nghệ trí tuệ nhân tạo (AI) đang dẫn đến sự gia tăng của các cuộc tấn công mạng mới, vượt qua hệ thống bảo mật truyền thống, khiến các doanh nghiệp cần thay đổi chiến lược bảo mật. Đặc biệt, các cuộc tấn công nhắm vào mô hình AI đang gia tăng, đòi hỏi phải xây dựng hệ thống bảo mật chuyên biệt cho AI.

Ngày 16 tháng 4, công ty phân tích dữ liệu lớn AI S2W đã tổ chức hội thảo riêng tại trụ sở chính ở Seongnam Pangyo với chủ đề "Chiến lược bảo mật mới trong thời đại AI: Giải pháp từ các trường hợp thực tế". Tại đây, S2W đã chia sẻ các trường hợp đe dọa bảo mật dựa trên AI và các biện pháp đối phó.

Theo S2W, các cuộc tấn công mới đã xuất hiện cùng với sự phát triển của công nghệ AI. Các phương thức tấn công đặc thù AI bao gồm "thao tác đầu vào", "xâm phạm tính toàn vẹn", "liên kết đại lý" và "danh tính tổng hợp".

"Thao tác đầu vào" là cách tấn công thông qua việc tiêm prompt hoặc kỹ thuật jailbreak để vượt qua các biện pháp bảo vệ của mô hình ngôn ngữ lớn (LLM), dẫn đến rò rỉ thông tin nhạy cảm hoặc thực hiện các lệnh không mong muốn. "Xâm phạm tính toàn vẹn" là tấn công thông qua đầu độc dữ liệu và backdoor, làm ô nhiễm dữ liệu học hoặc cơ sở kiến thức RAG.

"Liên kết đại lý" sử dụng các đại lý AI xử lý dữ liệu bên ngoài như email hoặc trang web để thực hiện tấn công gián tiếp. "Danh tính tổng hợp" sử dụng công nghệ deepfake và nhân bản giọng nói để tạo ra danh tính giả mạo tinh vi, đe dọa hệ thống bảo mật của doanh nghiệp.

Các cuộc tấn công thực tế vào mô hình AI cũng đã được ghi nhận, khi người dùng sử dụng các kỹ thuật prompt engineering để vượt qua các biện pháp bảo vệ của AI và thu thập thông tin nội bộ. S2W cho biết, chỉ cần một cuộc hội thoại đơn giản cũng có thể làm cho mô hình AI trở nên dễ bị tổn thương.

S2W cũng tiết lộ các trường hợp tấn công mà kẻ tấn công có thể trích xuất mã nhận dạng nội bộ, đánh cắp prompt hệ thống, thậm chí đặt vé máy bay miễn phí. Không chỉ mô hình AI mà toàn bộ cấu trúc hệ thống kết nối với AI cũng có thể trở thành mục tiêu tấn công.

Trong môi trường AI, bảo mật truyền thống không đủ để đối phó. Bảo mật AI cần tập trung vào việc bảo vệ logic phán đoán và cấu trúc nhận thức của mô hình. Do đó, cần chuyển từ bảo mật tập trung vào ngăn chặn sang hệ thống bảo mật tập trung vào phát hiện và đối phó theo thời gian thực.

Với đặc tính AI khó bảo vệ hoàn toàn, việc quản lý lỗ hổng và thử nghiệm tấn công liên tục trở nên quan trọng. Các doanh nghiệp cần tăng cường chiến lược đối phó bằng cách kiểm tra trước các rủi ro có thể xảy ra trong quá trình vận hành dịch vụ AI.

Ông Yang Jong-heon, Trưởng bộ phận Offensive của S2W, cho biết: "Mục tiêu của bảo mật sử dụng AI là phát hiện nhanh chóng các nỗ lực vượt qua và xây dựng hệ thống phòng thủ động để tăng chi phí và khả năng từ bỏ của kẻ tấn công. Chúng tôi sẽ tiếp tục nâng cao nghiên cứu offensive từ góc độ của kẻ tấn công và cung cấp các hành động cụ thể để giảm bớt lo ngại trong thời đại AI."

* Bài viết này được dịch tự động bằng AI.

Ryu Cheongbit cbryu@kyungjeilbo.com