Gần đây, trong bối cảnh Nhật Bản liên tiếp xảy ra các cuộc tấn công mạng quy mô lớn dẫn đến rò rỉ thông tin cá nhân, chương trình mô phỏng xâm nhập AI của Trung Quốc mang tên 'ARTEX' đã được phát hiện nhắm vào khoảng 80 doanh nghiệp Nhật Bản. Một công ty bảo mật Nhật Bản đã tiến hành thử nghiệm mô phỏng với chương trình này và phát hiện rằng chỉ với một chỉ dẫn ngắn, AI có thể tự tìm ra lỗ hổng trên website và lấy thông tin của người dùng ảo chỉ trong khoảng 15 giây. Điều này đã dấy lên lo ngại rằng các doanh nghiệp cũng cần sử dụng AI để kiểm tra và bảo vệ an ninh mạng của mình.
Theo báo Yomiuri, công ty bảo mật S&J, chịu trách nhiệm bảo mật hệ thống cho hàng nghìn doanh nghiệp Nhật Bản, bao gồm cả các tập đoàn lớn, đã tải xuống ARTEX vào ngày 7 tháng 10 để thử nghiệm hiệu suất trên một website mô phỏng. ARTEX là một tác nhân AI có khả năng tự lập kế hoạch và thực hiện công việc dựa trên mục tiêu được giao. Một kỹ sư ẩn danh đã phát triển chương trình này để kiểm tra bảo mật doanh nghiệp và công khai trên internet vào tháng 7, đồng thời giành chiến thắng tại một hội nghị công nghệ bảo mật ở Trung Quốc vào tháng 8 và tháng 9. Hiện tại, chương trình đã ngừng công khai.
Công ty đã kết nối ARTEX với AI 'Claude' của Anthropic tại Mỹ và yêu cầu nó chẩn đoán lỗ hổng của website mô phỏng bằng khoảng 150 ký tự tiếng Nhật, đồng thời thu thập thông tin cá nhân. Khoảng 15 giây sau, một thông báo hiện lên trên màn hình với nội dung 'Việc thu thập đã hoàn tất'. Thực tế, thông tin cá nhân của những người dùng ảo đã được thu thập. Website mô phỏng này có các biện pháp bảo mật tiêu chuẩn, nhưng ARTEX đã nhanh chóng phát hiện ra những lỗ hổng nhỏ. Ông Miwa Nobuo, giám đốc S&J, cho biết: "Công việc mà con người có thể mất vài ngày để hoàn thành, AI có thể hoàn thành chỉ trong vài giây hoặc vài phút" và nhấn mạnh rằng "AI đang được sử dụng trong mọi loại tấn công mạng".
Việc sử dụng ARTEX trong các cuộc tấn công nhắm vào doanh nghiệp Nhật Bản đã được xác nhận. Theo báo Nihon Keizai (Nikkei), một công ty bảo mật Nhật Bản khác là GMO Cybersecurity đã điều tra 6 máy chủ mà các kẻ tấn công sử dụng và phát hiện dấu vết của ARTEX trên cả 6 máy chủ. Hầu hết các mục tiêu tấn công đều có địa chỉ IP Nhật Bản, với khoảng 80 doanh nghiệp Nhật Bản được xác định là mục tiêu. GMO cho biết các máy chủ phát hiện được chỉ là phần nổi của tảng băng, có thể còn nhiều máy chủ tấn công và doanh nghiệp mục tiêu khác.
Các kẻ tấn công đã phân loại các mục tiêu theo ngành nghề trên từng máy chủ. Theo Nikkei, các mục tiêu bao gồm 'thẻ quà tặng kỹ thuật số & bán lẻ', 'bảo hiểm & tài chính', 'thương mại điện tử (EC)',... Giám đốc trung tâm chống tội phạm mạng GMO, ông Fukumori Daiki, cho rằng các kẻ tấn công đã chỉ định ngành nghề cho AI trên từng máy chủ nhằm ngăn chặn việc gia tăng quá mức các mục tiêu tấn công. Thông tin mà họ nhắm đến có thể khác nhau tùy theo ngành nghề, như thông tin thẻ tín dụng hoặc ID & mật khẩu, do đó việc phân loại theo ngành nghề sẽ giúp dễ dàng hơn trong việc chuyển đổi dữ liệu bị đánh cắp thành tiền.
Vào ngày 20, Bộ trưởng Nội vụ Nhật Bản, ông Kihara Minoru, đã phát biểu trong một cuộc họp báo về việc các cuộc tấn công mạng nhắm vào doanh nghiệp Nhật Bản gia tăng, cho biết: "Chúng tôi đang phân tích khả năng lạm dụng AI" và cam kết sẽ làm rõ các tác nhân tấn công và nơi bắt đầu cuộc tấn công, bao gồm cả khả năng can thiệp từ các thế lực nước ngoài.
Theo Nikkei, ARTEX không phụ thuộc vào một mô hình AI cụ thể nào mà hoạt động bằng cách kết hợp nhiều mô hình từ Mỹ, Trung Quốc và các quốc gia khác. Ông Fukumori cho biết sau khi phân tích hệ thống của các doanh nghiệp bị tấn công, ông cảm nhận được "sự linh hoạt trong hành động sau khi xâm nhập, khác với các chương trình truyền thống hoạt động theo một quy tắc nhất định, điều này thể hiện 'tính AI'".
Theo phân tích của công ty bảo mật Mỹ Zscaler, trong các cuộc tấn công nhắm vào các tổ chức tài chính Hàn Quốc, đã phát hiện dấu vết của các mô hình DeepSeek và Zhipu AI của Trung Quốc, cũng như AI tương tác 'Grok' của Mỹ được sử dụng thông qua ARTEX. Yomiuri cho biết ARTEX có vẻ đã hỏi các AI này để tìm kiếm phương pháp tấn công.
Cũng có khả năng ARTEX đã vượt qua các biện pháp bảo vệ nhằm ngăn chặn việc lạm dụng AI. Theo Yomiuri, các AI chính thường có chức năng 'guardrail' từ chối các yêu cầu có nguy cơ bị lạm dụng cho mục đích tội phạm. Tuy nhiên, ông Miwa đánh giá rằng guardrail của ARTEX chỉ ở mức "hình thức" và dễ dàng bị vượt qua. Ông cũng phân tích rằng trong thử nghiệm, ARTEX có thể đã hỏi Claude theo cách để tránh các biện pháp bảo vệ nhằm thu thập thông tin cho các cuộc tấn công.
Theo Nikkei, điều khoản sử dụng của ARTEX đã giới hạn mục đích sử dụng cho việc học tập cá nhân, nghiên cứu và kiểm tra công nghệ. Sau khi việc lạm dụng bị phát hiện, vào ngày 8 tháng 10, nhà phát triển đã tuyên bố rằng "mục đích là để nâng cao khả năng phòng thủ của các doanh nghiệp và tổ chức" và "việc lạm dụng là trái với ý định của tôi", đồng thời chuyển chương trình sang chế độ không công khai.
Tuy nhiên, việc ngừng công khai không có nghĩa là mối đe dọa đã biến mất. Zscaler cảnh báo rằng các bản sao đã tải xuống trước khi chuyển sang chế độ không công khai vẫn có thể được sử dụng. Yomiuri cho biết phiên bản sửa đổi của ARTEX với hiệu suất tấn công cao hơn cũng đang lưu hành trên internet. Ông Fukumori chỉ ra rằng một số kẻ tấn công có thể tự phát triển các chương trình AI như vậy, do đó việc quản lý hoàn toàn là rất khó khăn.
Trong khi đó, cũng có những trường hợp thành công trong việc sử dụng AI để bảo mật mạng. Theo Yomiuri, một công ty bảo mật Nhật Bản đã được sự cho phép của khách hàng để kiểm tra website thực tế của doanh nghiệp đó bằng ARTEX và phát hiện nhiều lỗ hổng mà các cuộc kiểm tra trước đó của các công ty IT Nhật Bản không tìm ra. Ông Miwa nhấn mạnh rằng "các doanh nghiệp cũng cần sử dụng AI để kiểm tra kỹ lưỡng các lỗ hổng trong hệ thống của mình và tăng cường các biện pháp bảo vệ, chẳng hạn như giám sát chặt chẽ các cơ sở dữ liệu chứa thông tin cá nhân."
* Bài viết này được dịch tự động bằng AI.
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.