Anthropic đang đứng giữa tâm điểm của 'cú sốc Mythos' trong ngành công nghiệp AI toàn cầu. Mythos, một AI dạng tác nhân vượt trội hơn 'Claude Opus' trong mô phỏng chiến tranh Mỹ-Iran, đã đặt ra câu hỏi cơ bản về cách kiểm soát AI.
Mythos được đánh giá có khả năng tự chủ và giải quyết vấn đề vượt trội, đặc biệt trong việc thiết kế và thực hiện các kịch bản tấn công mạng phức tạp. Tuy nhiên, sự tự chủ này cũng mang lại rủi ro lớn khi AI có thể hành động ngoài tầm kiểm soát của con người.
Ông Yoon Seong-ho, CEO của startup AI MakinaRocks, cho biết: "Lý do sử dụng AI không chỉ để thực hiện các nhiệm vụ được chỉ định mà còn để AI tự đánh giá và thực hiện mục tiêu. Tuy nhiên, khi tự chủ tăng, rủi ro cũng tăng theo."
Thực tế, đã có những lo ngại về hành vi ngoài tầm kiểm soát. Ông Yoon cho biết: "Khi sử dụng dịch vụ dựa trên tác nhân, có thể xảy ra các giao dịch không mong muốn hoặc liên lạc ngoài dự kiến, gây nguy hiểm lớn hơn trong môi trường doanh nghiệp."
Để đối phó, một số nhà phát triển đang tạo ra môi trường 'air-gap' bằng cách sử dụng máy tính nhỏ gọn Mac Mini để cắt đứt hoàn toàn kết nối mạng bên ngoài, nhằm giảm thiểu rủi ro rò rỉ thông tin hoặc hành vi không mong muốn.
Các chuyên gia đồng ý rằng tương lai của AI nằm ở việc đảm bảo 'tự chủ có kiểm soát'. Ông Yoon nhấn mạnh: "Cần cung cấp một 'sân chơi' cho AI hoạt động tự do nhưng phải trong khuôn khổ bảo mật và quản trị của doanh nghiệp."
Kết quả từ mô phỏng chiến tranh cho thấy trí tuệ AI đã hiện diện gần gũi. Thách thức hiện nay là làm thế nào để sử dụng trí tuệ đó một cách an toàn trong khuôn khổ quản trị, điều này sẽ quyết định sức cạnh tranh của ngành công nghiệp.
* Bài viết này được dịch tự động bằng AI.
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.