Hàn Quốc Đối Mặt Với Thách Thức Đánh Giá An Toàn AI Trước Sự Bùng Nổ Của Các Mô Hình Tiên Tiến

Các giám đốc điều hành (CEO) của các công ty công nghệ lớn tại Mỹ đang liên tục cảnh báo về những rủi ro của trí tuệ nhân tạo (AI), dẫn đến nhu cầu tăng cao về việc kiểm tra an toàn cho các mô hình tiên tiến. Tại Hàn Quốc, Viện Nghiên cứu An toàn AI đang đảm nhận nhiệm vụ này, nhưng cơ sở hạ tầng hiện tại không đủ để theo kịp tốc độ phát triển mô hình.
Theo thông tin từ Viện Nghiên cứu An toàn AI vào ngày 16 tháng 9, viện này đang sử dụng 16 chiếc GPU H200 của NVIDIA để đánh giá an toàn cho các mô hình AI được đưa vào Hàn Quốc.
Các mô hình AI mới nhất thường phải xử lý khoảng 900 đến 1.500 nhiệm vụ phức tạp trước khi kết quả được kiểm tra an toàn. Với 16 chiếc H200 hiện có, việc đánh giá một mô hình mất từ 7 đến 10 ngày. Chi phí cho một lần chạy benchmark cũng lên tới 50 đến 60 triệu won.
Trong tháng 3, Viện Nghiên cứu An toàn AI đã đánh giá 6 mô hình, nhưng con số này đã tăng lên 11 vào tháng trước. Tốc độ phát triển của hơn 10 mô hình tiên tiến mỗi tháng khiến viện không thể theo kịp.
Giám đốc Viện Nghiên cứu An toàn AI, Kim Myung-joo (giáo sư khoa bảo mật thông tin tại Đại học Seoul), cho biết: "Nhu cầu đánh giá đang tăng cao" và cho biết thêm rằng viện đang thuê thêm tài nguyên tính toán từ các phiên đám mây thương mại khi cần thiết.
Do thiếu cơ sở hạ tầng, viện ưu tiên đánh giá các mô hình nhạy cảm về an ninh và an toàn. Điều này dẫn đến việc một số mô hình AI chưa được kiểm tra an toàn đã được sử dụng trên thị trường trong nước.
Mô hình hiện đang được ưu tiên đánh giá là mô hình tiên tiến 'GLM 5.3' do công ty Zhipu AI của Trung Quốc phát triển. Gần đây, một phiên bản biến thể của GLM 5.3 đã bị gỡ bỏ các thiết bị an toàn và đang được lưu hành trên Internet, do đó cần phải xác minh khả năng bị lạm dụng thực tế.
Mô hình không có thiết bị an toàn có thể tạo ra các lỗ hổng phần mềm hoặc mã tấn công mà một AI bình thường sẽ từ chối trả lời. Điều này có thể dẫn đến việc cung cấp thông tin nguy hiểm trong các lĩnh vực hóa học và sinh học, vì vậy viện đang xem xét mức độ mà mô hình này có thể đáp ứng các yêu cầu nguy hiểm.
Viện Nghiên cứu An toàn cũng đã bắt đầu đánh giá mô hình tiên tiến 'Astra' mà OpenAI vừa công bố. Giám đốc Kim cho biết: "Việc đánh giá nhiều mô hình đồng thời sẽ mất thời gian để có kết quả."
Các chuyên gia chỉ ra rằng việc chỉ sử dụng 16 chiếc H200 sẽ không đủ để đánh giá toàn diện an toàn của mô hình tiên tiến như Astra. Để thực hiện các cuộc tấn công mô hình (red teaming) và giám sát thời gian thực, cần có các mô hình và tài nguyên tính toán tương tự như mô hình đang được đánh giá.
Giáo sư Choi Byung-ho tại Viện Nghiên cứu AI của Đại học Korea cho biết: "Nghiên cứu an toàn cũng cần nhiều tài nguyên như nghiên cứu nâng cao hiệu suất mô hình" và nhấn mạnh rằng cần có không chỉ GPU mà còn cả điện năng, không gian và khung công tác để vận hành. Ông cũng cho biết: "Việc chỉ đánh giá một mô hình là không đủ, vì vậy cần phải sử dụng các tài nguyên có sẵn như API và mô hình mã nguồn mở để thực hiện đánh giá đa mô hình."
Trong khi đó, cuộc tranh luận về tốc độ phát triển AI và an toàn cũng đang diễn ra trong ngành công nghiệp AI toàn cầu. Theo các nguồn tin nước ngoài, các quan chức cấp cao của chính quyền Trump đã gặp gỡ các giám đốc điều hành cấp cao của Anthropic vào ngày 15 tháng 9 (theo giờ địa phương) để thảo luận về vấn đề an toàn AI.
Dario Amodei, CEO của Anthropic, cho rằng cần phải làm chậm tốc độ phát triển AI để có thời gian hoàn thiện các thiết bị an toàn, trong khi Tổng thống Donald Trump lại phản đối việc điều chỉnh tốc độ phát triển vì lý do cạnh tranh AI với Trung Quốc.



* Bài viết này được dịch tự động bằng AI.

• #tài nguyên tính toán
• #mô hình tiên tiến
• #an toàn AI