Ngân sách an toàn AI tăng 31 tỷ đồng, nhưng chỉ 1,53 tỷ đồng cho đánh giá và ứng phó rủi ro

Trong bối cảnh các cuộc tấn công mạng nghi ngờ sử dụng đại lý AI đang gia tăng trong lĩnh vực tài chính tại Hàn Quốc, ngân sách đánh giá rủi ro của AI vẫn gần như không thay đổi. Ngân sách liên quan đến Viện Nghiên cứu An toàn AI cho năm tới tăng 24% so với năm nay, nhưng phần lớn số tiền tăng này lại tập trung vào nghiên cứu và phát triển (R&D), dẫn đến ngân sách thực tế cho việc đánh giá mô hình AI và ứng phó với các mối đe dọa gần như không thay đổi.
Ngày 6 tháng 10, theo tài liệu từ Bộ Khoa học, Công nghệ và Truyền thông do đại biểu Lee Jeong-heon thuộc Đảng Dân chủ nhận được, ngân sách chính phủ cho Viện Nghiên cứu An toàn AI năm 2027 là 159 tỷ 440 triệu won, tăng 23,8% so với năm nay.
Ngân sách tăng chủ yếu đến từ R&D. Ngân sách cho nghiên cứu phát triển công nghệ an toàn AI nhằm phát triển AI đáng tin cậy có thể đồng sống đã tăng từ 39 tỷ 750 triệu won lên 68 tỷ 910 triệu won, tương đương 73,3%. Khoảng 95% số tiền tăng này thuộc về R&D. Bộ Khoa học, Công nghệ và Truyền thông sẽ tiếp tục hỗ trợ nghiên cứu phát hiện chống lại deepfake và phục hồi từ các cuộc tấn công, đồng thời triển khai hai dự án mới nhằm nâng cao công nghệ đánh giá và xác minh an toàn AI.
Ngược lại, ngân sách không phải R&D để đánh giá thực tế các mô hình AI đã phát hành và hợp tác với các cơ quan an toàn trong và ngoài nước, cũng như phân tích các xu hướng đe dọa chỉ tăng từ 89 tỷ lên 90 tỷ 530 triệu won, tương đương 1,7%. Mặc dù ngân sách nghiên cứu cho phát triển công nghệ đánh giá trung và dài hạn đã được mở rộng, nhưng ngân sách vận hành để đáp ứng nhu cầu đánh giá mô hình đang gia tăng gần như không thay đổi.
Áp lực đánh giá tại Viện Nghiên cứu An toàn AI đang gia tăng nhanh chóng. Số lượng mô hình AI được viện này đánh giá đã tăng khoảng 83%, từ 6 mô hình vào tháng 3 lên 11 mô hình vào tháng 8. Thông thường, việc đánh giá một mô hình AI dạng đại lý mất từ 7 đến 10 ngày, và việc đánh giá các mối đe dọa mạng chỉ mất từ 3 đến 4 ngày. Chi phí cho một lần chạy benchmark cũng lên tới 50 triệu đến 60 triệu won.
Viện cũng đang phụ thuộc vào hỗ trợ bên ngoài cho các GPU hiệu suất cao. Phòng đánh giá của viện đang sử dụng hai máy chủ B200 và 16 GPU từ dự án AI quốc gia để đánh giá các mô hình AI quy mô lớn và tiên tiến. Hiện tại, viện không có kế hoạch mua thêm GPU hoặc số lượng đã được xác nhận cho các lần mua trong tương lai. Viện dự định sẽ đảm bảo thêm nguồn lực thông qua việc thuê.
Đại biểu Lee Jeong-heon đã chỉ trích rằng "Việc chỉ tăng ngân sách R&D dài hạn mà bỏ qua việc cần thiết phải kiểm tra ngay lập tức các rủi ro từ AI tiên tiến toàn cầu trong thời gian thực, đồng thời để cơ sở hạ tầng GPU của 'phòng đánh giá an toàn' ở mức đóng băng là một hành động hành chính nghiêm trọng, có thể khiến quốc gia bỏ lỡ thời điểm vàng trong an ninh mạng."
Ông nhấn mạnh rằng "Với khả năng AI tự tìm kiếm điểm yếu và thiết kế các lộ trình xâm nhập đang trở thành mối đe dọa thực tế, cần phải mở rộng nhân lực đánh giá chuyên trách của quốc gia, ngân sách vận hành và tài nguyên tính toán để không chỉ ứng phó sau mà còn kiểm tra và kiểm soát khả năng tấn công của các mô hình AI từ trước."



* Bài viết này được dịch tự động bằng AI.

• #tấn công mạng
• #đại lý AI
• #Viện Nghiên cứu An toàn AI