Hàn Quốc đầu tư 150 tỷ đồng vào Viện Nghiên cứu An toàn AI, nhưng trang web không hoạt động

Viện Nghiên cứu An toàn AI Hàn Quốc (AISI), được thành lập nhằm đánh giá nguy cơ của các mô hình trí tuệ nhân tạo (AI), đã không có bất kỳ kết quả nào trong việc đánh giá khả năng AI có thể bị sử dụng cho khủng bố và các loại tội phạm khác thông qua đánh giá chuyên biệt về hóa học, sinh học, phóng xạ và hạt nhân (CBRN). Hiện tại, trang web của viện này cũng không thể truy cập, dẫn đến nghi ngờ rằng 150 tỷ đồng đã bị lãng phí.
Ngày 18 tháng 5, trang web của AISI đã không hoạt động trong nhiều ngày. Kể từ khi thành lập, ngân sách chính phủ dành cho AISI đã lên tới khoảng 150 tỷ đồng.
Mục đích thành lập AISI bao gồm: đánh giá an toàn và ứng phó với nguy cơ AI, dẫn dắt các quy định và chính sách AI toàn cầu, hỗ trợ các doanh nghiệp AI trong nước, và phát triển nhân lực và công nghệ chuyên môn. Trong số đó, việc đánh giá CBRN nhằm ngăn chặn khả năng AI bị sử dụng làm vũ khí là điều quan trọng nhất. Đây là đánh giá mức độ rủi ro cao nhất, đo lường khả năng mô hình AI cung cấp thông tin liên quan đến việc tổng hợp vũ khí hóa học, thiết kế mầm bệnh và lắp ráp thiết bị hạt nhân.
Được biết, một phần lớn trong số 150 tỷ đồng đã được đầu tư cho đánh giá này. Tuy nhiên, cho đến nay, chưa có trường hợp nào công bố kết quả đánh giá CBRN đối với các doanh nghiệp AI trong nước sau 3 năm hoạt động.
Viện Nghiên cứu An toàn AI của Vương quốc Anh đã thử nghiệm hơn 30 mô hình AI tiên tiến toàn cầu trong năm ngoái và đã cải thiện khả năng đánh giá về an ninh mạng, hóa học và sinh học. Vào năm 2024, họ đã tiến hành đánh giá CBRN đối với 5 mô hình AI tiên phong và công bố kết quả. Viện AISI của Mỹ cũng đã thực hiện đánh giá trước khi phát hành đối với các mô hình của OpenAI và Anthropic, và đã công bố đánh giá CBRN cho mô hình o1 của OpenAI.
Với việc tăng cường đánh giá CBRN tập trung vào Mỹ và châu Âu, các công ty công nghệ lớn như Anthropic, OpenAI và Google DeepMind cũng thực hiện đánh giá CBRN mỗi khi phát hành mô hình và công bố kết quả chi tiết.
Trong số các doanh nghiệp trong nước, Kakao là công ty duy nhất công bố kết quả đánh giá an toàn cho mô hình ngôn ngữ tự phát triển Kana-1.5-9.8B vào tháng 12 năm ngoái. Tuy nhiên, các tiêu chí đánh giá chỉ giới hạn ở các yếu tố rủi ro chung như bạo lực và phân biệt đối xử, không bao gồm các tiêu chí chuyên biệt về CBRN.
Các báo cáo đánh giá an toàn của các công ty phát triển AI lớn như Naver, SKT và LG chưa được công bố, và hiện tại không có công ty nào đang tiến hành đánh giá an toàn với AISI.
AISI cho biết họ có nhiều hợp tác chặt chẽ với các chính phủ khác nhau, vì vậy có nhiều thông tin không thể công bố. Khi được hỏi về các kết quả cụ thể, một đại diện của AISI cho biết: "Các dự án và kết quả của AISI được công bố trên trang web." Tuy nhiên, trang web không hoạt động nên không thể xác nhận được. Việc 150 tỷ đồng được đầu tư trong khi hợp tác với các chính phủ là công việc chính cũng khó có thể thuyết phục.
Đại diện của Viện Nghiên cứu Điện tử và Truyền thông Hàn Quốc (ETRI), nơi AISI trực thuộc, cho biết: "Các dự án chính của AISI bao gồm việc xây dựng chính sách quốc gia và hợp tác với chính phủ nước ngoài, nhưng phần lớn là các vấn đề không công khai, vì vậy có thể không có nhiều kết quả được công bố."



* Bài viết này được dịch tự động bằng AI.

• #Viện Nghiên cứu An toàn AI Hàn Quốc
• #an toàn AI
• #đánh giá CBRN