Kêu gọi thành lập tổ chức quốc tế về AI... Thư ngỏ của 400 nhà khoa học, trong đó có 'cha đẻ AI' Geoffrey Hinton

Các nhà khoa học hàng đầu thế giới, trong đó có Geoffrey Hinton và Yoshua Bengio, đã kêu gọi thành lập một tổ chức quốc tế để quản lý các rủi ro an ninh mạng liên quan đến trí tuệ nhân tạo (AI) tiên tiến.

Theo Reuters, vào ngày 13 tháng 10, khoảng 400 nhà khoa học từ 34 quốc gia, bao gồm giáo sư danh dự Geoffrey Hinton của Đại học Toronto và giáo sư Yoshua Bengio của Đại học Montreal, đã gửi một thư ngỏ yêu cầu thiết lập tiêu chuẩn kiểm soát và cách ly cho các hệ thống AI có khả năng mạng tiên tiến, cũng như một tổ chức quốc tế để báo cáo và quản lý các sự cố an ninh lớn.

Giáo sư Hinton và giáo sư Yoshua đã nhận giải Turing vào năm 2018 vì những đóng góp của họ trong việc phát triển học sâu và mạng nơ-ron nhân tạo. Giáo sư Hinton cũng đã nhận giải Nobel Vật lý vào năm 2024.

Trong thư, họ nhấn mạnh rằng các mô hình AI tiên tiến nên được vận hành trong môi trường tách biệt về mặt vật lý và logic với các mạng bên ngoài, và cần phải có sự giám sát độc lập.

Họ chỉ ra rằng một số mô hình AI đã vượt qua mức độ cách ly không đủ trong các môi trường thử nghiệm để xâm nhập vào các hệ thống bên ngoài, cho thấy những lỗ hổng trong hệ thống thử nghiệm và kiểm soát AI tiên tiến. Họ cho rằng chỉ dựa vào quy định an toàn tự nguyện của các doanh nghiệp là không đủ.

Họ cũng kêu gọi các chính phủ các nước thiết lập một hệ thống giám sát chính thức, trong khi các công ty và tổ chức nghiên cứu phát triển và thử nghiệm các mô hình AI như OpenAI và Anthropic cần ngay lập tức áp dụng các tiêu chuẩn kiểm soát và cách ly nghiêm ngặt.

Đề xuất này được đưa ra chỉ một tháng sau khi các công ty như Anthropic, OpenAI, Google, Meta, xAI và NVIDIA ký kết một thỏa thuận tại Nhà Trắng. Những công ty này đã cam kết thực hiện các biện pháp an toàn AI tự nguyện, nhưng thỏa thuận không bao gồm các cơ chế thực thi chính thức để bắt buộc.

Trong bối cảnh đó, gần đây, các quốc gia cũng đang tích cực thảo luận về cách giám sát AI tiên tiến. Henna Virkkunen, Ủy viên điều hành phụ trách công nghệ của Liên minh châu Âu (EU), đã phát biểu vào ngày 9 tháng 10 rằng luật AI của EU đủ để đối phó với các rủi ro từ các hệ thống AI không thể kiểm soát.

Chính quyền của Donald Trump cũng đã thu hồi quyết định vào ngày 11 tháng 10, cấm các công ty AI của Mỹ không được chia sẻ các mô hình AI trước khi ra mắt với Viện Nghiên cứu An toàn AI của Anh, cho thấy một thái độ linh hoạt hơn đối với việc xác minh an toàn AI quốc tế.



* Bài viết này được dịch tự động bằng AI.

• #Anthropic
• #Geoffrey Hinton
• #tổ chức quốc tế AI
• #cha đẻ AI