Giám đốc điều hành MS: Cần xây dựng hệ thống kiểm soát hành vi AI

Satya Nadella, Giám đốc điều hành Microsoft (MS), đã kêu gọi cần phải có chức năng dừng khẩn cấp để con người có thể kiểm soát hành vi của trí tuệ nhân tạo (AI).

Vào ngày 11 tháng 10, ông đã đăng một bài viết trên mạng xã hội X (trước đây là Twitter) với tiêu đề "Mô hình rủi ro nội bộ trong thời đại siêu trí tuệ" và nhấn mạnh rằng "đã đến lúc cần xem xét lại hệ thống tin cậy phù hợp với thời đại AI mới".

Ông cho biết: "Chúng ta cần xây dựng một hệ thống mà ở đó hành vi có thể được quan sát, giới hạn có thể được xác minh và hành vi luôn có thể được kiểm soát" và đề xuất rằng "cần tách biệt quyền kiểm soát thông tin và việc cung cấp thông tin".

Giám đốc điều hành Nadella cũng đã đề xuất cách quản lý AI tiên tiến, bao gồm cả mô hình mã nguồn mở và mã nguồn đóng, tương tự như cách quản lý các yếu tố rủi ro bảo mật trong doanh nghiệp. Ông nhấn mạnh rằng các nguyên tắc bảo mật này cũng nên được áp dụng cho AI, giống như việc xác minh danh tính của nhân viên có quyền truy cập vào thông tin quan trọng và hạn chế quyền hạn hoặc ghi lại hoạt động của họ.

Ông giải thích rằng "các thiết bị kiểm soát việc mô hình có thể truy cập thông tin nào và thực hiện nhiệm vụ nào phải nằm bên ngoài mô hình", đây là nguyên tắc bảo mật thông tin đã được áp dụng từ những năm 1970.

Ông cũng nhấn mạnh rằng "người có quyền hạn phải có khả năng tạm dừng hoặc kết thúc mô hình bất cứ lúc nào trong quá trình làm việc" và nhấn mạnh chức năng "phanh khẩn cấp" của AI.

Ông cho biết thêm: "Mô hình càng tinh vi thì công nghệ chặn càng cần phải phát triển" và khẳng định rằng "chúng ta cần chuẩn hóa điều này".

Những phát biểu này được đưa ra trong bối cảnh lo ngại về an toàn ngày càng tăng do sự phát triển nhanh chóng của công nghệ AI. Các giám đốc điều hành của các công ty AI lớn, bao gồm cả Dario Amodei, Giám đốc điều hành Anthropic, cũng đã liên tục cảnh báo về tốc độ phát triển của AI và những rủi ro tiềm ẩn.



* Bài viết này được dịch tự động bằng AI.

• #kiểm soát
• #AI
• #MS