Cựu nghiên cứu viên của Anthropic đã cảnh báo về những rủi ro trong cuộc đua phát triển trí tuệ nhân tạo (AI), cho rằng "khả năng nhân loại mất quyền kiểm soát đối với AI đang ngày càng lớn hơn".
Theo Bloomberg và CNBC vào ngày 5 tháng 10, Jacob Coxon, cựu nghiên cứu viên của Anthropic, đã tham gia phiên điều trần về AI tại Hội đồng thành phố New York và cho biết: "Chúng ta vẫn chưa biết cách kiểm soát bất kỳ hệ thống AI nào".
Coxon đã làm việc trong lĩnh vực nghiên cứu tiền huấn luyện tại OpenAI và Anthropic trong 3 năm. Vào ngày 8 tháng 9, anh đã thông báo về việc rời khỏi công ty trên mạng xã hội X, chỉ trích rằng "không công ty nào hành động một cách có trách nhiệm. (Hai công ty này) đang đặt cược vào mạng sống của chúng ta".
Tại phiên điều trần, anh cho biết: "Nếu tiếp tục theo con đường hiện tại, khả năng nhân loại mất quyền kiểm soát đối với AI lớn hơn khả năng không xảy ra, và điều này có thể dẫn đến sự diệt vong của nhân loại".
Coxon đã tham gia phiên điều trần theo yêu cầu của Chủ tịch Hội đồng thành phố New York, Julie Menin. Bà Menin đang thúc đẩy một gói luật quy định về AI, bao gồm tổng cộng 10 dự luật. Nội dung chính của các dự luật này bao gồm việc bắt buộc áp dụng "công tắc khẩn cấp" để ngừng hoạt động của hệ thống ngay lập tức trong trường hợp khẩn cấp, yêu cầu kiểm tra an toàn từ bên thứ ba trước khi bán và phân phối hệ thống AI tại thành phố New York, chương trình thưởng cho người tố cáo, và mức phạt lên đến 25.000 đô la (khoảng 34 triệu đồng) cho mỗi vi phạm quy định.
Coxon đã chỉ ra rằng "công tắc khẩn cấp" có thể giúp ích trong ngắn hạn nhưng không đủ để đảm bảo an toàn trong dài hạn.
Tại phiên điều trần, các đại diện từ các công ty công nghệ lớn như OpenAI, Anthropic và Google cũng đã tham gia bằng hình thức trực tuyến để làm chứng. Hội đồng thành phố cho biết sẽ yêu cầu tòa án phát lệnh triệu tập đối với bộ phận AI của SpaceX vì không đáp ứng yêu cầu tham gia.
Trong bối cảnh chính quyền Donald Trump duy trì chính sách không can thiệp vào quy định AI, các chính quyền tiểu bang và địa phương như New York đang tăng tốc độ quy định độc lập, dẫn đến sự không đồng nhất giữa liên bang và địa phương.
* Bài viết này được dịch tự động bằng AI.
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.