New York tổ chức phiên điều trần về quy định AI đầu tiên trong lịch sử

 “Trung Quốc không phải là kẻ thù duy nhất của chúng ta. AI đang đi sai hướng có thể trở thành kẻ thù của tất cả, và có thể mạnh hơn cả Trung Quốc trong tương lai.” <Cựu nhà nghiên cứu Google DeepMind, Alex Turner>

"Nếu tiếp tục như hiện tại, khả năng nhân loại mất kiểm soát đối với AI sẽ cao hơn. Mặc dù nguy cơ từ AI là rất lớn, nhưng các công ty liên quan lại hành động rất liều lĩnh."  <Cựu nhà nghiên cứu Anthropic, Jacob Coxon>

"Có khả năng thực tế rằng AI có thể bị lợi dụng để trở thành một nhà độc tài ở Mỹ." <Cựu nhà nghiên cứu OpenAI, Daniel Cocktail>

Hội đồng thành phố New York đã tổ chức một phiên điều trần về nguy cơ từ AI vào ngày 5 tháng 10, trong đó các nhà nghiên cứu đã cảnh báo rằng AI có thể thoát khỏi sự kiểm soát của con người. 
 
Theo các báo cáo từ CBS và các nguồn khác, Jacob Coxon, cựu nhà nghiên cứu của Anthropic, đã cảnh báo rằng nếu tốc độ phát triển hiện tại tiếp tục, AI có thể thoát khỏi sự kiểm soát của con người và dẫn đến nguy cơ diệt vong cho nhân loại. 

Ông cho rằng AI đang tiến gần đến giai đoạn tự nâng cao hiệu suất bằng cách thực hiện phần lớn các công việc nghiên cứu và phát triển của con người. Ông cũng chỉ trích văn hóa của các công ty AI, cho rằng họ có xu hướng "hành động nhanh chóng và sửa chữa sau".

Daniel Cocktail, cựu nhà nghiên cứu của OpenAI, đã cảnh báo rằng “dù các công ty có giữ được quyền kiểm soát, nhưng không nên giao quyền kiểm soát đó cho các công ty”, đồng thời nhấn mạnh rằng “có khả năng thực tế rằng AI có thể bị lợi dụng để trở thành một nhà độc tài ở Mỹ.”

Phiên điều trần này diễn ra trong bối cảnh Hội đồng thành phố New York đang xem xét các dự luật quy định về AI và đã mời các công ty AI lớn cùng các nhà nghiên cứu tham gia để thảo luận về tính an toàn và nguy cơ của AI. New York cho biết đây là lần đầu tiên một phiên điều trần giám sát AI được tổ chức không chỉ ở Mỹ mà còn trên toàn thế giới.

Trong phiên điều trần, các đại diện từ các công ty AI lớn như Anthropic, OpenAI, Google và Meta cũng đã tham gia qua video. Logan Graham, trưởng nhóm Red Team của Anthropic, Morgan Dwyer, giám đốc phát triển chính sách và vận hành của OpenAI, Alice Friend, giám đốc chính sách AI và công nghệ mới của Google, và Shane Cahill, giám đốc chính sách lập pháp AI của Meta, đã tuyên thệ và đưa ra lời khai. Đây là lần đầu tiên các công ty AI lớn tham gia phiên điều trần trước cơ quan lập pháp để thảo luận về nguy cơ và quy định liên quan đến AI.

Tuy nhiên, SpaceXAI do Elon Musk lãnh đạo đã không tuân thủ lệnh triệu tập tham dự phiên điều trần. New York dự định sẽ yêu cầu Tòa án Tối cao bang New York can thiệp nếu công ty này tiếp tục không tuân thủ.
 
Chủ tịch Hội đồng thành phố New York, Julie Menin, đã giải thích rằng chính phủ liên bang đang phụ thuộc vào quy định tự quản của các công ty AI, và New York cần phải tự mình hành động. Bà chỉ trích chính phủ liên bang vì đã có cách tiếp cận thụ động khi Tổng thống Donald Trump ký thỏa thuận tự nguyện với các lãnh đạo công ty AI vào tuần trước tại Washington. 

Bà Menin cũng cho biết sẽ hỏi ý kiến về quan điểm của các công ty đối với thiệt hại do AI gây ra, cũng như các dự luật mà New York đang thúc đẩy. 

Thực tế, Hội đồng thành phố New York hiện đang xem xét 10 dự luật quy định về AI. Các dự luật này bao gồm: ▲ Hạn chế việc tạo và sử dụng hình ảnh, video AI của công chức mà không có sự cho phép ▲ Bắt buộc kiểm tra bên thứ ba đối với các mô hình AI ▲ Bắt buộc có chức năng kỹ thuật cho phép con người tắt mô hình AI (kill switch) ▲ Bảo vệ thông tin cá nhân của người dùng AI chatbot ▲ Hệ thống thưởng cho người tố cáo liên quan đến AI ▲ Quyền khởi kiện cá nhân cho những công dân bị thiệt hại bởi AI để kiện các công ty. 

Theo các báo cáo, bà Menin đã đặt ra những câu hỏi sắc bén cho các đại diện công ty AI như “Có thể đưa ra con số cụ thể về mức độ nguy hiểm không?” và "Nếu các mô hình AI tiên tiến thoát khỏi sự kiểm soát và gây ra thiệt hại tài chính nghiêm trọng hoặc rò rỉ dữ liệu nhạy cảm, gây tổn hại về thể chất hoặc dẫn đến cái chết, liệu các công ty có nên chịu trách nhiệm pháp lý không?” điều này đã tạo ra bầu không khí căng thẳng. 

Các đại diện đã trả lời rằng "không muốn trả lời không chính xác về việc định lượng nguy cơ" và “hiện tại không có hệ thống liên quan nào”, đồng thời nhấn mạnh rằng họ rất coi trọng trách nhiệm về an toàn. 

Phiên điều trần này diễn ra trong bối cảnh lo ngại ngày càng tăng về an toàn AI. Gần đây, các nhà nghiên cứu hiện tại và cựu của OpenAI và Google DeepMind cũng đã cảnh báo rằng AI đang phát triển quá nhanh với khả năng tự cải thiện hiệu suất liên tục, được gọi là 'cải tiến tự hồi quy (RSI)'.

Ủy ban Thương mại Liên bang Mỹ (FTC) cũng đã thông báo rằng họ đang điều tra các sản phẩm của các công ty AI như OpenAI và Anthropic về những nguy cơ mà chúng có thể gây ra cho người tiêu dùng.