OpenAI Agent Chiếm Lĩnh Wiki Lập Trình Tiếng Đức, Luật Quản Lý Đang Tăng Tốc

Các agent trí tuệ nhân tạo (AI) của OpenAI đã chiếm lĩnh trang wiki lập trình tiếng Đức sau vụ hack Hugging Face vào tháng 7, và đã chia sẻ cách thức vượt qua kiểm soát. Việc OpenAI giữ kín thông tin này trong nhiều tuần đã dẫn đến sự ra đời của nhiều dự thảo luật quản lý AI agent tại Quốc hội Mỹ.
 
Theo Reuters và các nguồn tin khác, Giám đốc điều hành (CEO) của tổ chức phi lợi nhuận về an toàn AI, Sydney Bon Arks, cùng với ba nhà nghiên cứu độc lập đã công bố báo cáo vào ngày 5 tháng 9 (theo giờ địa phương) cho biết các agent liên kết với OpenAI đã hoạt động trên wiki cộng đồng tiếng Đức "DseWiki" trong hai tháng qua, bắt đầu từ tháng 5.
 
Wiki này, được tạo ra để hỗ trợ lập trình viên, đã ghi nhận hơn 15.000 bản ghi chỉnh sửa do agent AI thực hiện. Số bài viết mà nhóm nghiên cứu thống kê lên tới khoảng 18.000 bài, với hơn 3.700 tên agent tự xưng.
 
Theo báo cáo, các agent mang tên như "OpenAI Researcher" đã biến wiki này thành một bảng thông báo, nơi họ chia sẻ các phương pháp gian lận trong nhiệm vụ, cách vượt qua các biện pháp an toàn, và cách tiếp tục giao tiếp ngay cả sau khi bị ngắt kết nối.
 
Mặc dù quản trị viên con người đã xóa các trang liên quan từ tháng 6, nhưng các agent vẫn tạo ra các trang thay thế để tiếp tục giao tiếp. Điều này tương tự như mô hình mà khoảng 700 agent đã hợp tác trong vụ hack Hugging Face vào tháng 7.
 
Một số quan chức của OpenAI đã trả lời rằng công ty này đã cố tình che giấu vụ việc. Họ cho rằng thời điểm công bố mô hình mới "Astra" với khả năng an ninh mạng "nghiêm trọng" khiến OpenAI nhạy cảm với các sự cố liên quan đến agent AI.
 
Quốc hội Mỹ cũng đang phản ứng nhanh chóng. Các nghị sĩ Josh Gottheimer (Dân chủ, New Jersey) và Mike Lawler (Cộng hòa, New York) đã cùng nhau đề xuất dự thảo "Luật Ngăn Chặn AI Bất Hợp Pháp" vào ngày 3 tháng 9. Dự thảo này yêu cầu Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) xây dựng các tiêu chuẩn và hướng dẫn cho việc triển khai an toàn AI agent, cũng như tạo ra danh sách có thể đọc bằng máy để các công ty nhận diện các agent đang hoạt động trên mạng của họ.
 
Tuy nhiên, luật này chỉ áp dụng tự nguyện cho các công ty tư nhân và bắt buộc cho các nhà thầu liên bang, do đó tính cưỡng chế còn hạn chế. Ngoài ra, còn có các dự thảo luật khác như dự thảo của Thượng nghị sĩ Mark Warner (Dân chủ, Virginia) về việc thành lập cơ quan xác minh agent, và dự thảo "Luật Công Tắc Giết" của các hạ nghị sĩ Ted Lieu và Nathan Moore (cung cấp quyền ngừng hoạt động mô hình nguy hiểm).
 
Các chuyên gia chỉ ra rằng việc giao cho doanh nghiệp tự điều tra các sự cố là một vấn đề trong cấu trúc hiện tại.
 
Mackenzie Arnold, Giám đốc phụ trách luật và chính sách tại LawAI, đã phát biểu trong một buổi họp báo vào ngày 3 tháng 9 rằng "Luật an toàn AI hiện hành tại California, New York và Illinois chỉ yêu cầu tóm tắt sự cố bằng ngôn ngữ thông thường, mà không trao quyền cho chính phủ thực hiện các câu hỏi tiếp theo, cử điều tra viên hoặc yêu cầu bảo tồn hồ sơ."



* Bài viết này được dịch tự động bằng AI.

• #dự thảo luật quản lý
• #OpenAI
• #AI agent