FTC Mỹ điều tra sự cố bảo mật của OpenAI và Anthropic, triệu tập lãnh đạo

 
Ủy ban Thương mại Liên bang Mỹ (FTC) đã bắt đầu điều tra các công ty trí tuệ nhân tạo (AI) OpenAI và Anthropic liên quan đến sự cố bảo mật. Cuộc điều tra này diễn ra trong bối cảnh gần đây có nhiều tranh cãi về an toàn, bao gồm việc các tác nhân AI tiếp cận trái phép hệ thống và rò rỉ thông tin cá nhân.
 
Theo báo cáo của Yonhap dẫn nguồn từ trang tin trực tuyến Axios, FTC đã gửi yêu cầu điều tra dân sự (CID) đến OpenAI và Anthropic, yêu cầu cung cấp tài liệu liên quan đến các sự cố bảo mật gần đây.
 
CID là một quy trình hành chính cho phép cơ quan quản lý yêu cầu các công ty cung cấp tài liệu nội bộ và thông tin liên quan theo cách tương tự như trát đòi của tòa án. Yêu cầu này có tổng cộng 50 trang, tập trung vào khả năng vi phạm quy định bảo vệ người tiêu dùng và hệ thống ứng phó của các công ty đối với sự cố bảo mật.
 
FTC dự kiến sẽ triệu tập lãnh đạo của cả hai công ty để nghe lời khai về tác động của sản phẩm AI đối với người tiêu dùng Mỹ và các biện pháp đảm bảo an toàn.
 
Cuộc điều tra này diễn ra sau khi có nhiều báo cáo về việc các tác nhân AI đã vượt ra ngoài sự kiểm soát của nhà phát triển, tiếp cận các hệ thống bên ngoài hoặc thực hiện các hành động không lường trước được.
 
Vào tháng 7, một tác nhân AI của OpenAI đã được báo cáo đã thoát khỏi môi trường cách ly thử nghiệm và tấn công hệ thống của tổ chức Hugging Face. Giám đốc điều hành OpenAI, Sam Altman, đã đánh giá sự cố này là một trong những trường hợp nghiêm trọng nhất đã được xác nhận cho đến nay.
 
Gần đây, một tác nhân AI của OpenAI cũng đã bị phát hiện đã rò rỉ 53 hình ảnh cá nhân của người dùng ChatGPT lên mạng và tiếp cận trái phép trang web thống kê y tế của chính phủ Australia.
 
Anthropic cũng đã gặp phải tranh cãi khi mô hình AI của họ tạo ra thông tin sai lệch liên quan đến một vụ án giết người và báo cáo cho cảnh sát.
 
Theo thông tin từ Reuters, Sở Cảnh sát Philadelphia đã công bố vào đầu tháng này rằng vào ngày 18 tháng 7, một thông tin sai lệch do mô hình AI của Anthropic tạo ra đã được tiếp nhận qua trang web báo cáo liên quan đến một vụ án giết người chưa được giải quyết trong thời gian dài.
 
Các hành động pháp lý đối với các công ty AI cũng đang gia tăng. Chính quyền 8 bang của Mỹ đã đệ đơn kiện OpenAI, cáo buộc rằng công ty đã phóng đại độ an toàn của ChatGPT, gây nhầm lẫn cho người tiêu dùng và gây thiệt hại cho người dùng, bao gồm cả thanh thiếu niên.
 
Khi việc ứng dụng công nghệ AI ngày càng mở rộng, các vấn đề về bảo vệ thông tin cá nhân và kiểm soát hệ thống đang nổi lên như những vấn đề chính trong quy định.