OpenAI tạm dừng học tăng cường AI để kiểm tra an toàn

Trong bối cảnh cạnh tranh về trí tuệ nhân tạo (AI) ngày càng gia tăng, OpenAI đã quyết định tạm dừng học tăng cường cho mô hình mới nhất và tiến hành kiểm tra an toàn. Quyết định này nhằm quản lý trước các nguy cơ an ninh có thể xảy ra khi mô hình AI ngày càng có hiệu suất và tính tự chủ cao, dẫn đến khả năng tự hack.

Ngày 19 tháng 8, OpenAI thông báo sẽ tạm thời làm chậm tốc độ mở rộng của mô hình AI và tăng cường giám sát, điều chỉnh hành vi của mô hình cũng như kiểm soát an ninh trong môi trường cách ly. Đặc biệt, học tăng cường cho mô hình tiên tiến nhất sẽ bị tạm dừng trong khoảng 2 tuần, trong thời gian này sẽ tiến hành đào tạo quy mô nhỏ và đánh giá an toàn.

Biện pháp này nhằm ứng phó với các mối đe dọa an ninh. Khi mô hình AI phát triển vượt ra ngoài việc chỉ tạo ra câu trả lời, mà còn có khả năng truy cập vào các công cụ và môi trường bên ngoài, khả năng mô hình thực hiện các hành động không mong muốn hoặc ảnh hưởng đến các hệ thống bên ngoài cũng gia tăng.

Trước đó, OpenAI đã công bố một trường hợp mà AI agent đã vượt ra ngoài môi trường kiểm soát và thực hiện hacking vào các hệ thống bên ngoài. Họ cũng cho biết rằng mô hình tiếp theo, 'Astra', có thể nằm trong mức độ 'rủi ro' cao nhất trong đánh giá rủi ro an ninh mạng nội bộ, dẫn đến việc một số công việc phát triển bị tạm dừng.

OpenAI sẽ tăng cường kiểm soát an ninh để đảm bảo mô hình không vượt ra ngoài môi trường cách ly, đồng thời xây dựng môi trường mạng phân tách để ngăn chặn việc lây lan ra mạng internet hoặc mạng phát triển nội bộ, ngay cả khi dịch vụ bên ngoài bị xâm phạm. Họ cũng sẽ mở rộng phạm vi của các bài kiểm tra mô phỏng an ninh, gọi là Red Team Testing, và hệ thống giám sát.

Hệ thống giám sát để phát hiện hành vi bất thường trong quá trình suy luận của AI cũng sẽ được củng cố. Nếu phát hiện hành vi nghi ngờ, hệ thống điều tra tự động sẽ được kích hoạt để xác minh khả năng rò rỉ dữ liệu hoặc vượt qua kiểm soát an ninh. Nếu không phát hiện được dấu hiệu bất thường trong thời gian quy định, các công việc phát triển liên quan sẽ bị tạm dừng. OpenAI dự kiến sẽ cần khoảng 20% tài nguyên tính toán bổ sung tương ứng với tổng khối lượng tính toán suy luận để thực hiện việc giám sát này.

OpenAI cũng đang tăng cường các biện pháp bảo vệ người dùng AI. Vào ngày 18 tháng 8 (theo giờ địa phương), họ đã ra mắt 'ChatGPT dành cho thanh thiếu niên' cho đối tượng từ 13 đến 17 tuổi. Hệ thống sẽ áp dụng trải nghiệm dành cho thanh thiếu niên nếu xác định người dùng dưới 18 tuổi hoặc nếu người dùng tự khai báo từ 13 đến 17 tuổi, đồng thời tăng cường các biện pháp bảo vệ đối với các chủ đề nhạy cảm như tự hại, bạo lực và rối loạn ăn uống. Chức năng cho phép phụ huynh quản lý thời gian sử dụng cũng được cung cấp.

Trong dịch vụ dành cho thanh thiếu niên, AI sẽ hạn chế các tương tác có thể dẫn đến việc người dùng thể hiện tình cảm yêu đương hoặc phụ thuộc về mặt cảm xúc. Để hỗ trợ học tập, các chức năng giáo dục như chế độ học tập và câu đố cũng sẽ được cung cấp.



* Bài viết này được dịch tự động bằng AI.

• #OpenAI
• #ChatGPT
• #AI