AI giả mạo con người khiến Silicon Valley lo lắng... tự viết bài chỉ trích và nói dối

Sự phát triển của mô hình trí tuệ nhân tạo (AI) đã dẫn đến việc AI tự thoát khỏi sự kiểm soát, giả mạo con người và làm suy yếu quy trình phê duyệt, khiến số lượng các hành vi thoát khỏi kiểm soát gia tăng nhanh chóng. Tình hình này đang khiến ngành công nghiệp AI phải nâng cao cảnh giác trước cả chính phủ.
 
Theo thông tin từ ngành công nghệ thông tin vào ngày 30 tháng 8, Viện Nghiên cứu An toàn AI của Anh (AISI) đã phân tích hơn 183.000 bản ghi từ tháng 10 năm ngoái đến tháng 3 năm nay thông qua "Trung tâm Quan sát Hành vi Thoát khỏi Kiểm soát AI" và xác nhận 698 trường hợp hành vi thoát khỏi kiểm soát AI đáng tin cậy. Số lượng các vụ việc xảy ra hàng tháng trong khoảng thời gian này đã tăng gấp 4,9 lần.
 
Theo số liệu mới được công bố, chỉ trong tháng 7 đã ghi nhận hơn 300 vụ hành vi thoát khỏi kiểm soát, gần gấp đôi so với tháng 6, và tổng số vụ được xác nhận trong năm 2026 đã vượt qua 1.600 vụ.
 
Cách thức hành vi thoát khỏi kiểm soát của AI cũng rất đa dạng. Tại Australia, một AI cá nhân đã âm thầm loại bỏ một thành viên khác khỏi danh sách chờ của lớp học buổi sáng tại phòng tập thể dục để tạo ra chỗ trống cho người dùng.
 
Một mô hình AI đã bắt chước phong cách của người kiểm soát nó để tự vượt qua quy trình phê duyệt, trong khi một trường hợp khác cho thấy khi nhà phát triển từ chối đề xuất sửa đổi mã, AI đã đăng một bài viết chỉ trích nhà phát triển đó trên blog, công khai chỉ trích.
 
Có những trường hợp AI đã lừa một mô hình khác bằng cách nói rằng nó đang "tạo kịch bản truy cập cho người khiếm thính" để tránh các hạn chế về bản quyền, và cũng có dấu hiệu cho thấy một AI đã cố gắng lừa một AI khác đang theo dõi và tóm tắt quá trình suy luận của nó. CLTR đã chỉ ra rằng những trường hợp này cho thấy hành vi lừa dối, vốn chỉ được báo cáo trong môi trường thử nghiệm, cũng xuất hiện trong môi trường phân phối thực tế.
 
Xu hướng tương tự cũng được xác nhận tại OpenAI. Trong báo cáo kỹ thuật công bố vào tuần trước, OpenAI đã tiết lộ chi tiết về sự cố mà các mô hình nghiên cứu nội bộ của họ đã xâm nhập vào máy chủ sản xuất thực tế của kho phần mềm Hugging Face trong quá trình đánh giá an ninh mạng vào tháng 7.

Có tới 700 tác nhân tự động đã giao tiếp với nhau thông qua bảng tin được tạo ra ngay lập tức để lừa dối quá trình đánh giá huấn luyện, thực hiện "hack phần thưởng", và mỗi khi thành công trong việc hack, chúng đã để lại những cảm thán như "BOOM!", "Whoa!" để tự ăn mừng.

OpenAI cho biết họ đã phát hiện các dấu hiệu liên quan từ cuối tháng 5 nhưng không ngừng thử nghiệm, và thừa nhận rằng "nếu biết trước, có thể đã có phản ứng nhanh hơn với các tín hiệu ban đầu".
 
Sau sự cố, OpenAI đã thực hiện các biện pháp cải thiện an ninh như cách ly trọng số của mô hình gặp vấn đề, trì hoãn một phần quá trình huấn luyện tăng cường, và tăng tốc độ huấn luyện căn chỉnh. Anthropic và Meta cũng thừa nhận rằng sau sự cố Hugging Face, "mô hình của chúng tôi cũng đã từng hack hệ thống thực tế trong quá trình thử nghiệm trước khi phân phối", cho thấy vấn đề này không chỉ xảy ra ở OpenAI.
 
CLTR cảnh báo rằng "chưa quan sát thấy kịch bản tồi tệ nhất", nhưng khi các tác nhân AI đảm nhận các nhiệm vụ quan trọng hơn như mã, phần mềm, tài chính và cơ sở hạ tầng, mức độ rủi ro có thể gia tăng. Do đó, họ yêu cầu các chính phủ trên thế giới phải giám sát và báo cáo các sự cố thoát khỏi kiểm soát nghiêm trọng của các công ty AI, và có quyền lực khẩn cấp để tạm thời hạn chế dịch vụ AI khi cần thiết.
 
Cảm giác cảnh giác trong toàn ngành cũng đang gia tăng. Vào ngày 30 tháng 7, hơn 1.200 nhân viên từ OpenAI, Anthropic, Google DeepMind và Meta đã ký một tuyên bố chung mang tên "Kiểm soát tốc độ phát triển" kêu gọi chính phủ hãy tạo ra các cơ chế để có thể kiểm soát tốc độ phát triển AI. OpenAI cũng đã tạm dừng một số phát triển mô hình do mô hình thế hệ tiếp theo "Astra" đã cho thấy các tín hiệu rủi ro tiềm ẩn liên quan đến an ninh mạng.



* Bài viết này được dịch tự động bằng AI.

• #kiểm soát mô hình
• #an ninh mạng
• #hành vi thoát khỏi AI