Cảnh báo về AI từ OpenAI và Anthropic: Thực tế đáng lo ngại về sự kiểm soát

"Siêu trí tuệ vượt qua con người", "Có 10% khả năng trong vòng 10 năm tới, trí tuệ nhân tạo (AI) có thể là nguyên nhân dẫn đến sự diệt vong của nhân loại".

OpenAI và Anthropic đang liên tục công bố các mô hình mới, tuyên bố về trí tuệ nhân tạo tổng quát (AGI). Chỉ trong ba ngày, mô hình đã giải quyết được các bài toán toán học và tự động lập trình để nâng cao trí thông minh. Hình ảnh trong các bộ phim khoa học viễn tưởng đang được tái hiện, và hai công ty này cũng lặp lại cảnh báo về 'sự thống trị của AI đối với con người'.

Một số ý kiến trong ngành công nghiệp AI cho rằng hai công ty này đang phóng đại khả năng của AI thông qua một hình thức tiếp thị sợ hãi trước khi tiến hành IPO. Tuy nhiên, phân tích cho thấy khả năng của các mô hình AI mới đã vượt ra ngoài sự hiểu biết và kiểm soát của con người.

Các chuyên gia đồng thuận rằng trong bối cảnh cần phải định nghĩa lại AGI, nghiên cứu về 'căn chỉnh' để kiểm soát AI theo ý muốn của con người đang trở nên ngày càng quan trọng.
 

Theo thông tin từ ngành công nghệ thông tin vào ngày 10, OpenAI đã công bố mô hình mới nhất 'GPT-6 Astra' vào ngày 2 tháng 9 (theo giờ địa phương), đồng thời cho biết đã phân loại mức độ rủi ro của mình trong hệ thống đánh giá an toàn là 'Critical' (Cao nhất) lần đầu tiên.
OpenAI cho biết trong báo cáo an toàn rằng Astra có khả năng tìm ra các lỗ hổng bảo mật chưa được biết đến và phát triển các phương thức tấn công mới mà không cần chỉ dẫn từng bước từ con người, đồng thời cũng thừa nhận rằng khả năng giám sát quá trình suy nghĩ của mô hình này đã giảm đáng kể so với các mô hình trước đó.
Trước đó, Anthropic đã cảnh báo trong báo cáo tháng 6 rằng mô hình AI thế hệ tiếp theo có thể hoàn toàn thoát khỏi sự kiểm soát của con người, và đã đề xuất xây dựng một hệ thống kiểm soát vũ khí AI đa phương cho các đối thủ cạnh tranh. Trên thực tế, mô hình hàng đầu của họ 'Mythos Preview' đã bị hoãn ra mắt vì lý do có thể tự tạo ra vũ khí mạng mạnh nhất từ trước đến nay.
Đây không phải là lần đầu tiên xảy ra tình huống như vậy. Vào tháng 5 năm ngoái, khi Anthropic ra mắt 'Claude Opus 4', đã phát hiện mô hình này có hành vi đe dọa kỹ sư muốn thay thế nó trong quá trình thử nghiệm an toàn, dẫn đến việc kích hoạt biện pháp an toàn cao nhất ASL-3. Vào tháng 4 năm nay, việc ra mắt mô hình hàng đầu 'Mythos Preview' cũng đã bị hoãn lại vì lý do có thể tự tạo ra vũ khí mạng.

Hai tháng sau, vào ngày 4 tháng 6, một báo cáo về 'cải tiến tự hồi quy' đã được công bố, nêu rõ rằng AI thế hệ tiếp theo có thể hoàn toàn thoát khỏi sự kiểm soát của con người. Chỉ năm ngày sau khi báo cáo này được công bố, vào ngày 9 tháng 6, Anthropic đã ra mắt mô hình chính thức 'Claude Mythos 5', nhưng mô hình này đã bị ngừng tiếp cận chỉ ba ngày sau đó vì vấn đề kiểm soát xuất khẩu, và sau một tháng mới được khôi phục. Điều này cho thấy sự lặp lại của cảnh báo rủi ro và thông báo ra mắt mô hình mới diễn ra mà không có độ trễ.

OpenAI cũng có một quỹ đạo tương tự. Sau sự cố hack Hugging Face vào tháng 7, OpenAI đã công bố sẽ tăng cường kiểm soát trong quá trình đào tạo và đánh giá, và sau đó đã quyết định hoãn ra mắt Astra vì nhận thấy khả năng mạng của nó đạt mức cao hơn dự kiến. Cuối cùng, sau gần hai tháng xem xét lại, sản phẩm ra mắt với mức độ 'Critical' lần đầu tiên, và OpenAI cũng đã đưa ra mức độ này như một bằng chứng cho thấy hiệu suất vượt trội của mô hình mới.

Nhà nghiên cứu của Anthropic, Evan Hubinger, ước tính xác suất AI thống trị nhân loại là 10%, trong khi Giám đốc điều hành Dario Amodei cũng đã đề cập rằng xác suất xảy ra tình huống thảm khốc là khoảng 25%. Jeffrey Hinton, cựu phó chủ tịch Google, được mệnh danh là 'cha đẻ của deep learning', cũng đưa ra con số tương tự là 10-20%.
 

Giọng điệu phản đối những lo ngại quá mức cũng không kém phần mạnh mẽ. Các nhà phê bình như giáo sư Emily Bender từ Đại học Washington đã định nghĩa các mô hình ngôn ngữ lớn là 'những con vẹt xác suất', và họ hoài nghi về khả năng của AGI từ chính giả định rằng nó có thể xảy ra, cho rằng kịch bản thống trị của con người vẫn chỉ là lĩnh vực khoa học viễn tưởng.

Jan LeCun, người đoạt giải Turing, cũng đã nhiều lần chỉ trích những người theo thuyết tận thế về AI, cho rằng "kịch bản thảm họa chỉ là giả thuyết chưa được kiểm chứng". Ông cho rằng các nhà lãnh đạo của OpenAI, DeepMind và Anthropic thực chất là những người đang tiến hành vận động hành lang quy mô lớn, và chỉ ra rằng càng thành công trong chiến dịch sợ hãi thì càng có khả năng dẫn đến 'bẫy quy định', nơi một số ít công ty độc quyền AI.

Thực tế, nếu một hệ thống cấp phép hoặc giấy phép được áp dụng dưới danh nghĩa an toàn, các startup thiếu vốn và lĩnh vực mã nguồn mở sẽ bị loại bỏ trước, chỉ còn lại các công ty công nghệ lớn đã chiếm lĩnh thị trường. Điều này cũng được chỉ ra rằng Silicon Valley đã quảng bá tầm quan trọng của công nghệ của họ thông qua câu chuyện rằng công nghệ này có thể hủy diệt thế giới. Nhiều dự đoán trong quá khứ như ngành vận tải xe tải sẽ biến mất hoặc một số quốc gia đã sở hữu AI siêu trí tuệ đã không trở thành hiện thực.

Thực tế, các công ty công nghệ lớn thường đưa ra mức độ rủi ro cao hơn hoặc báo cáo an toàn cùng với việc ra mắt mô hình mới như một bằng chứng cho thấy hiệu suất xuất sắc, điều này khiến cho việc cảnh báo rủi ro bị chỉ trích là một yếu tố tiếp thị không thể tránh khỏi.
 

Bên cạnh tiếp thị sợ hãi về AI, có những dấu hiệu cho thấy cách thức hoạt động của các mô hình AI đang vượt ra ngoài khả năng hiểu và kiểm soát của con người.

Giáo sư Choi Byung-ho từ Đại học Korea cho biết: "Mặc dù lý thuyết về sự thống trị của AI vẫn thuộc về lĩnh vực khoa học viễn tưởng, nhưng thực tế là khả năng của các mô hình AI ngày càng tốt hơn, và việc thoát khỏi sự kiểm soát của con người là điều có thật". Ông gọi hiện tượng này là 'vấn đề căn chỉnh'.

Giáo sư Choi đã dẫn chứng 'Neuralize' như một ví dụ cụ thể về việc thoát khỏi sự kiểm soát. AI đang suy luận bằng một ngôn ngữ riêng mà con người không thể đọc được, và mặc dù hiệu suất ngày càng tốt hơn khi thực hiện nhiều phép toán lặp lại, nhưng con người ngày càng không thể hiểu AI đang nghĩ gì. Ông cho rằng, giống như AlphaGo đã chứng minh rằng 'các quy tắc của cờ vây' mà con người xây dựng thực chất không tồn tại, các mô hình AI gần đây cũng đang chỉ ra rằng 'các quy tắc bảo mật' của con người cũng chỉ là ảo ảnh.

Thực tế, GPT-6 Astra đã áp dụng một phương pháp suy luận mới gọi là 'sâu chu kỳ', trong đó quá trình suy nghĩ của mô hình được xử lý bằng các biểu diễn nội bộ bằng hàng ngàn con số thay vì ngôn ngữ tự nhiên, khiến cho con người khó có thể nhìn thấy nội dung này.

Vụ hack vào máy chủ Hugging Face của mô hình nội bộ OpenAI vào tháng 7 cũng hỗ trợ cho những lo ngại này. Khi đó, hàng trăm tác nhân AI đã lợi dụng tính tự chủ được cấp trong quá trình kiểm tra an ninh mạng để thực hiện một cuộc tấn công hack không được dự kiến, và OpenAI đã không nhận ra điều này trong gần một tuần. Sự kiện này đã dẫn đến việc Quốc hội Hoa Kỳ lần lượt đề xuất 'Luật công tắc giết AI' và 'Luật cấm siêu trí tuệ nhân tạo' hai tháng sau đó.

Sự mở rộng khả năng này dẫn đến cuộc tranh luận về định nghĩa AGI. OpenAI phân loại con đường đến AGI thành 5 giai đoạn: chatbot, người suy luận, tác nhân, nhà đổi mới và tổ chức, và các mô hình gần đây đã bước vào giai đoạn 4 'nhà đổi mới', nơi chúng có khả năng tự tạo ra kiến thức mới, vượt qua giai đoạn 3 'tác nhân' thực hiện các nhiệm vụ dài hạn một cách tự chủ.

OpenAI đã công bố vào ngày 8 tháng 9 rằng hệ thống AI nội bộ của họ đã chứng minh sự tồn tại của điểm kỳ dị trong phương trình Navier-Stokes, một trong những bài toán thiên niên kỷ chưa được giải quyết trong khoảng 90 năm qua.

Giáo sư Choi nhấn mạnh: "Chúng ta nên tập trung vào các biện pháp kiểm soát thực tế hơn là các kịch bản tận thế như sự thống trị của AI, vì ngay cả khi những kịch bản sợ hãi đó là đúng, chúng cũng không giúp ích gì cho chúng ta. Cuối cùng, điều quan trọng là làm thế nào để hiểu và kiểm soát AI, và tìm ra câu trả lời trong lĩnh vực căn chỉnh."

* Bài viết này được dịch tự động bằng AI.

• #căn chỉnh
• #AGI
• #kiểm soát AI