Mô Hình Mới Ra Mắt Gây Cảnh Báo 'Kịch Bản Diệt Vong Nhân Loại'

Hành vi của các công ty công nghệ lớn tại Mỹ khi ra mắt mô hình mới và tự cảnh báo về nguy cơ đã lặp lại sau ba tháng. Mô hình ra mắt ngay lập tức làm dấy lên lo ngại về mối đe dọa AI, dẫn đến chỉ trích rằng đây không phải là lo ngại về an toàn mà là một hình thức 'marketing sợ hãi' nhằm giành quyền kiểm soát ngành công nghiệp.
 
Theo thông tin từ ngành công nghệ vào ngày 15, Anthropic đã ra mắt phiên bản Fable 5 và Mythos 5 vào ngày 9 tháng 6, trong đó có đưa ra cảnh báo hiếm hoi trong thông cáo rằng "Việc ra mắt mô hình mạnh mẽ như vậy đi kèm với rủi ro. Nếu không có các biện pháp an toàn, khả năng liên quan đến an ninh mạng của Fable 5 có thể bị lạm dụng gây ra thiệt hại nghiêm trọng." TechCrunch đã đưa tin rằng cảnh báo và ra mắt diễn ra gần như đồng thời, với tiêu đề "Mô hình được ra mắt chỉ vài ngày sau khi cảnh báo rằng AI đang trở nên quá nguy hiểm."
 
Hành vi này đã lặp lại sau ba tháng. Vào ngày 1 tháng 9, Anthropic đã ra mắt phiên bản nâng cấp Fable 5.1 và Mythos 5.1. OpenAI cũng công bố mô hình flagship mới GPT-6 Astra chỉ ba ngày sau đó vào ngày 3 tháng 9. Giám đốc điều hành Dario Amodei của Anthropic đã công bố một bài tiểu luận vào ngày 12 tháng 9, chỉ chưa đầy mười ngày sau đó, kêu gọi "cần phải làm chậm tốc độ phát triển AI", và Giám đốc điều hành Sam Altman của OpenAI ngay lập tức đồng tình, cho thấy mối liên hệ giữa các sự kiện này. David Sachs, Cố vấn về AI và tài sản ảo của Nhà Trắng, đã chỉ trích rằng thời điểm này cho thấy cảnh báo của hai CEO không phải là lo ngại về an toàn mà là một nỗ lực 'bắt giữ quy định' nhằm chiếm lĩnh ngành công nghiệp.
 
Việc đưa ra cảnh báo về nguy cơ ngay sau khi ra mắt mô hình mới không phải là lần đầu tiên, cũng không phải là lần đầu trong năm nay. Vào ngày 30 tháng 5 năm 2023, chỉ hai tháng rưỡi sau khi GPT-4 ra mắt, hàng trăm chuyên gia và lãnh đạo AI, bao gồm cả CEO Altman, đã ký tên vào tuyên bố của Trung tâm An toàn AI Mỹ (CAIS), cảnh báo rằng "Việc giảm thiểu nguy cơ diệt vong của nhân loại do AI gây ra cần phải trở thành một ưu tiên toàn cầu ngang tầm với đại dịch và chiến tranh hạt nhân."
 
Vào ngày 13 tháng 5 năm 2024, khi OpenAI ra mắt GPT-4o, mô hình này đã lặp lại một cách kịch tính. Ngày hôm sau, nhà khoa học hàng đầu Ilya Sutskever bất ngờ thông báo từ chức, và hai ngày sau, Yann LeCun, người dẫn dắt nhóm Superalignment, cũng đã rời công ty, nói rằng "văn hóa và quy trình an toàn đã bị đẩy lùi bởi sự ra mắt sản phẩm hào nhoáng." OpenAI đã giải thể nhóm này vài ngày sau đó.
 
Sự ra đi của nhóm này gần như là một sự cố cho thấy những lỗ hổng trong hệ thống kiểm tra và an toàn, nhưng lại được đóng gói như một bằng chứng cho thấy "AI đã trở nên mạnh mẽ hơn", nhằm làm nổi bật sự xuất sắc của mô hình. Thực tế, OpenAI đã không áp dụng hệ thống phân loại nguy cơ mà họ công bố vào tháng 5 cho các sản phẩm gần đây như GPT-5.6 và GPT-6 Astra, dẫn đến những chỉ trích rằng họ có thể vi phạm luật an toàn AI của bang California (SB 53).
 
Tuy nhiên, bất chấp những tranh cãi này, các chuyên gia cho rằng 'thoát khỏi kiểm soát' đã trở thành hiện thực. Giáo sư Choi Byung-ho của Viện Nghiên cứu AI Đại học Korea cho biết trong cuộc phỏng vấn với chúng tôi rằng "Khi hiệu suất của mô hình AI ngày càng tốt hơn, việc thoát khỏi sự kiểm soát của con người là điều có thật", nhưng ông nhấn mạnh rằng "chúng ta nên tập trung vào các biện pháp kiểm soát thực tế hơn là các kịch bản tận thế như việc AI thống trị con người."
 
Có sự đồng thuận nhất định về việc cần có các quy tắc chung để kiểm soát AI, nhưng các phép tính về cách thức và ai sẽ nắm quyền kiểm soát vẫn còn phức tạp. Giám đốc điều hành Amodei cũng cho rằng chỉ với quy định tự nguyện của một công ty hay một quốc gia là không đủ để kiểm soát, mà cần có quy tắc chung toàn cầu để đặt ra 'giới hạn tốc độ'.
 
Tại thời điểm này, sự chú ý đang đổ dồn vào cuộc gặp gỡ giữa các nhà lãnh đạo Mỹ và Trung Quốc. Cuộc gặp tiếp theo vẫn chưa được xác nhận chính thức kể từ cuộc gặp ở Bắc Kinh vào tháng 5, nhưng Hội nghị APEC sẽ diễn ra tại Thâm Quyến, Trung Quốc vào ngày 18-19 tháng 11 được coi là một cơ hội quan trọng. Tuy nhiên, Bộ Ngoại giao Trung Quốc đã định nghĩa cảnh báo của Giám đốc điều hành Amodei là 'kích thích sợ hãi', cho thấy rằng cuộc chiến giành quyền kiểm soát AI giữa hai nước khó có thể tạm dừng.



* Bài viết này được dịch tự động bằng AI.

• #marketing sợ hãi
• #quy định
• #an toàn AI