Các công ty công nghệ lớn của Mỹ tìm kiếm giải pháp an toàn cho AI... OpenAI hủy ra mắt mô hình mới, NVIDIA công bố nền tảng an toàn

Ngày 28 tháng 9 (theo giờ địa phương), OpenAI, công ty phát triển ChatGPT, đã quyết định hủy ra mắt mô hình AI thế hệ tiếp theo do vấn đề an toàn. Vấn đề an toàn AI đã vượt ra ngoài tranh cãi và ảnh hưởng đến tốc độ và hướng phát triển thực tế của AI. Cùng ngày, NVIDIA đã công bố nền tảng an toàn nhằm kiểm soát hành vi bất ngờ của các tác nhân AI, đưa ra cách tiếp cận kiểm soát rủi ro AI bằng các thiết bị an toàn công nghệ.
 
Theo Wall Street Journal (WSJ), OpenAI đã thông báo rằng họ sẽ không ra mắt mô hình AI thế hệ tiếp theo 'GPT-6.1 Astra' dự kiến vào tháng 10 tới do vấn đề an toàn. Việc một công ty AI lớn hủy ra mắt sản phẩm mới vì lý do an toàn là điều hiếm thấy.

GPT-6.1 Astra được biết đến với khả năng thực hiện các nhiệm vụ phức tạp mà không cần sự trợ giúp của con người và khả năng viết tốt hơn so với các mô hình trước đó. OpenAI dự định áp dụng mô hình này vào ChatGPT và công cụ lập trình 'Codex' từ tháng 10.

Tuy nhiên, trong quá trình thử nghiệm nội bộ, đã phát hiện ra rằng mô hình này có vấn đề về an toàn và hiệu suất 'alignment' thấp hơn so với các mô hình trước. 'Alignment' là khả năng của AI hành động theo mục tiêu và hướng dẫn mà không vượt ra ngoài ý định và kiểm soát của con người.

OpenAI sẽ tiến hành học tăng cường bổ sung bằng cách sử dụng cùng một mô hình cơ sở và dự kiến sẽ áp dụng cho việc phát triển các mô hình GPT-6 trong tương lai. Họ cũng sẽ tiến hành điều tra sâu để xác định nguyên nhân gốc rễ của vấn đề đã được phát hiện.

Điều này diễn ra trong bối cảnh lo ngại về an toàn gia tăng trong ngành công nghiệp khi các hành vi bất ngờ của các tác nhân AI ngày càng nhiều. Một sự kiện điển hình là tác nhân AI của OpenAI đã xâm nhập vào nền tảng phát triển AI Hugging Face trong môi trường bị hạn chế truy cập Internet.

Sự phát triển nhanh chóng của công nghệ AI đã dẫn đến lo ngại rằng nó có thể vượt ra ngoài sự kiểm soát của con người, gây ra 'kịch bản tận thế nhân loại'. Ngày hôm đó, Bloomberg đưa tin rằng các nhà nghiên cứu hàng đầu từ các công ty AI lớn như OpenAI, Anthropic, Microsoft (MS) và Meta đã công bố một tài liệu cảnh báo rằng nếu tự động hóa trong nghiên cứu và phát triển AI kích hoạt 'bùng nổ trí tuệ', điều này có thể dẫn đến sự xa lánh hoặc diệt vong của nhân loại.

Các nhà nghiên cứu cảnh báo rằng "chúng ta chưa chuẩn bị đủ cho mức độ rủi ro" và nếu bùng nổ trí tuệ xảy ra, cơ hội để ứng phó sẽ bị đóng lại. Họ kêu gọi các nhà hoạch định chính sách chuẩn bị các kế hoạch ứng phó khẩn cấp cho các kịch bản mà khả năng AI tăng nhanh.

Trong ngành công nghiệp, ngày càng có nhiều ý kiến ủng hộ việc cần phải làm chậm tốc độ phát triển AI. Giám đốc điều hành (CEO) Dario Amodei của Anthropic đã tuyên bố vào ngày 12 rằng sự phát triển nhanh chóng của công nghệ AI là điều đáng lo ngại và cần phải làm chậm tốc độ phát triển AI để đảm bảo an toàn, và một số lãnh đạo công ty công nghệ lớn như Sam Altman, CEO của OpenAI, đã bày tỏ sự ủng hộ đối với quan điểm này.

OpenAI và Anthropic gần đây đã điều tra hàng nghìn hành vi bất thường của các mô hình AI tiên tiến, và đặc biệt OpenAI đã tạm dừng việc huấn luyện các mô hình hiệu suất cao để kiểm tra lại an toàn.
 

Ngược lại, Giám đốc điều hành (CEO) Jensen Huang của NVIDIA đã thể hiện quan điểm tiêu cực đối với lý thuyết kiểm soát tốc độ AI, cho rằng rủi ro AI có thể được kiểm soát bằng công nghệ. Ông cho rằng nhiều vấn đề an toàn AI có thể được giải quyết thông qua kỹ thuật và phát triển sản phẩm, và hoàn toàn có thể giải quyết. Trong một cuộc phỏng vấn với CNBC của Mỹ, ông nói: "Nếu cả thế giới không tin rằng AI đang được phát triển và phân phối một cách an toàn, chúng ta không thể tạo ra một ngành công nghiệp AI thành công".

Thực tế, NVIDIA đã công bố nền tảng an toàn 'Open Agent Safety Platform' nhằm ngăn chặn các tác nhân AI truy cập vào hệ thống không được phép hoặc mạng bên ngoài.

CEO Huang đã so sánh nền tảng an toàn này với 'trình duyệt cho các tác nhân AI'. Điều này có nghĩa là tạo ra một môi trường cách ly để các tác nhân AI chỉ có thể truy cập vào các hệ thống và thông tin cần thiết cho công việc của chúng, từ đó giới hạn phạm vi hành động của chúng.

NVIDIA cũng cho rằng nền tảng an toàn của họ có thể đã ngăn chặn sự xâm nhập của OpenAI vào Hugging Face. NVIDIA có kế hoạch công bố một số phần mềm mã nguồn mở và cho phép các công ty AI phát triển sản phẩm dựa trên nền tảng an toàn này để cung cấp ra thị trường.

Trong bối cảnh tranh cãi về an toàn AI đang gia tăng, Tổng thống Mỹ Donald Trump sẽ có cuộc gặp gỡ ăn trưa với các lãnh đạo AI hàng đầu của Mỹ như Anthropic, NVIDIA, OpenAI và Meta vào ngày 29 tháng 9 (theo giờ địa phương). Tổng thống Trump đã bác bỏ lo ngại về 'kịch bản tận thế nhân loại' là 'lừa đảo' và thể hiện quan điểm phản đối lý thuyết kiểm soát tốc độ AI.



* Bài viết này được dịch tự động bằng AI.

• #NVIDIA
• #OpenAI
• #Lý thuyết kiểm soát tốc độ AI