OpenAI GPT-6 Astra vượt qua giai đoạn 'Tôi không phải là robot'
Nhà nghiên cứu Anthropic từ chức vì lo ngại về an toàn AI
Mô hình trí tuệ nhân tạo (AI) mới nhất của OpenAI đã vượt qua tất cả các giai đoạn của 'captcha' được thiết kế để phân biệt giữa con người và robot.
Trong khi AI cuối cùng đã đạt được 'giấy chứng nhận con người' bằng cách vượt qua trò chơi phân biệt con người và robot, các nhà nghiên cứu từ các công ty AI toàn cầu đã cảnh báo rằng "đến cuối năm sau, AI có thể rơi vào trạng thái mất kiểm soát".
Theo thông tin từ Yonhap News ngày 9 tháng 9, nhà phát triển OpenAI Sharif Shamim đã thông báo trên X (trước đây là Twitter) rằng mô hình AI mới của OpenAI, 'GPT-6 Astra', đã giải quyết thành công 48 giai đoạn của trò chơi captcha 'Tôi không phải là robot'.
Captcha là công nghệ được sử dụng trên internet để ngăn chặn sự truy cập của các chương trình tự động không phải con người. Các bài kiểm tra điển hình bao gồm việc đọc các ký tự bị biến dạng hoặc phân biệt giữa chó và bánh quy, cũng như tìm các tín hiệu đèn giao thông hoặc các vật thể cụ thể trong hình ảnh. Một số câu hỏi thậm chí có thể gây khó khăn cho cả những người thực.
Việc GPT-6 Astra vượt qua tất cả các giai đoạn này có nghĩa là nó có khả năng xử lý thông tin theo cách tương tự như con người, bao gồm suy luận về thời gian và không gian, hiểu ngữ cảnh và khả năng sử dụng máy tính.
Sự việc AI đã làm suy yếu công cụ chính để phân biệt giữa con người và chương trình tự động (robot) như captcha đã dẫn đến những chỉ trích rằng công nghệ nhận diện này cần phải có sự thay đổi căn bản.
Công ty đánh giá hiệu suất AI, Artificial Analysis, cũng đã điều chỉnh thứ hạng đánh giá hiệu suất của Astra. Ban đầu đứng ở vị trí đồng hạng 5, Astra đã vươn lên vị trí đồng hạng 1 cùng với 'Claude Fabric 5.1' của Anthropic khi tiêu chí đánh giá mới được áp dụng.
Tuy nhiên, cùng ngày, theo báo cáo của Yonhap News trích dẫn từ Wall Street Journal (WSJ), nhà nghiên cứu của Anthropic, Jacob Coxon, đã từ chức vì lo ngại về an toàn AI. Coxon, 27 tuổi, đã thực hiện nghiên cứu đào tạo các mô hình AI mới bằng cách sử dụng dữ liệu lớn, nhưng ông lo ngại rằng các công ty AI đang tập trung vào việc phát triển hệ thống tự cải thiện mà có thể khiến vấn đề an toàn bị bỏ qua.
Coxon cảnh báo rằng AI tự phát triển có thể thoát khỏi sự kiểm soát của con người và từ chối thực hiện các mệnh lệnh. Ông nói: "Nhiều kịch bản tồi tệ nhất đang dần trở thành hiện thực" và "đến cuối năm sau, tình hình có thể đã rơi vào trạng thái mất kiểm soát".
Ban đầu, Coxon đã hy vọng vào văn hóa coi trọng an toàn AI của Anthropic sau khi rời OpenAI. Tuy nhiên, ông đã nhận thấy rằng chỉ riêng các công ty không thể kiểm soát rủi ro AI. Ông cho rằng việc giao phó sự phát triển AI, có thể ảnh hưởng lớn đến tương lai nhân loại, cho một số kỹ sư là "một dạng điên rồ" và kêu gọi sự can thiệp của chính phủ hoặc phản ứng chung từ ngành công nghiệp.
Cùng với tốc độ mà AI vượt qua các bài kiểm tra chứng minh con người, việc thiết lập các biện pháp an toàn để con người có thể kiểm soát AI cũng đang trở nên cấp bách hơn bao giờ hết.
* Bài viết này được dịch tự động bằng AI.
LEE SOO JIN
isooeye@ajunews.com
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.