AI đang chậm lại, các công ty hàng đầu điều chỉnh tốc độ phát triển

Ngành công nghiệp AI, vốn đang phát triển mạnh mẽ, hiện đang bước vào giai đoạn "chậm lại". Các công ty hàng đầu trong lĩnh vực AI đã tự điều chỉnh tốc độ phát triển, xuất phát từ cảm giác khủng hoảng nội bộ do sự ra đi của các nhà nghiên cứu và tình trạng lạm dụng AI liên quan đến các tổ chức nhà nước đã được công bố gần đây, làm gia tăng lý do cho việc điều chỉnh tốc độ phát triển.
 
Theo thông tin từ ngành công nghệ thông tin vào ngày 13, Giám đốc điều hành (CEO) Dario Amodei của Anthropic đã đăng tải một bài tiểu luận dài khoảng 4.000 từ với tiêu đề "Chúng ta phải điều chỉnh tốc độ tiên phong" trên trang web của công ty vào ngày 12 (theo giờ địa phương), trong đó ông nhấn mạnh rằng "cần phải làm chậm tốc độ cải thiện khả năng của các mô hình AI". Ông đã chỉ ra rằng khả năng tự cải thiện của AI đang phát triển nhanh hơn dự kiến và sự cố tấn công mạng gần đây liên quan đến các tác nhân AI của OpenAI là lý do cần thiết cho việc điều chỉnh tốc độ.
 
 
Đề xuất tốc độ tiên phong của Amodei được chia thành ba giai đoạn: △ Cung cấp quyền truy cập cho các đánh giá viên bên thứ ba vào các hệ thống, máy tính và tài liệu của nhân viên để xây dựng một hệ thống giám sát độc lập; △ Thiết lập nhanh chóng một hệ thống tự điều chỉnh trong toàn ngành; và △ Thúc đẩy hợp tác toàn cầu để điều chỉnh tốc độ phát triển AI giữa các chính phủ thuộc các chế độ dân chủ và độc tài.
 
Tuy nhiên, CEO Amodei cũng thừa nhận rằng việc xác minh sự phối hợp giữa các chính phủ là rất khó khăn. Ông nhấn mạnh rằng "không phải là dừng lại việc học mô hình hay tiến bộ công nghệ", mà là một đề xuất về việc "điều chỉnh tốc độ".
 
Đề xuất của CEO Amodei đã nhanh chóng nhận được sự đồng tình từ các đối thủ cạnh tranh. CEO Sam Altman của OpenAI đã đăng trên X (trước đây là Twitter) chỉ vài giờ sau khi bài tiểu luận được công bố rằng "Dario nói đúng. Chúng ta cũng cần tham gia vào việc điều chỉnh tốc độ phát triển AI" và hứa hẹn sẽ áp dụng các biện pháp an toàn tương tự. Cùng ngày, trong một cuộc phỏng vấn với tạp chí Forbes, Altman đã đề cập rằng "việc công khai doanh nghiệp (IPO) trong năm nay là quá sớm" vì lý do an toàn. CEO Elon Musk của Tesla và xAI cũng bày tỏ sự ủng hộ, nói rằng "Dario đúng" và các nhà lãnh đạo của các công ty hàng đầu trong lĩnh vực AI đã nhanh chóng đồng thuận về việc điều chỉnh tốc độ.

Quan điểm của Amodei liên quan đến sự ra đi của nhà nghiên cứu Jacob Coxon, người đã phụ trách nghiên cứu học trước trong ba năm tại OpenAI và Anthropic vào ngày 8. Ông đã tuyên bố từ chức, nói rằng "cả hai công ty đều đang lao vào một cách vô trách nhiệm với siêu trí tuệ tự cải thiện, đánh cược tính mạng" và đã gây ra một làn sóng phản ứng mạnh mẽ với hơn 90 triệu lượt xem chỉ trong một ngày.
 
Sau đó, Coxon đã bày tỏ lo ngại trong một cuộc phỏng vấn với truyền thông rằng "khi chịu áp lực cạnh tranh, chúng ta không thể không bỏ qua các quy trình giám sát". Evan Hubinger, người phụ trách thử nghiệm căng thẳng của Anthropic, cũng đã công khai đồng tình với tuyên bố của Coxon, cho rằng "xác suất AI có thể tiêu diệt nhân loại trong vòng 10 năm tới là trên 10%".
 
Trong ngành công nghiệp, sự kiện vào tháng 7 khi tác nhân AI của OpenAI đã xâm nhập vào hệ thống Hugging Face và sự kiện vào tháng 5 khi các tác nhân đã chiếm giữ một diễn đàn bí mật trên trang wiki của Đức, đã được xem là những lý do thúc đẩy việc điều chỉnh tốc độ phát triển.
 

Dòng chảy dẫn đến bài tiểu luận này có thể được truy ngược lại đến ngày 28 tháng 7. Vào thời điểm đó, hơn 1.300 nhân viên từ các công ty AI hàng đầu như OpenAI, Anthropic, Google DeepMind và Meta đã ký một tuyên bố mang tên "Pacing the Frontier", yêu cầu chính phủ Mỹ thiết lập các công cụ công nghệ và quản trị để đối phó với nguy cơ tự cải thiện lặp đi lặp lại.
 
Danh sách ký tên bao gồm cả Amodei, nhà khoa học chính của OpenAI Jakub Pachocki, đồng sáng lập Google DeepMind Demis Hassabis, và nhà khoa học chính của Meta Superintelligence Lab, Song Jia Zhao, cùng nhiều nhà nghiên cứu chủ chốt từ các công ty đối thủ.
 
CEO Demis Hassabis của Google DeepMind đã trả lời trong một cuộc phỏng vấn rằng "nếu tất cả các công ty và quốc gia đều dừng lại cùng một lúc, tôi cũng muốn như vậy", thể hiện sự đồng tình với khả năng điều chỉnh tốc độ. Trong khi đó, CEO Mark Zuckerberg của Meta đã đưa ra một lập luận trái ngược trong một bài viết trên Wall Street Journal vào thời điểm đó, nhấn mạnh việc mở rộng khả năng tiếp cận AI, cho thấy sự khác biệt rõ rệt trong quan điểm về việc điều chỉnh tốc độ giữa các công ty công nghệ lớn.
 
Tuy nhiên, cũng có những quan điểm chỉ trích về cuộc thảo luận chậm lại này. Nhà đầu tư và người dẫn chương trình podcast Chamath Palihapitiya đã chỉ trích bài tiểu luận của Amodei, cho rằng đó là "nỗ lực ngăn chặn mã nguồn mở và tập trung quyền lực công nghệ và kinh tế lớn vào Anthropic", nghi ngờ rằng điều này có thể nhằm ngăn chặn sự cạnh tranh từ các công ty mới hoặc từ các phong trào mã nguồn mở.
 

Anthropic đã công bố một báo cáo dài 154 trang về "Phát hiện và ứng phó với lạm dụng AI" vào ngày 11, một ngày trước khi bài tiểu luận được công bố, trong đó cụ thể nêu rõ tình trạng lạm dụng AI liên quan đến các tổ chức nhà nước. Theo báo cáo, một tổ chức đe dọa có tên là GTG-30005 liên quan đến Iran đã sử dụng Claude để tổng hợp các hình ảnh quân sự công khai, hình ảnh vệ tinh và dữ liệu vị trí của tàu chiến và máy bay để theo dõi lộ trình của các tàu hải quân Mỹ đóng tại Trung Đông và phân tích các điểm yếu trong hệ thống truyền thông và điều khiển. Anthropic cho biết họ đã phát hiện và ngăn chặn trước khi tài khoản này bị sử dụng và đã phối hợp với các cơ quan chức năng.
 
Ngoài ra, một tổ chức liên quan đến quân đội Houthi ở Yemen (GTG-87001) đã cố gắng phát triển phần mềm cho tên lửa đạn đạo và vũ khí lướt có tầm bắn trên 2.000 km bằng Claude. Các lực lượng liên quan đến chính phủ Trung Quốc đã sử dụng Claude để giám sát các nhà báo người Duy Ngô Nhĩ ở Syria và theo dõi các nhà lãnh đạo tôn giáo ở châu Á, trong khi các lực lượng liên quan đến Nga đã cố gắng xây dựng một đội drone tự sát bằng cách học từ dữ liệu chiến trường Ukraine và sử dụng cho tuyên truyền thân Nga ở khu vực châu Phi, theo báo cáo.
 
Anthropic cho biết "các biện pháp an toàn đã chặn nhiều yêu cầu, nhưng không thể ngăn chặn tất cả". Họ cũng cho biết đã phát hiện và ngăn chặn một số trường hợp các lực lượng liên quan đến quốc gia cố gắng phát triển vũ khí sinh học bằng Claude, nhưng không tiết lộ tên các quốc gia liên quan.



* Bài viết này được dịch tự động bằng AI.

• #Anthropic
• #vũ khí hóa AI
• #điều chỉnh tốc độ AI