Cần có cơ chế kiểm soát tốc độ phát triển
Kêu gọi thảo luận về hợp tác và hệ thống xác minh quốc tế
Trong bài viết đăng trên blog của công ty vào ngày 4 tháng 6, Anthropic nhấn mạnh rằng "thế giới cần có lựa chọn để làm chậm hoặc tạm dừng phát triển AI tiên tiến".
Mối quan tâm chính của Anthropic là "tự cải tiến lặp lại". Điều này có nghĩa là AI sẽ đảm nhận một phần lớn trong quá trình phát triển hệ thống AI tiếp theo, và một AI mạnh hơn sẽ lại được đưa vào phát triển thế hệ AI tiếp theo. Nếu giai đoạn này trở thành hiện thực, tốc độ phát triển sẽ tăng lên, nhưng thời gian để nhận diện và kiểm soát rủi ro có thể sẽ không đủ, theo nhận định của Anthropic.
Anthropic cho biết AI đã gia tăng tốc độ phát triển trong thực tế. Theo công ty, các kỹ sư của Anthropic hiện đang phản ánh số lượng mã gấp 8 lần so với trung bình giai đoạn 2021-2025 mỗi quý. Tính đến tháng 5, hơn 80% mã đã được hợp nhất vào cơ sở mã của Anthropic là do mô hình AI Claude của họ viết.
Anthropic cũng cho rằng việc chỉ một số công ty ngừng phát triển sẽ không hiệu quả. Nếu chỉ một nơi làm chậm lại, các công ty hoặc quốc gia ít thận trọng hơn có thể vượt lên phía trước, dẫn đến an toàn tổng thể có thể giảm xuống.
Họ nhấn mạnh rằng "để có sự giảm tốc hoặc tạm dừng có ý nghĩa, các viện nghiên cứu và công ty AI hàng đầu của nhiều quốc gia cần phải hành động cùng nhau dưới cùng một điều kiện". Cần phải có khả năng xác minh xem liệu việc phát triển có thực sự bị chậm lại hay không, và cũng cần xác định các điều kiện để bắt đầu và dừng lại.
Thách thức lớn nhất là việc xác minh. Các công việc học tập của AI rất dễ bị che giấu, và thiết bị cũng như dữ liệu sử dụng cho việc học có tính phổ quát cao. Nếu ai đó tiếp tục phát triển một cách bí mật, họ sẽ có động lực lớn để chiếm ưu thế về công nghệ.
Anthropic cho biết họ sẽ tiến hành nghiên cứu hỗ trợ cho hệ thống giảm tốc và tạm dừng thông qua tổ chức nghiên cứu của mình, Viện Anthropic. Họ dự định thảo luận với các nhà hoạch định chính sách, nhà nghiên cứu, xã hội dân sự và các công ty AI khác để xem xét các rủi ro của tự cải tiến lặp lại và cách thức điều phối quốc tế.
* Bài viết này được dịch tự động bằng AI.
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.