Anthropic: AI có khả năng tự phát triển mô hình, cần kiểm soát tốc độ

Công ty trí tuệ nhân tạo (AI) Anthropic đã đề xuất khả năng 'cải tiến tự hồi quy' (recursive self-improvement), cho phép AI tự thiết kế và phát triển hệ thống AI của riêng mình, vượt qua giai đoạn tăng tốc phát triển. Mặc dù Anthropic chưa đạt đến giai đoạn này, nhưng công ty cho rằng cần phải làm chậm tốc độ phát triển.

Theo thông tin từ ngành công nghệ thông tin (IT) vào ngày 5 tháng 6, Anthropic đã công bố trên blog chính thức vào ngày 4 tháng 6 (theo giờ địa phương) rằng "trong phần lớn lịch sử AI, con người đã dẫn dắt tất cả các giai đoạn của chu kỳ phát triển, nhưng Anthropic đang ủy thác ngày càng nhiều phần của phát triển AI cho chính hệ thống AI".

Bài viết có tiêu đề 'Khi AI tự xây dựng bản thân' được viết bởi đại diện tổ chức nghiên cứu nội bộ của Anthropic, Marina Pavlov và đồng sáng lập Jack Clark.

Anthropic cho biết: "Trong phần lớn lịch sử AI, con người đã dẫn dắt tất cả các giai đoạn của chu kỳ phát triển, nhưng Anthropic đang ủy thác ngày càng nhiều phần của phát triển AI cho chính hệ thống AI". Họ giải thích rằng khi kết hợp với tài nguyên tính toán, AI có thể dẫn đến giai đoạn thiết kế và phát triển hệ thống tiếp theo hoàn toàn tự động.

Anthropic đã khẳng định rằng AI đang gia tăng tốc độ phát triển AI dựa trên dữ liệu nội bộ và các tiêu chuẩn công khai. Theo công ty, hiện tại các kỹ sư của Anthropic đang phát hành trung bình gấp 8 lần mã so với giai đoạn 2021-2025 mỗi quý. Tính đến tháng trước, hơn 80% mã đã được hợp nhất vào cơ sở mã của Anthropic là do Claude viết.

Phạm vi công việc của AI cũng đang mở rộng nhanh chóng. Anthropic cho biết: "Vào tháng 3 năm 2024, Claude Opus 3 đã thực hiện một công việc phần mềm khoảng 4 phút theo tiêu chuẩn của con người" và "sau đó, các mô hình tiếp theo đã có thể xử lý công việc quy mô 1 giờ 30 phút và 12 giờ". Họ cũng bổ sung rằng "hiệu suất mô hình đang cải thiện nhanh chóng trong các tiêu chuẩn mã hóa và tái hiện nghiên cứu".

Tuy nhiên, Anthropic cũng lưu ý rằng "Claude có ưu điểm trong việc thực hiện các thí nghiệm được giao hoặc viết mã, nhưng khả năng đánh giá vấn đề nào là quan trọng, thí nghiệm nào cần thực hiện và kết quả nào đáng tin cậy vẫn là lĩnh vực mà con người có ưu thế".

Anthropic đã đưa ra các kịch bản trong tương lai như: △ Tình trạng đình trệ tốc độ phát triển AI sau khi mở rộng năng lực hiện tại △ Cải thiện hiệu quả phức tạp của các viện nghiên cứu AI tiếp tục △ Đạt được cải tiến tự hồi quy hoàn toàn của hệ thống AI. Đặc biệt, về việc đạt được cải tiến tự hồi quy hoàn toàn của hệ thống AI, họ chỉ ra rằng "điều này có thể mang lại lợi ích lớn trong các lĩnh vực khoa học và y tế, nhưng cũng có thể gia tăng nguy cơ con người mất kiểm soát đối với hệ thống AI".

Anthropic cũng nhấn mạnh rằng "cần có các lựa chọn quốc tế để làm chậm hoặc tạm dừng tốc độ phát triển AI". Việc chỉ một công ty đơn lẻ tạm dừng sẽ có hiệu quả hạn chế, và nhiều quốc gia cùng các viện nghiên cứu AI chính cần phải điều chỉnh tốc độ một cách có thể kiểm chứng."

• #Anthropic
• #trí tuệ nhân tạo
• #Claude
• #AI

Shin Hye An doubletap@ajunews.com