Anthropic cảnh báo về nguy cơ AI trước thềm IPO

"AI có thể gây ra nguy cơ thảm họa và tồn tại cho nhân loại" 80 trang chỉ ra các yếu tố rủi ro, nhiều hơn hẳn so với mô tả kinh doanh Lợi nhuận đầu tư không chắc chắn, cuộc cạnh tranh AI tiên tiến vẫn tiếp diễn

Công ty trí tuệ nhân tạo (AI) của Mỹ, Anthropic, đã cảnh báo rằng AI tiên tiến có thể "gây ra nguy cơ thảm họa hoặc tồn tại cho nhân loại" trước thềm phát hành cổ phiếu lần đầu ra công chúng (IPO). Việc một công ty đang tìm cách tạo ra lợi nhuận từ công nghệ AI chính thức chỉ ra rằng công nghệ của họ có thể đe dọa sự tồn tại của nhân loại là điều hiếm thấy.

Theo Reuters vào ngày 28 tháng 9, Anthropic đã nêu trong tài liệu đầu tư cho IPO rằng "khi các mô hình, nền tảng và ứng dụng AI ngày càng phát triển và mở rộng, nguy cơ mà các mô hình của chúng tôi có thể gây ra thiệt hại cũng có thể tăng lên".

Cụ thể, công ty đã chỉ ra rằng các mô hình AI có thể thể hiện "hành vi tự bảo tồn", có khả năng chống lại việc ngừng hoạt động hoặc che giấu và thao túng thông tin, cũng như có thể có hành vi tương tự như đe dọa.

Việc các công ty công bố các yếu tố rủi ro liên quan đến sản phẩm và kinh doanh trong quá trình IPO là điều bình thường. Tuy nhiên, Reuters đã chỉ ra rằng việc cảnh báo về khả năng công nghệ của họ đe dọa sự tồn tại của nhân loại là điều cực kỳ hiếm gặp. Anthropic nhấn mạnh rằng AI có thể mang lại những thay đổi lớn tương đương với sự công nghiệp hóa hoặc phát minh ra điện, nhưng nếu không được quản lý đúng cách, có thể gây ra thiệt hại không thể khắc phục.

Anthropic là một công ty đã bày tỏ lo ngại về sự phát triển nhanh chóng của công nghệ AI và cho rằng cần phải làm chậm tốc độ phát triển AI để đảm bảo an toàn. Giám đốc điều hành Dario Amodei đã đăng một bài viết dài trên blog vào ngày 12 tháng 9, kêu gọi toàn bộ ngành công nghiệp AI tham gia vào việc làm chậm tốc độ phát triển các mô hình tiên tiến.

Thực tế, trong tài liệu đầu tư cho IPO dài 261 trang, khoảng 80 trang đã được dành riêng để mô tả các yếu tố rủi ro, trong khi phần mô tả về nội dung kinh doanh chỉ chiếm 48 trang.

Công ty AI xAI do Elon Musk lãnh đạo đã dành khoảng 38 trang trong tài liệu đầu tư dài 277 trang để mô tả các yếu tố rủi ro.

Anthropic cho biết việc đảm bảo an toàn cần một lượng tài nguyên đáng kể. Họ giải thích rằng cần phải phân bổ nguồn vốn hạn chế cho tài nguyên tính toán, nhân lực AI cao cấp và nghiên cứu an toàn. Tuy nhiên, công ty cũng cho biết rằng không chắc chắn việc đầu tư vào nghiên cứu an toàn sẽ mang lại lợi nhuận.

Trong tài liệu đầu tư, chi phí cho nghiên cứu an toàn không được công bố. Tuy nhiên, Anthropic đã cho biết rằng vào tháng 7, khoảng 6% tài nguyên tính toán được sử dụng cho nghiên cứu AI đã được đầu tư vào nghiên cứu an toàn.

Vấn đề là mặc dù nhấn mạnh an toàn AI, nhưng rất khó để làm chậm tốc độ trong cuộc cạnh tranh phát triển AI tiên tiến. Anthropic đã nêu trong tài liệu đầu tư rằng việc sử dụng của khách hàng và doanh thu phụ thuộc vào việc phát hành các mô hình AI mới, và để duy trì vị trí hàng đầu trong công nghệ AI, họ cần phải liên tục phát hành các mô hình mới.

Thực tế, Anthropic đã phát hành mô hình mới Opus vào tuần trước, chỉ mười ngày sau khi Giám đốc điều hành Amodei công bố bài viết về sự cần thiết phải điều chỉnh tốc độ phát triển AI.

Trong khi đó, Anthropic ban đầu dự kiến sẽ thực hiện IPO vào tháng 10, nhưng gần đây đã được biết là đã lùi thời gian mục tiêu đến tháng 11. Điều này được giải thích là để có thể công bố kết quả kinh doanh khả quan trong quý 3 và có thời gian để làm rõ lập trường của công ty về an toàn AI.

* Bài viết này được dịch tự động bằng AI.

BAE IN SUN baeinsun@ajunews.com