OpenAI xem xét điều chỉnh tốc độ phát triển mô hình AI tiên tiến

OpenAI đang xem xét khả năng điều chỉnh tốc độ phát triển mô hình AI tiên tiến, theo báo cáo của Bloomberg trích dẫn nhiều nguồn tin vào ngày 10 tháng 9 (giờ địa phương).

Theo báo cáo, Sam Altman, Giám đốc điều hành OpenAI, đã gợi ý trong cuộc họp toàn công ty tuần này rằng OpenAI có thể điều chỉnh tốc độ phát triển AI bằng cách phối hợp với các công ty AI khác. Tuy nhiên, ông cũng lưu ý rằng có khả năng các công ty khác không đồng ý với phương án này. Altman đã đề cập rằng vào tháng 7 vừa qua, ông đã thảo luận với các quan chức Nhà Trắng về sự cần thiết phải điều chỉnh tốc độ phát triển AI.

Những phát biểu này diễn ra trong bối cảnh cuộc cạnh tranh phát triển mô hình AI tiên tiến giữa các công ty lớn như OpenAI và Anthropic ngày càng trở nên gay gắt, cùng với những rủi ro liên quan như hacking. Ví dụ, trong tuần này, nhà nghiên cứu Jacob Coxon của Anthropic đã thông báo về việc rời công ty và cảnh báo rằng cuộc cạnh tranh phát triển mô hình AI có thể dẫn đến tình trạng AI không thể kiểm soát, có thể gây ra sự diệt vong cho nhân loại trong vòng 10 năm tới.

Ngoài ra, vào cuối tháng 7, hơn 1.100 nhân viên từ các công ty AI lớn như OpenAI, Anthropic, Google và Meta đã phát đi một tuyên bố kêu gọi thiết lập một hệ thống quốc tế để điều chỉnh tốc độ phát triển AI. Lúc đó, Yakup Pachoki, nhà khoa học chính của OpenAI, đã bày tỏ lo ngại rằng "không ai chuẩn bị cho những hậu quả mà sự phát triển nhanh chóng của trí thông minh máy móc có thể mang lại".

Thực tế, hiệu suất của các mô hình AI đang ngày càng được cải thiện, và có dấu hiệu cho thấy chúng có thể bị sử dụng cho mục đích xấu. Ngày hôm nay, New York Times (NYT) đưa tin rằng Anthropic đã chặn một nỗ lực sử dụng mô hình AI Claude của họ cho nghiên cứu có khả năng phát triển vũ khí sinh học.

Trong khi những rủi ro từ cuộc cạnh tranh phát triển mô hình AI đang ngày càng rõ ràng, Jensen Huang, Giám đốc điều hành của NVIDIA, dự đoán rằng thị trường lớn tiếp theo của trí tuệ nhân tạo (AI) sẽ là lĩnh vực an ninh mạng. Ông Huang đã phát biểu tại hội nghị công nghệ do Goldman Sachs tổ chức tại San Francisco rằng "an ninh mạng sẽ trở thành lĩnh vực sử dụng chính của AI trong tương lai". Ông giải thích rằng việc tự động hóa lập trình máy tính bằng các mô hình AI đang làm tăng tốc độ khai thác mã, và do đó, tốc độ sửa đổi và điều chỉnh mã cũng tăng theo, dẫn đến sự thay đổi trong bối cảnh ngành an ninh mạng.

Giám đốc điều hành Altman cũng đã thảo luận về các biện pháp tăng cường an ninh lưới điện để chuẩn bị cho các cuộc tấn công mạng AI với các công ty điện lực Mỹ trong tuần này, theo báo cáo của Politico, một phương tiện truyền thông chuyên về chính trị Mỹ.



* Bài viết này được dịch tự động bằng AI.

• #an ninh mạng
• #điều chỉnh tốc độ
• #phát triển AI