Theo thông tin từ OpenAI và hãng tin Reuters vào ngày 24 tháng 6, Jalapeño là một bộ tăng tốc AI chuyên biệt cho suy luận mô hình ngôn ngữ lớn (LLM). Suy luận là quá trình mà mô hình AI đã được học hỏi sẽ trả lời câu hỏi của người dùng hoặc thực hiện các tác vụ. OpenAI cho biết chip này "không phải là một loại bán dẫn đa năng mà được thiết kế phù hợp với cách thức xử lý của dịch vụ của công ty".
OpenAI mô tả Jalapeño là "được tạo ra để vận hành nhanh chóng và hiệu quả cho các LLM hiện tại và thế hệ tiếp theo". Các thử nghiệm ban đầu đã xác nhận khả năng cải thiện hiệu suất so với mức tiêu thụ điện năng. Các số liệu cụ thể sẽ được công bố trong báo cáo kỹ thuật sau.
Công nghệ chip và mạng lưới được Broadcom đảm nhiệm, trong khi hệ thống máy chủ được xây dựng bởi Celestica. Việc sản xuất được giao cho TSMC tại Đài Loan. OpenAI cho biết "quá trình thiết kế đến khi đặt hàng sản xuất mất khoảng 9 tháng, trong đó công ty đã sử dụng mô hình AI của mình để rút ngắn một số công đoạn thiết kế và tối ưu hóa".
Jalapeño dự kiến sẽ được triển khai trong cơ sở hạ tầng nội bộ của OpenAI vào cuối năm nay. Reuters cho biết "chip và hệ thống máy chủ này sẽ không được bán cho khách hàng bên ngoài mà sẽ được sử dụng trực tiếp cho việc vận hành dịch vụ của OpenAI".
OpenAI cho biết "hiện tại đang vận hành mẫu thử nghiệm trong phòng thí nghiệm" và "đang thực hiện các tác vụ học máy (học tập dựa trên dữ liệu và dự đoán) với mô hình GPT-5.3-Codex-Spark ở mức tiêu thụ điện năng và hiệu suất mục tiêu".
Giám đốc điều hành Broadcom, Hock Tan, trong cuộc phỏng vấn với Reuters cho biết "Jalapeño có thể so sánh với chip Blackwell của Nvidia hoặc bộ xử lý tensor (TPU) của Google". Ông cũng cho biết Samsung Electronics và SK Hynix đang cung cấp chip nhớ cho Broadcom.
* Bài viết này được dịch tự động bằng AI.
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.



