SK Hynix đã bắt đầu sản xuất hàng loạt bộ nhớ SOCAMM dành cho CPU AI, được tối ưu hóa cho nền tảng AI thế hệ mới của NVIDIA, 'Vera Rubin'. Sản phẩm này giúp giảm nghẽn cổ chai trong quá trình học và suy luận của các mô hình AI lớn, tăng tốc độ xử lý hệ thống.
SOCAMM2 của SK Hynix là mô-đun bộ nhớ máy chủ AI sử dụng DRAM LPDDR5X thế hệ 6 (1c) 10nm. Sản phẩm này chuyển đổi bộ nhớ tiết kiệm năng lượng từ thiết bị di động sang môi trường máy chủ, dự kiến sẽ được sử dụng rộng rãi trong các máy chủ AI của NVIDIA và AMD.
SOCAMM2 có băng thông gấp đôi và hiệu suất năng lượng cải thiện 75% so với RDIMM hiện tại. Nó hoạt động như một quản lý trung gian giữa HBM và DDR, nâng cao hiệu quả xử lý dữ liệu AI. Trong hệ thống Vera Rubin, CPU Vera kết nối với SOCAMM2 và GPU Rubin kết nối với HBM4 để vận hành AI.
Khi SOCAMM2 được phổ biến, gánh nặng về điện năng và làm mát tại các trung tâm dữ liệu AI toàn cầu sẽ giảm đáng kể. SK Hynix cho biết, "SOCAMM2 áp dụng cấu trúc mô-đun dựa trên kết nối ép, giảm lỗi tín hiệu và dễ dàng thay thế, mở rộng bộ nhớ hơn so với cách gắn liền."
Ông Kim Joo-sun, Giám đốc hạ tầng AI của SK Hynix, cho biết, "Chúng tôi hợp tác với NVIDIA để giải quyết vấn đề nghẽn cổ chai trong hạ tầng AI và cung cấp hiệu suất tối ưu, đồng thời đặt ra tiêu chuẩn mới cho hiệu suất bộ nhớ AI với sản phẩm SOCAMM2 192GB."
* Bài viết này được dịch tự động bằng AI.
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.