AI gặp khó khăn do thiếu bộ nhớ, lý do SK Hynix tập trung vào HBF

SK Hynix dự kiến sẽ thương mại hóa bộ nhớ flash băng thông cao (HBF) tại sự kiện 'FMS 2026', cho phép gắn một bộ nhớ đọc dung lượng lớn gần với bộ tăng tốc AI (AI accelerator), từ đó xử lý nhiều câu hỏi hơn với cùng một GPU và giảm chi phí năng lượng cũng như tổng chi phí sở hữu.

Theo thông tin từ ngành công nghiệp bán dẫn vào ngày 6, chiến lược HBF của SK Hynix được đánh giá là một nỗ lực để giải quyết tình trạng tắc nghẽn trong cơ sở hạ tầng suy diễn AI thông qua việc tái cấu trúc lớp bộ nhớ. Điều này không chỉ vượt qua cuộc cạnh tranh nâng cao hiệu suất HBM mà còn thêm một lớp mới giữa HBM và SSD.

HBF là bộ nhớ dựa trên NAND, nhưng khác với SSD thông thường. Nó được cấu trúc dưới dạng gói xếp chồng tương tự như HBM và tăng cường cấu trúc đọc song song để gắn gần với bộ tăng tốc AI. Các thông số kỹ thuật được công bố bởi SK Hynix và SanDisk cho thấy dung lượng tối đa lên đến 512GB và băng thông từ 0.4 đến 3.0TB/s.

Các chuyên gia quốc tế đặc biệt chú ý đến việc cải thiện dung lượng. Mặc dù HBM có tốc độ nhanh, nhưng dung lượng lắp đặt lại hạn chế và chi phí cao. Trong suy diễn mô hình ngôn ngữ quy mô lớn, trọng số mô hình và bộ nhớ KV (KV cache) ngày càng lớn. Khi số lượng người dùng tăng lên, dữ liệu cần lưu trữ và truy xuất trong cùng một GPU cũng tăng theo.

Tạp chí công nghệ IT Tom's Hardware đã đánh giá HBF là một lớp bộ nhớ mới cho suy diễn AI. Họ chỉ ra rằng HBF có lợi thế khi có thể đặt một bộ nhớ dung lượng lớn gần với bộ xử lý, điều mà HBM không thể cung cấp một cách kinh tế. Tuy nhiên, họ cũng cho rằng HBF khó có thể vượt qua HBM về độ trễ.

Phân tích cho thấy giới hạn này sẽ xác định cách sử dụng HBF. HBM đảm nhận dữ liệu cần truy cập nhanh nhất, trong khi HBF đóng vai trò hỗ trợ cho dữ liệu cần dung lượng lớn hơn. Điều này cũng dẫn đến dự đoán rằng HBF sẽ được sử dụng trước tiên cho suy diễn hơn là cho học máy.

EE Times cũng nhìn nhận HBF không phải là một sự thay thế cho HBM mà là một sản phẩm bổ sung. Mặc dù tốc độ ghi và độ bền của HBF kém hơn HBM, nhưng cấu trúc này phù hợp cho các tác vụ suy diễn tập trung vào việc đọc. Đánh giá cho rằng nếu đặt mô hình AI vào HBF và sử dụng HBM như một bộ nhớ cache tốc độ cao, có thể giảm bớt rào cản bộ nhớ theo cách khác.

SK Hynix cũng có lợi ích từ hiệu ứng hợp tác kinh doanh. Công ty không chỉ là một nhà sản xuất HBM hàng đầu mà còn có hoạt động kinh doanh NAND. HBF là sản phẩm có thể kết hợp hai lĩnh vực này thành một giải pháp hạ tầng AI duy nhất. Điều này có nghĩa là có thể mở rộng khu vực bộ nhớ trong hệ thống khách hàng so với khi chỉ bán HBM.

Kim Cheon-seong, Giám đốc bộ phận SK Hynix, đã phát biểu tại FMS 2026 rằng "Việc sử dụng AI đang nhanh chóng lan rộng, đòi hỏi một sự thiết kế lại toàn bộ cấu trúc xử lý dữ liệu". Đây là lý do mà HBF được đánh giá là công nghệ tái phân chia ranh giới giữa bộ nhớ và lưu trữ.



* Bài viết này được dịch tự động bằng AI.

• #AI
• #HBF
• #SK Hynix