Giải pháp giảm tắc nghẽn dữ liệu hệ thống vượt qua HBM
Đề xuất lộ trình công nghệ CPO cho Nature Electronics
SK Hynix đã giới thiệu công nghệ quang liên kết thế hệ tiếp theo nhằm giải quyết tắc nghẽn dữ liệu giữa các hệ thống trong trung tâm dữ liệu AI, vượt qua băng thông bộ nhớ cao (HBM). Công nghệ này tập trung vào việc chuyển đổi dữ liệu giữa các chip, rack và pod trong cơ sở hạ tầng AI quy mô lớn, nơi hàng nghìn GPU và HBM được kết nối với nhau thông qua truyền thông quang.
Theo thông tin từ SK Hynix, công ty đã công bố bài báo về công nghệ CPO (Co-Packaged Optics) được nghiên cứu chung với các nhà nghiên cứu toàn cầu trên tạp chí khoa học quốc tế 'Nature Electronics'. Các nhà nghiên cứu từ SK Hynix, Đại học Virginia, Đại học Illinois, Đại học Nanyang, MIT và Đại học Yonsei đã tham gia vào nghiên cứu này.
CPO là công nghệ tích hợp bộ thu phát quang vào cùng một gói với bộ xử lý. Kết nối điện dựa trên đồng hiện tại gặp phải vấn đề về mất tín hiệu và tiêu thụ năng lượng tăng lên khi khoảng cách và tốc độ truyền dữ liệu tăng. CPO giúp giảm khoảng cách di chuyển của tín hiệu điện bằng cách đặt động cơ quang gần bộ xử lý và kết nối phần còn lại bằng ánh sáng.
Sự gia tăng nhanh chóng về hiệu suất tính toán AI đã dẫn đến việc di chuyển dữ liệu giữa các hệ thống trở thành một điểm tắc nghẽn mới. Bài báo chỉ ra rằng hiệu suất tính toán tăng gấp ba lần sau mỗi hai năm, trong khi băng thông liên kết chỉ tăng 1,4 lần trong cùng khoảng thời gian.
Gần đây, SK Hynix đã mở rộng lĩnh vực kinh doanh của mình từ HBM sang các công nghệ điện năng, đóng gói và kết nối cho trung tâm dữ liệu AI, nhằm đáp ứng nhu cầu cạnh tranh trong cơ sở hạ tầng AI theo hệ thống.
Các nhà nghiên cứu đã đề xuất hướng phát triển của CPO từ đóng gói 2D sang interposer 2.5D và tích hợp đa chiều 3D. Họ cũng đã tổng hợp các nhiệm vụ công nghệ cần thiết để thương mại hóa. Mục tiêu công nghệ cho cơ sở hạ tầng AI thế hệ tiếp theo bao gồm băng thông trên mỗi nút vượt quá 100 Tbps, tiêu thụ năng lượng dưới 1 pJ/bit và độ trễ giữa các chip dưới 10 ns.
Về lâu dài, họ cũng đã đề xuất mở rộng kết nối quang đến bộ nhớ. Kiến trúc 'tập trung quang' sẽ kết nối trực tiếp tài nguyên tính toán và tài nguyên bộ nhớ thông qua interposer quang. Nếu nhiều bộ tăng tốc chia sẻ một bể bộ nhớ lớn, điều này sẽ giúp đáp ứng nhu cầu mở rộng mô hình AI.
Bài báo này có ý nghĩa quan trọng khi định nghĩa CPO không chỉ là một công nghệ thành phần đơn lẻ mà là một công nghệ hệ thống thiết kế đồng thời bộ nhớ, bộ xử lý và linh kiện quang. Điều này cũng cho thấy SK Hynix đang mở rộng lĩnh vực công nghệ từ cạnh tranh bộ nhớ dựa trên HBM sang toàn bộ cơ sở hạ tầng AI.
* Bài viết này được dịch tự động bằng AI.
SEONGJUN JO
critic@ajunews.com
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.