Thời đại AI Agentic tái cấu trúc thị trường GPU, cơ hội cho ngành bán dẫn Hàn Quốc

Google đã công bố dòng bán dẫn AI mạnh nhất từ trước đến nay tại hội nghị công nghệ thường niên, thách thức sự thống trị của Nvidia. Khi thị trường AI tăng tốc, Samsung Electronics và SK Hynix, nhà cung cấp bộ nhớ chính cho các chip này, được dự đoán sẽ hưởng lợi lớn.

Theo ngành công nghệ thông tin, ngày 22 tháng 4 tại Las Vegas, Google Cloud đã giới thiệu hai loại TPU thế hệ thứ 8: 'TPU 8t' cho học tập và 'TPU 8i' cho suy luận, dự kiến ra mắt trong năm nay.

TPU là bán dẫn ASIC chuyên dụng cho AI, được Google thiết kế cùng Broadcom, tối ưu hóa cho tính toán AI với hiệu suất năng lượng cao.

Điểm nổi bật của TPU thế hệ 8 là thiết kế tách biệt giữa học tập và suy luận, thay đổi cấu trúc lần đầu tiên sau 11 năm kể từ khi TPU ra mắt năm 2015.

TPU 8t có cấu trúc 'Superpod' kết nối tối đa 9.600 chip trong một hệ thống, cung cấp hiệu suất 121 exaflops mỗi pod, nhanh hơn 3 lần so với thế hệ trước và cải thiện hiệu suất năng lượng gấp đôi. Nền tảng Pathways cho phép kết nối hơn 1 triệu TPU như một cụm, rút ngắn thời gian phát triển mô hình AI lớn từ vài tháng xuống vài tuần.

TPU 8i đáp ứng trực tiếp nhu cầu AI Agentic, với hiệu suất tăng 9,8 lần so với thế hệ 7, tích hợp 384MB SRAM và 288GB bộ nhớ HBM.

Tuy nhiên, thị phần của Google TPU chỉ khoảng 5%, trong khi Nvidia chiếm 92%. Nền tảng 'Vera Rubin' của Nvidia đã bắt đầu sản xuất và dự kiến ra mắt cuối năm nay.

Thị trường đang có lợi cho Google khi thiếu hụt nguồn cung GPU của Nvidia kéo dài, khiến khách hàng doanh nghiệp tìm kiếm giải pháp thay thế hiệu quả hơn. AWS cũng đang giảm phụ thuộc vào Nvidia với các gia tốc AI riêng như 'Trainium' và 'Inferentia'.

Trong bối cảnh này, các công ty bán dẫn Hàn Quốc được chú ý. Mỗi TPU chứa 6-8 HBM, với Samsung và SK Hynix là nhà cung cấp chính. Micron đã bị loại khỏi cuộc đua do thiếu năng lực sản xuất. Dự kiến, TPU thế hệ 8 sẽ sử dụng HBM4 thế hệ 6, và Samsung có thể tăng gấp đôi lượng cung cấp HBM cho Google trong năm nay. SK Hynix hiện là nhà cung cấp ưu tiên cho Google với HBM3E.

* Bài viết này được dịch tự động bằng AI.

• #TPU của Google
• #AI bán dẫn
• #Bộ nhớ HBM