SKT hợp tác với Arm và Rebellion xây dựng hạ tầng AI

Tăng cường hiệu suất năng lượng và cạnh tranh chi phí với CPU và NPU Chuyển từ học tập sang suy luận... Thay đổi cấu trúc trung tâm dữ liệu AI

Trụ sở chính của SKT tại Euljiro [Ảnh = SKT]

[Kinh tế Nhật báo] Sự phát triển của AI tạo ra nhu cầu lớn về trung tâm dữ liệu, khiến hiệu suất năng lượng và chi phí trở thành yếu tố quan trọng. Ngày 10 tháng 4, SK Telecom thông báo đã ký kết hợp tác chiến lược với Arm và Rebellion vào ngày 9 tháng 4 để đổi mới hạ tầng AI thế hệ tiếp theo.

Ban đầu, ngành công nghiệp AI tập trung vào việc sở hữu GPU hiệu suất cao để huấn luyện mô hình lớn. Tuy nhiên, khi nhu cầu suy luận AI tăng lên, vấn đề hiệu suất năng lượng trở nên nổi bật. Suy luận AI tiêu tốn nhiều điện năng, làm tăng chi phí vận hành. Do đó, cần thiết phải chuyển từ hạ tầng dựa trên GPU sang sử dụng các chip AI chuyên dụng cho suy luận.

SK Telecom đã hợp tác với Arm và Rebellion để phát triển giải pháp máy chủ kết hợp CPU của Arm và NPU của Rebellion, áp dụng vào trung tâm dữ liệu AI của SK Telecom. Mục tiêu là cải thiện hiệu suất suy luận AI và hiệu suất năng lượng.

Infographic về cấu trúc hợp tác phát triển giải pháp máy chủ suy luận AI của SKT [Ảnh=SKT]

Hợp tác này nhằm xây dựng cấu trúc tính toán dị thể kết hợp CPU và NPU. Trong quá trình vận hành dịch vụ AI, CPU đảm nhiệm tính toán đa năng và quản lý hệ thống, trong khi NPU tập trung vào suy luận AI, giúp tăng hiệu suất năng lượng và giảm chi phí so với cấu trúc chỉ dùng GPU.

Rebellion, một startup AI bán dẫn của Hàn Quốc, đang phát triển chip AI cho trung tâm dữ liệu với thiết kế tiết kiệm năng lượng và hiệu suất cao. Hợp tác này có thể mở rộng hệ sinh thái bán dẫn AI quốc nội nếu được áp dụng vào trung tâm dữ liệu AI của các công ty viễn thông.

Arm cũng đang đẩy mạnh chiến lược mở rộng vào thị trường trung tâm dữ liệu, chuyển từ thiết kế di động sang CPU cho trung tâm dữ liệu, phù hợp với xu hướng tăng cường CPU dựa trên Arm trong môi trường trung tâm dữ liệu AI.

SK Telecom coi trung tâm dữ liệu AI là động lực tăng trưởng chính trong tương lai và đang mở rộng đầu tư vào lĩnh vực này. Họ đang phát triển mô hình nền tảng AI của riêng mình và củng cố hạ tầng để tăng cường cấu trúc kinh doanh AI. Hợp tác này nhằm đảm bảo hạ tầng suy luận tiết kiệm năng lượng và hiệu suất cao, nâng cao hiệu quả vận hành trung tâm dữ liệu AI.

Với sự nổi bật của hiệu suất năng lượng và cạnh tranh chi phí, hợp tác giữa các công ty viễn thông và bán dẫn đang mở rộng. Ngành công nghiệp AI đang chuyển từ học tập sang suy luận, đưa cạnh tranh hạ tầng trung tâm dữ liệu vào giai đoạn mới.

Ông Lee Jae-shin, phụ trách phát triển kinh doanh AI của SKT, cho biết: "Chúng tôi sẽ cung cấp gói đầy đủ kết hợp hạ tầng tối ưu hóa cho suy luận và mô hình nền tảng độc quyền A.X K1 để tăng cường cạnh tranh trung tâm dữ liệu AI."

* Bài viết này được dịch tự động bằng AI.

Ryu Cheongbit cbryu@kyungjeilbo.com