Nhu cầu AI tăng mạnh, SamsungSDS ra mắt dịch vụ dựa trên B300

[Kinh tế Nhật báo] Nhu cầu về hạ tầng GPU hiệu suất cao đang gia tăng khi các mô hình AI chuyển sang giai đoạn 'suy luận'. SamsungSDS đã ra mắt dịch vụ dựa trên GPU mới nhằm tăng tốc độ thâm nhập vào thị trường hạ tầng AI cho doanh nghiệp.

Ngày 23 tháng 3, SamsungSDS thông báo ra mắt dịch vụ GPUaaS dựa trên GPU B300 (Blackwell Ultra) của Nvidia thông qua nền tảng đám mây Samsung (SCP). Dịch vụ này nhằm đáp ứng nhu cầu tính toán ngày càng tăng khi các doanh nghiệp chuyển từ phát triển mô hình AI sang ứng dụng thực tế.

Với sự phát triển của AI, nhiều doanh nghiệp đang tập trung vào xây dựng môi trường suy luận yêu cầu phản hồi thời gian thực và xử lý quy mô lớn. Trong quá trình vận hành mô hình ngôn ngữ lớn (LLM), tốc độ xử lý bộ nhớ trở thành yếu tố quan trọng quyết định hiệu suất tổng thể.

GPU B300 được thiết kế để tăng cường hiệu suất bộ nhớ, giảm tắc nghẽn và hỗ trợ vận hành dịch vụ AI ổn định hơn. SamsungSDS cho biết dịch vụ này sẽ giúp giảm thời gian trễ và tăng hiệu quả xử lý cho các dịch vụ dựa trên mô hình AI quy mô lớn.

SamsungSDS đã tiên phong trong việc áp dụng các dịch vụ dựa trên GPU mới nhất như A100, H100, và hiện nay là B300, nhằm cung cấp môi trường tính toán hiệu suất cao và tăng cường khả năng cạnh tranh dịch vụ hạ tầng AI.

Khách hàng có thể sử dụng mô hình đăng ký để giảm chi phí đầu tư ban đầu và nhanh chóng áp dụng kiến trúc mới nhất ngay cả khi nguồn cung GPU bị hạn chế. Tính năng bảo mật trong môi trường đám mây cũng giúp xử lý dữ liệu nhạy cảm một cách an toàn.

SamsungSDS dự kiến sẽ nâng cao dịch vụ hạ tầng AI trong tương lai. Dịch vụ 'suy luận không máy chủ' và 'học AI tự động' sẽ được ra mắt vào quý 3 năm nay, cho phép người dùng chỉ trả phí cho lượng sử dụng thực tế mà không cần quản lý hạ tầng riêng.

Trong bối cảnh cạnh tranh hạ tầng AI ngày càng gay gắt, dịch vụ dựa trên GPU hiệu suất cao và mô hình dịch vụ hiệu quả đang trở thành yếu tố then chốt trong cạnh tranh của các doanh nghiệp.

Ông Lee Ho-jun, Phó Chủ tịch kiêm Trưởng bộ phận dịch vụ đám mây của SamsungSDS, cho biết: "Chúng tôi sẽ hỗ trợ chuyển đổi AX tích cực cho các khách hàng doanh nghiệp lớn, vừa và nhỏ, cũng như công cộng tại Hàn Quốc với dịch vụ GPU B300 đầu tiên trong nước, dựa trên khả năng tối ưu hóa tài nguyên và tiết kiệm năng lượng của SCP."

* Bài viết này được dịch tự động bằng AI.

• #Nền tảng đám mây Samsung
• #SamsungSDS
• #Đám mây
• #B300
• #Dịch vụ suy luận không máy chủ
• #Dịch vụ học AI
• #GPU
• #SCP
• #Hạ tầng GPU