KT (Giám đốc điều hành Park Yoon-young) đã giới thiệu một thiết bị AI doanh nghiệp mang tên "KT NPU LLM Station", kết hợp giữa vi xử lý AI nội địa và mô hình ngôn ngữ lớn (LLM) do chính công ty phát triển.
Vào ngày 19 tháng 8, KT thông báo rằng họ đã ra mắt sản phẩm AI tích hợp cho doanh nghiệp. Thiết bị này là một sản phẩm hoàn chỉnh, kết hợp cả phần cứng và phần mềm trong một thiết bị duy nhất.
Sản phẩm này được trang bị vi xử lý mạng nơ-ron (NPU) "Atom-Max" của công ty vi xử lý AI nội địa Rebellion, cùng với mô hình LLM "Mitum K 2.5 Pro" do KT phát triển và nền tảng giao diện ứng dụng (API) của công ty.
Atom-Max là NPU nội địa chuyên biệt cho suy luận AI. Nó đã được kiểm chứng về hiệu suất xử lý và hiệu quả năng lượng trong các bài kiểm tra chính thức so với các đơn vị xử lý đồ họa (GPU) cùng loại.
Mitum K 2.5 Pro là mô hình độc quyền của KT, được tối ưu hóa cho suy luận phức tạp và ứng dụng AI agent. Điểm nổi bật của sản phẩm là tất cả các công nghệ cốt lõi từ vi xử lý AI đến LLM và nền tảng đều được sản xuất trong nước.
KT dự định sử dụng sản phẩm này để nhắm đến các lĩnh vực công cộng, quốc phòng, dược phẩm, sản xuất và tài chính, nơi mà việc áp dụng AI sinh ra từ bên ngoài gặp khó khăn do các quy định về an ninh và phân tách mạng.
Ngoài ra, trong tương lai, KT sẽ lần lượt tích hợp các AI agent do công ty phát triển như hỗ trợ viết biên bản cuộc họp và tự động hóa công việc mang tên "K-Clo" (tên tạm thời) vào sản phẩm. Công ty cũng sẽ mở rộng hợp tác với các công ty phát triển AI chuyên nghiệp để thực hiện các dự án xây dựng tùy chỉnh cho khách hàng. Về lâu dài, KT có kế hoạch áp dụng KT NPU LLM Station vào trung tâm dữ liệu biên (edge data center) cho AI vật lý, nhằm xây dựng cơ sở hạ tầng AI tiết kiệm năng lượng và độ trễ thấp.
Ông Lee Jin-hyung, Giám đốc bộ phận AX của KT, cho biết: "KT NPU LLM Station là sản phẩm kết hợp giữa năng lực toàn diện của KT trong lĩnh vực AX và vi xử lý nội địa, giúp doanh nghiệp và tổ chức có thể ngay lập tức áp dụng AI trong thực tiễn. Đây sẽ là lựa chọn thực tế cho các doanh nghiệp và tổ chức đang muốn thúc đẩy chuyển đổi AI trong khi bảo vệ quyền dữ liệu của mình."
Trong khi đó, vào ngày 18 tháng 8, KT đã nộp đơn tham gia làm đơn vị chủ trì cho dự án "AI cho mọi người" do Bộ Khoa học và Công nghệ thông tin Hàn Quốc triển khai. KT đã thành lập một liên minh với Upstage, Motif Technologies, NC AI và các công ty khác. Dựa trên đó, KT sẽ xây dựng dịch vụ AI dựa trên hạ tầng viễn thông, đám mây và kinh nghiệm vận hành dịch vụ quy mô lớn.
* Bài viết này được dịch tự động bằng AI.
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.