Dịch vụ AI toàn diện 'Sovereign AI' của Daum chính thức ra mắt nhờ hợp tác giữa Upstage, AXZ và FuriosaAI

Upstage đã hợp tác với công ty bán dẫn AI FuriosaAI để giới thiệu dịch vụ AI toàn diện 'Sovereign AI' trên cổng thông tin 'Daum'. Mô hình ngôn ngữ quy mô lớn (LLM) của Upstage sẽ được vận hành trên bộ xử lý mạng nơ-ron AI (NPU) của Furiosa, và áp dụng vào dịch vụ 'AI Overview' của Daum. Đây được coi là một ví dụ cho thấy khả năng tự chủ của công nghệ AI nội địa khi kết nối giữa bán dẫn AI, mô hình và dịch vụ cổng thông tin nội địa.
Giám đốc Upstage Kim Seong-hoon, Giám đốc FuriosaAI Baek Jun-ho và Giám đốc AXZ Lee Geon-soo đã tổ chức một cuộc trò chuyện trực tuyến vào ngày 15 và giới thiệu ví dụ về dịch vụ tóm tắt tìm kiếm thời gian thực 'AI Overview' mà họ hợp tác phát triển. Họ cũng đã công bố các kế hoạch hợp tác trong tương lai liên quan đến kế hoạch AI đại diện của Daum.
AI Overview là dịch vụ vận hành mô hình LLM Solar của Upstage trên NPU Renegade của FuriosaAI. Khác với phương pháp tìm kiếm truyền thống, nơi người dùng phải nhấp vào từng liên kết để kiểm tra nội dung, AI sẽ đọc tài liệu trước và tóm tắt nội dung chính để cung cấp. Daum đã bắt đầu dịch vụ thử nghiệm AI Overview từ ngày 1 tháng 7.
Giám đốc Lee Geon-soo cho biết AI Overview của Daum được tối ưu hóa để xử lý thông tin mới nhất dựa trên thông tin thời gian thực. Gần đây, Google đã bắt đầu cung cấp dịch vụ AI Overview, nơi AI tổng hợp và tóm tắt câu trả lời từ nhiều nguồn, và Daum đã tập trung vào việc lấy thông tin mới nhất từ các liên kết với các cơ quan truyền thông, diễn đàn và dịch vụ Tistory mà họ sở hữu.
Hiện tại, AI Overview đang sử dụng khoảng 24 chip trên 3 nút máy chủ và xử lý khoảng 500 triệu token mỗi ngày. Giám đốc Lee cho biết: "Chúng tôi đã áp dụng 'tìm kiếm lai' kết hợp giữa phương pháp tìm kiếm từ khóa và phương pháp tìm kiếm vector để có thể tìm kiếm thông tin mới nhất" và "chúng tôi cũng đã nỗ lực để giải quyết vấn đề ảo giác xảy ra trong quá trình tóm tắt bằng cách áp dụng kỹ thuật kỹ thuật mạnh mẽ."
Giám đốc Baek Jun-ho đã chỉ ra rằng điểm mạnh của Renegade là hiệu quả về chi phí và năng lượng. Để triển khai các mô hình tiên tiến như Solar với hiệu suất tối ưu, cần có các công việc tối ưu hóa, và FuriosaAI đã phát triển một trình biên dịch giúp chuyển đổi mô hình AI một cách hiệu quả và một engine phục vụ các mô hình phù hợp với nhiều kịch bản dịch vụ khác nhau.
Ba công ty dự định sẽ tiếp tục hợp tác thông qua dịch vụ AI đại diện của Daum. Daum sẽ mở rộng dịch vụ AI theo chiều dọc sang các lĩnh vực như mua sắm và nhà hàng. Họ cũng đặt mục tiêu phổ biến 'mỗi người một đại diện'. Hiện tại, AI Overview đang hiển thị khoảng 20% truy vấn tìm kiếm tổng thể của Daum. Daum đặt mục tiêu sẽ mở rộng tỷ lệ hiển thị của AI Overview lên hơn một nửa trong tương lai.
AI đại diện của Daum dự kiến sẽ phản ánh tích cực thông tin mới nhất như AI Overview và xu hướng thời gian thực. Sau khi dịch vụ xu hướng thời gian thực của Daum ra mắt, xu hướng tìm kiếm đã thay đổi, và họ đang lên kế hoạch cho một đại diện phù hợp với sở thích của người dùng dựa trên điều này.
Giám đốc Lee cho biết: "Gần đây, xu hướng tìm kiếm thời gian thực đứng đầu là 'giá cổ phiếu Samsung Electronics'" và "chúng tôi sẽ tạo ra một đại diện có thể gửi thông tin cần thiết đến từng người dùng mà không cần họ phải tìm kiếm giá cổ phiếu Samsung Electronics hoặc tin tức liên quan đến các công ty cạnh tranh mỗi ngày."
FuriosaAI có kế hoạch tiếp tục mở rộng các giải pháp và sản phẩm để hỗ trợ chi phí token và hiệu suất tối ưu cho dịch vụ AI Overview và AI đại diện của Daum.
Giám đốc Kim cho biết: "Khi sử dụng AI Overview trên cổng thông tin Daum, người dùng sẽ sử dụng cả Solar của Upstage và NPU của FuriosaAI" và "chúng ta cần tạo ra một cấu trúc vòng tròn tích cực, nơi việc sử dụng mô hình và cơ sở hạ tầng AI nội địa ngày càng tăng sẽ nâng cao chất lượng."



* Bài viết này được dịch tự động bằng AI.

• #Daum
• #Solar
• #Upstage
• #AXZ
• #FuriosaAI
• #AI