Upstage ra mắt mô hình ngôn ngữ lớn mới 'Solar Mini 4' phù hợp cho công việc lặp lại

Upstage đã công bố mô hình ngôn ngữ lớn (LLM) mới nhất của mình mang tên 'Solar Mini 4' vào ngày 1 tháng 10.

Solar Mini 4 là một trong những mô hình nhỏ trong dòng sản phẩm LLM Solar của Upstage, nổi bật với khả năng đạt hiệu suất cao và hiệu quả ngay cả với quy mô nhỏ. Mô hình này có tổng cộng 35 tỷ tham số và áp dụng cấu trúc hỗn hợp chuyên gia (MoE), cho phép chỉ kích hoạt 3 tỷ tham số trong quá trình suy diễn thực tế.

Về hiệu suất, mô hình này đạt 24 điểm theo chỉ số 'Chỉ số trí tuệ (AAII)' do tổ chức đánh giá trí tuệ nhân tạo toàn cầu 'Artificial Analysis' xác định. Đây là mức cao nhất trong số các mô hình nhỏ với 3 tỷ tham số đang hoạt động. Nó vượt qua các mô hình cùng loại như 'Qun 3.6-35B-A3B' của Alibaba và 'NemoTron 3.5 Lightning' của NVIDIA.

Solar Mini 4 có thể hoạt động chỉ với một card đồ họa (GPU) khi áp dụng lượng hóa. Nó cũng phù hợp cho môi trường on-premise, nơi được cài đặt và vận hành trên máy chủ nội bộ của doanh nghiệp.

Với sự ra mắt này, Upstage chính thức triển khai hai dòng sản phẩm LLM Solar là 'Pro' và 'Mini'. 'Solar Pro' được thiết kế cho các tác vụ phức tạp yêu cầu quyết định cao, trong khi 'Solar Mini' được tối ưu hóa cho việc tự động hóa công việc lặp lại một cách nhanh chóng và hiệu quả về token.

Solar Mini 4 cũng sẽ được phát hành dưới dạng API thông qua nền tảng định tuyến API toàn cầu 'OpenRouter'. Nhân dịp ra mắt Solar Mini 4, Upstage sẽ thực hiện chương trình khuyến mãi giảm giá 70% cho API đến ngày 10 tháng 10.

Ông Kim Sung-hoon, Giám đốc điều hành của Upstage, cho biết: "Solar Mini 4 đã vượt qua tất cả các mô hình cạnh tranh cùng loại và thiết lập tiêu chuẩn mới cho LLM nhỏ". Ông cũng nhấn mạnh rằng: "Chúng tôi sẽ giúp các doanh nghiệp lựa chọn AI phù hợp nhất cho công việc của họ thông qua LLM Solar, với các tác vụ phức tạp được xử lý bởi Pro và tự động hóa quy mô lớn được xử lý bởi Mini".

Trong khi đó, Upstage đang chuẩn bị cho đánh giá giai đoạn cuối của dự án mô hình nền tảng trí tuệ nhân tạo độc lập do chính phủ thực hiện.

* Bài viết này được dịch tự động bằng AI.

Na Seon Hye hisunny20@ajunews.com