Áp dụng MoE cho mô hình mở quy mô 250B
Xây dựng môi trường mô phỏng cho AI tạo tài liệu, Excel, PPT
Upstage đã công bố mô hình ngôn ngữ lớn (LLM) 'Solar Open2' nhắm đến mô hình nền tảng trí tuệ nhân tạo (AI) độc lập. Mô hình này tập trung vào việc thực hiện các tác vụ thực tế như soạn thảo tài liệu, phân tích Excel, tạo bài thuyết trình (PPT) và lập trình, nhằm tấn công vào thị trường AI doanh nghiệp.
Vào ngày 22, Upstage đã tổ chức hội nghị dành cho các nhà phát triển mang tên 'Solar Open Weight Day' và công bố Solar Open2. Mô hình này được phát hành theo phương thức mở thông qua Hugging Face để các nhà phát triển có thể tự do sử dụng.
Tại sự kiện, Giám đốc Kim Seong-hoon cho biết: "Ngày nay, chỉ nói chuyện tốt là không đủ" và nhấn mạnh rằng "nếu không thể hoàn thành công việc khi được giao, bạn sẽ bị coi là kém cỏi. Vì vậy, chúng tôi đã tập trung vào khả năng của AI agent để phát triển mô hình này."
Điểm khác biệt của mô hình này là môi trường mô phỏng tự xây dựng mang tên 'Officeverse', được thiết kế để học hỏi từ các tình huống công việc thực tế. Officeverse tạo ra các tình huống công việc doanh nghiệp như soạn thảo tài liệu, làm việc với Excel và tạo PPT, đồng thời đánh giá độ chính xác của AI trong việc thực hiện các tác vụ này.
Solar Open2 là một mô hình mở quy mô lớn với tổng cộng 250B tham số. Mô hình này áp dụng cấu trúc hỗn hợp chuyên gia (MoE - Mixture of Experts), chỉ kích hoạt 15B tham số cho mỗi token trong quá trình suy luận thực tế. Điều này giúp duy trì hiệu suất của mô hình lớn trong khi giảm mức sử dụng GPU và chi phí suy luận.
Upstage nhấn mạnh rằng Solar Open2 có khả năng xử lý ngữ cảnh lên đến 1 triệu token, phù hợp cho việc phân tích các tài liệu lớn như hợp đồng và báo cáo cùng một lúc. Mô hình này không chỉ hỗ trợ soạn thảo tài liệu mà còn tăng cường các chức năng cần thiết cho việc triển khai AI agent như gọi công cụ bên ngoài và thực hiện các quy trình công việc phức tạp.
Cạnh tranh về hiệu suất cũng được nhấn mạnh. Theo tài liệu mà Upstage công bố, Solar Open2 đạt 92.4 điểm trong chỉ số đánh giá hiệu suất tạo mã 'LiveCodeBench'. Đây là mức cao hơn so với các mô hình đối chứng như DeepSpeed V4-Flash (92.3 điểm) và Mistral Medium 3.5 (84.9 điểm).
Thông qua việc công bố Solar Open2, Upstage dự định sẽ chính thức tấn công vào thị trường AI agent cho doanh nghiệp. Đặc biệt, công ty này có kế hoạch mở rộng sự hiện diện trong hệ sinh thái AI trong nước dựa trên năng lực phát triển mô hình quy mô lớn mà họ đã đạt được thông qua việc tham gia vào dự án mô hình nền tảng AI độc lập của chính phủ.
Khi được hỏi về chiến lược kiếm tiền từ việc công bố miễn phí, Giám đốc Kim nhấn mạnh đến việc "mở rộng hệ sinh thái". Ông cho biết: "Hiện tại, điều quan trọng nhất ở trong nước là sự tuần hoàn tích cực của hệ sinh thái AI" và nhấn mạnh rằng mục tiêu là để Solar Open2 được sử dụng trong thực tế và nhận được đánh giá tốt, từ đó tạo ra một hệ sinh thái lớn hơn.
Ông cũng cho biết: "Thông qua sự hỗ trợ của dự án mô hình nền tảng AI độc lập của chính phủ, chúng tôi đã có thể phát triển mô hình quy mô 250B sau mô hình 100B trước đó" và nhấn mạnh rằng "mục tiêu không phải là tạo ra những mô hình lớn mà là tập trung vào việc phát triển AI thực tiễn có thể sử dụng trong công việc hàng ngày."
* Bài viết này được dịch tự động bằng AI.
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.



