BC Card tự động hóa công việc tài chính bằng 'nhiều AI nhỏ', giảm 70% chi phí GPU

Xây dựng nền tảng AI chuyên biệt cho tài chính Áp dụng dịch vụ tự động hóa và gợi ý nhà hàng

BC Card đã được mời phát biểu tại hội nghị Red Hat Summit 2026 diễn ra tại Atlanta, Mỹ, trở thành công ty tài chính đầu tiên trong nước giới thiệu trường hợp xây dựng 'Nền tảng AI tác động' cùng Red Hat. Ảnh: BC Card — BC Card đã được mời phát biểu tại hội nghị 'Red Hat Summit 2026' diễn ra tại Atlanta, Mỹ, trở thành công ty tài chính đầu tiên trong nước giới thiệu trường hợp xây dựng 'Nền tảng AI tác động' cùng Red Hat. [Ảnh=BC Card]

BC Card đã nâng cao hiệu quả vận hành AI tài chính bằng cách kết nối nhiều mô hình trí tuệ nhân tạo (AI) nhỏ chuyên biệt cho từng công việc. Phương pháp này giúp giảm chi phí và tăng tốc độ xử lý so với cách tiếp cận truyền thống, nơi một mô hình ngôn ngữ lớn (LLM) đảm nhận tất cả các công việc.

Ngày 14 tháng 5, BC Card đã công bố nền tảng 'Nền tảng AI tác động' được xây dựng cùng Red Hat tại hội nghị 'Red Hat Summit 2026' diễn ra tại Atlanta, Mỹ. Hội nghị này là một sự kiện công nghệ về mã nguồn mở, đám mây và AI do Red Hat, một công ty toàn cầu về mã nguồn mở, tổ chức hàng năm.

Nền tảng mà BC Card giới thiệu không tập trung vào một LLM duy nhất mà thay vào đó, kết hợp nhiều mô hình ngôn ngữ nhỏ (SLM) chuyên biệt cho từng lĩnh vực công việc để xử lý đồng thời. AI tác động không chỉ đơn thuần là trả lời mà còn là công nghệ cho phép AI tự đưa ra quyết định và hành động.

BC Card đã cải thiện vấn đề chi phí và tốc độ vận hành AI thông qua cấu trúc này. SLM có thể được tối ưu hóa cho các công việc cụ thể, mang lại kết quả ổn định và tăng tốc độ suy luận lên hơn 3 lần, đồng thời giảm tài nguyên GPU lên tới 70%.

Thực tế, BC Card đã xây dựng phương pháp vận hành AI phân phối hiệu quả tài nguyên GPU đắt tiền dựa trên kinh nghiệm xử lý hơn 10 tỷ giao dịch mỗi năm. Điều này giúp tăng tốc độ dịch vụ và giảm chi phí vận hành.

Nền tảng này cũng đã được áp dụng vào thực tế. BC Card hiện đang vận hành các dịch vụ như 'Eat.pl' để phân tích mô hình tiêu dùng theo thời gian thực và gợi ý nhà hàng, 'BCGPT' là nền tảng AI tạo sinh chuyên biệt cho tài chính hỗ trợ công việc của nhân viên, và 'MOAI' kết nối nhiều AI để thực hiện tự động hóa công việc. BC Card cũng đã công khai các mô hình AI tự phát triển và bộ dữ liệu tài chính chuyên biệt của Hàn Quốc cho bên ngoài. Họ đã công bố khoảng 38 LLM trên nền tảng mã nguồn mở toàn cầu Hugging Face, với trung bình 100.000 lượt tải hàng tháng.

* Bài viết này được dịch tự động bằng AI.

SEOYOUNG LEE 2s0@ajunews.com