Chương trình 'Mọi người đều có AI' và dự án AI chuyên biệt về an ninh mạng, mỗi đội được hỗ trợ 256 GPU B200... chỉ bằng 1/4 so với dự án AI độc lập trước đó
Khi quy đổi theo benchmark thực tế, khả năng xử lý đồng thời tối đa chỉ đạt 14.000 trường hợp... 'Không đủ cho dịch vụ toàn dân'
Nước ngoài như Ấn Độ và Ả Rập Saudi đã đầu tư hàng chục nghìn đến hàng trăm nghìn GPU, chênh lệch nguồn lực rõ rệt
Chính phủ Hàn Quốc đã quyết định hỗ trợ khoảng 256 đồ họa xử lý (GPU) cho dự án 'Mô hình nền tảng AI chuyên biệt về an ninh mạng' và 'Mọi người đều có AI'. So với việc hỗ trợ tối thiểu 1.000 GPU cho các đội tinh nhuệ trong dự án mô hình nền tảng AI độc lập năm ngoái, con số này chỉ bằng 1/4, dẫn đến những lo ngại về khả năng xây dựng chatbot AI miễn phí cho toàn dân.
Theo thông tin từ ngành công nghệ thông tin vào ngày 6 tháng 8, Bộ Khoa học và Công nghệ Hàn Quốc cùng với Cơ quan Phát triển Công nghiệp Thông tin (NIPA) đã công bố sửa đổi thông báo về dự án 'Hỗ trợ sử dụng AI cho toàn dân' và 'Phát triển mô hình nền tảng AI chuyên biệt về an ninh mạng' vào ngày 29 tháng 7.
Dự án 'Mọi người đều có AI' nhằm mục tiêu cung cấp chatbot AI miễn phí và không giới hạn cho toàn dân, với 512 GPU B200 mà chính phủ đang sở hữu. Nếu có 2 công ty được chọn, mỗi công ty sẽ nhận 256 GPU, còn nếu có 3 công ty, công ty đứng đầu sẽ nhận 256 GPU, trong khi 2 và 3 sẽ nhận 128 GPU mỗi công ty.
Theo giá thuê GPU B200 trên thị trường (khoảng 6,6 triệu won mỗi tháng), giá trị hàng năm của 256 GPU ước tính khoảng 20,2 tỷ won, và tổng giá trị hạ tầng chính phủ cho toàn bộ dự án 'Mọi người đều có AI' vào khoảng 40,5 tỷ won mỗi năm.
Dự án phát triển mô hình nền tảng AI chuyên biệt về an ninh mạng sẽ hỗ trợ 256 GPU B200 (32 nút) cho một đội được chọn trong vòng 10 tháng, với tổng ngân sách lên tới 30 tỷ won bao gồm chi phí mua GPU, nhân công, xây dựng dữ liệu và chi phí thử nghiệm dịch vụ.
Khi sử dụng 256 GPU B200 trong 10 tháng, quy mô lý thuyết của token có thể xử lý ước tính khoảng 62 triệu tỷ token. Dự án phát triển mô hình chuyên biệt về an ninh mạng được cho là có khả năng thực hiện cả việc học ban đầu và thử nghiệm dịch vụ.
Tuy nhiên, vấn đề nằm ở dự án 'Mọi người đều có AI'. Theo bảng dữ liệu của B200, hiệu suất tính toán lý thuyết của 256 GPU là khoảng 1.152 petaflops (PFLOPS) theo tiêu chuẩn FP8, tương đương khoảng 2,3 lần so với 256 GPU H100.
Khi quy đổi benchmark thực tế của GPU H100 từ công ty khởi nghiệp AI trong nước, Olganize, sang quy mô 256 GPU B200, khả năng xử lý đồng thời tối đa chỉ đạt 14.000 trường hợp, theo phân tích của ngành. Mặc dù có thể tăng giới hạn xử lý đồng thời tùy thuộc vào mức độ tối ưu hóa của động cơ, nhưng việc cung cấp chatbot AI miễn phí cho toàn dân là điều khó khăn về mặt thực tế.
Đặc biệt, nếu có trường hợp người dùng cụ thể sử dụng chatbot AI miễn phí của chính phủ một cách quá mức, sẽ rất khó để tránh khỏi tình trạng tắc nghẽn.
Giáo sư Jo Seong-bae từ Khoa Khoa học Máy tính, Đại học Yonsei, cho biết: "Có thể thực hiện một số biện pháp như làm nhẹ mô hình để càng nhiều người dùng có thể sử dụng 'Mọi người đều có AI' càng tốt, nhưng thực tế vẫn có giới hạn. Rõ ràng là không đủ để sử dụng cho mục đích phát triển hay nghiên cứu" và ông cũng nhận định rằng "dù vậy, việc thực hiện những nỗ lực như vậy trong bối cảnh nguồn lực hạn chế là điều có ý nghĩa".
Cũng có ý kiến cho rằng việc đầu tư vào AI ở cấp quốc gia còn thiếu so với các nước khác. Chính phủ Ấn Độ đã đầu tư 17.000 tỷ won cho sứ mệnh AI Ấn Độ, thu hút hơn 38.000 GPU và vận hành theo cách cho thuê với giá thấp hơn thị trường cho các công ty khởi nghiệp và các tổ chức nghiên cứu.
Quỹ đầu tư công Ả Rập Saudi (PIF) đã đặt mục tiêu triển khai 600.000 GPU trong vài năm tới cho công ty AI quốc doanh Humein. Những dự án này không chỉ dừng lại ở mức chatbot miễn phí cho toàn dân mà còn hướng tới cho thuê máy tính cho các công ty khởi nghiệp và tổ chức nghiên cứu hoặc xuất khẩu trung tâm dữ liệu.
Chính phủ Hàn Quốc đã dành một phần lớn trong ngân sách AI quốc gia 99.000 tỷ won năm nay cho việc mở rộng trung tâm dữ liệu và thu hút GPU, nhưng khi số lượng dự án mới tăng lên, quy mô GPU được phân bổ cho từng dự án lại giảm tương đối. Dự án 'Mọi người đều có AI' dự kiến sẽ chọn nhà thầu trong tháng này và ra mắt dịch vụ beta vào cuối tháng 9, với mục tiêu chính thức ra mắt trong năm nay.
* Bài viết này được dịch tự động bằng AI.
Kim Seong Hyeon
minus1@ajunews.com
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.