AI agent, tiêu thụ điện năng tăng gấp 140 lần và thời gian trễ tăng 5,2 lần
Cần thoát khỏi cấu trúc suy luận chi phí cao để chuyển đổi hệ sinh thái K-AI
Yoo Min-soo, CRO của A2Sys (giáo sư danh dự tại KAIST), đang có bài phát biểu chính tại diễn đàn 'Tăng trưởng tốt, việc làm tốt lần thứ 18 (2026 GGGF)' diễn ra tại khách sạn The Plaza, Seoul vào ngày 2 tháng 9 năm 2026. [Ảnh=Yoo Dae-gil]
"Để vượt qua giới hạn về điện năng và bộ nhớ trong thời đại AI agent và tồn tại trong cuộc cạnh tranh với Mỹ và Trung Quốc, chúng ta cần chuyển đổi sang chiến lược K-AI tập trung vào tinh chế và tối ưu hóa, thay vì chỉ đầu tư vào sức mạnh tính toán."
Yoo Min-soo, Giám đốc Nghiên cứu (CRO) của A2Sys và giáo sư danh dự tại KAIST, đã nhấn mạnh điều này trong bài phát biểu tại diễn đàn 'Tăng trưởng tốt, việc làm tốt lần thứ 18 (2026 GGGF)' do báo Ajou Economic tổ chức tại khách sạn The Plaza, Seoul.
Yoo Min-soo, một chuyên gia về kiến trúc hệ thống máy tính và GPU, đã thành lập công ty khởi nghiệp AI A2Sys sau khi làm việc tại NVIDIA. Trong bài phát biểu, ông đã trình bày các kết quả nghiên cứu định lượng về vấn đề tải hệ thống và khủng hoảng điện năng trong bối cảnh chuyển đổi từ chatbot tương tác sang AI agent tự động với chủ đề 'K-AI, cạnh tranh với Trung Quốc thông qua tinh chế và tối ưu hóa'.
Ông chỉ ra rằng "các công ty công nghệ lớn toàn cầu như OpenAI với 'Stargate', Meta với 'Hyperion' đang xây dựng các trung tâm dữ liệu AI khổng lồ với quy mô hàng chục gigawatt (GW), nhưng cơ sở hạ tầng hiện tại và lưới điện có những giới hạn rõ ràng về tính bền vững".
Theo phân tích của nhóm nghiên cứu của ông, thời gian phản hồi của AI agent đã tăng trung bình gấp 5,2 lần so với hệ thống chatbot dựa trên mô hình ngôn ngữ lớn (LLM) thông thường. Trong khi LLM có thể đưa ra kết luận ngay lập tức khi nhận đầu vào, AI agent phải giao tiếp với các công cụ bên ngoài như trình duyệt web và thực hiện quá trình suy nghĩ và hành động cho đến khi đạt được mục tiêu.
Yoo Min-soo giải thích rằng "AI agent cần lưu trữ liên tục các kết quả tìm kiếm và lịch sử trò chuyện trong bộ nhớ, dẫn đến việc không gian lưu trữ (KV cache) nhanh chóng bị đầy. Điều này làm cho giả định thiết kế bộ nhớ của các trung tâm dữ liệu hiện tại bị phá vỡ, khiến tốc độ xử lý máy tính giảm mạnh và tình trạng thiếu bộ nhớ trở nên nghiêm trọng hơn".
Khi AI sử dụng công nghệ (test time scaling) để suy nghĩ và tính toán lâu hơn nhằm nâng cao độ chính xác, lượng điện tiêu thụ cũng tăng lên. Ông nhấn mạnh rằng "chỉ với một truy vấn của agent, lượng điện và năng lượng tiêu thụ của GPU có thể tăng gấp 136,5 đến 140 lần so với chatbot thông thường".
Nhóm nghiên cứu của ông đã ước tính nhu cầu điện năng cho các trung tâm dữ liệu nếu AI agent mở rộng đến mức lưu lượng truy cập tương đương với tìm kiếm của Google (khoảng 13,7 tỷ truy vấn mỗi ngày). Nhu cầu điện năng cần thiết có thể lên tới 198,9 GW (khoảng 200 GW), gần bằng một nửa công suất lưới điện toàn bộ nước Mỹ (khoảng 476,9 GW).
Yoo Min-soo cho biết: "Chúng ta đã đến giai đoạn mà không chỉ việc đảm bảo số lượng GPU mà còn cả nguồn cung điện và địa điểm lắp đặt trung tâm dữ liệu cũng trở nên khan hiếm. Phương pháp tính toán ngẫu nhiên, chỉ đơn giản là đổ tài nguyên vào, đã đạt đến giới hạn rõ ràng về hiệu quả chi phí và giá thành".
Ông đề xuất một chiến lược K-AI tập trung vào tinh chế và tối ưu hóa để cải thiện cấu trúc suy luận chi phí cao nhằm vượt qua khoảng cách về vốn và cơ sở hạ tầng trong cuộc cạnh tranh giữa Mỹ và Trung Quốc. Ông nhấn mạnh rằng "việc chỉ đơn giản là đầu tư vào tài nguyên để nâng cao hiệu suất sẽ dẫn đến hiện tượng 'giảm giá thành' khi tỷ lệ cải thiện độ chính xác so với chi phí giảm. Hệ thống chuyên biệt cho khối lượng công việc AI agent và công nghệ tối ưu hóa phần mềm là vũ khí mạnh mẽ của Hàn Quốc, vì vậy cần tập trung năng lực quốc gia vào đổi mới công nghệ để tối ưu hóa hiệu quả cơ sở hạ tầng".
* Bài viết này được dịch tự động bằng AI.
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.



