Hóa đơn của AI thông minh hơn… Tiêu thụ điện năng của đại lý gấp 136 lần chatbot

Các đại lý trí tuệ nhân tạo (AI) đã tiêu thụ điện năng nhiều hơn tới 136,5 lần so với các AI tạo sinh thông thường trong việc trả lời câu hỏi. Do đó, có ý kiến cho rằng cần cải thiện thiết kế hạ tầng để nâng cao hiệu quả thay vì chỉ mở rộng các trung tâm dữ liệu AI (DC) theo sự phát triển của các đại lý AI.
 
Theo thông tin từ KAIST vào ngày 5 tháng 7, nhóm nghiên cứu do Giáo sư Yoon Min-soo thuộc Khoa Điện và Điện tử dẫn đầu đã định nghĩa các đại lý AI là một dạng khối lượng công việc mới mà các máy chủ và đơn vị xử lý đồ họa (GPU) trong trung tâm dữ liệu phải xử lý liên tục, và đã phân tích lượng tính toán và tiêu thụ năng lượng phát sinh trong quá trình thực hiện thực tế.
 
Đại lý AI không chỉ đơn thuần trả lời câu hỏi mà còn có khả năng lập kế hoạch và sử dụng các công cụ bên ngoài như máy tính và thực thi mã để giải quyết các vấn đề phức tạp. Đây là lần đầu tiên trên thế giới có một phân tích định lượng về chi phí tính toán và xu hướng tiêu thụ năng lượng của các đại lý AI.
 
Kết quả phân tích cho thấy các đại lý AI thực hiện trung bình 9,2 lần gọi các mô hình ngôn ngữ lớn (LLM) nhiều hơn so với phương pháp suy luận từng bước trước đây. Thời gian phản hồi đã tăng lên tới 153,7 lần khi gọi lặp lại các mô hình ngôn ngữ, trong khi GPU đã phải chờ đợi mà không thực hiện bất kỳ tính toán nào trong suốt 54,5% thời gian thực hiện.
 
Sự gia tăng tiêu thụ điện năng càng rõ rệt hơn. Các đại lý AI sử dụng LLM với 70 tỷ tham số, tương đương với mức dịch vụ AI thương mại, tiêu thụ trung bình 348,41 watt-giờ (Wh) để xử lý một câu hỏi. Nếu giả định rằng sẽ có 13,7 tỷ yêu cầu từ các đại lý AI mỗi ngày trong tương lai, nhu cầu điện năng của trung tâm dữ liệu sẽ đạt khoảng 198,9 gigawatt (GW), tương đương với một nửa mức tiêu thụ điện năng trung bình của toàn bộ nước Mỹ.
 
Nhóm nghiên cứu cho biết: "Đây là trường hợp đầu tiên định lượng hóa mức độ điện năng và chi phí cần thiết để triển khai và duy trì trí thông minh của AI, không chỉ đơn thuần là việc AI trở nên thông minh hơn" và nhấn mạnh rằng "cần thiết phải thiết kế chung các mô hình đại lý AI và hạ tầng điện năng để tối ưu hóa".
 
Các chuyên gia đã đánh giá rằng nghiên cứu này đã cảnh báo về xu hướng hiện tại là mở rộng hạ tầng AI một cách không giới hạn.
 
Cựu giáo sư Khoa Điện và Thông tin tại Đại học Seoul, Choi Gi-young (nguyên Bộ trưởng Bộ Khoa học và Công nghệ thông tin), cho biết: "Nghiên cứu này có ý nghĩa lớn vì nó cảnh báo rằng việc mở rộng quy mô và chi phí của các trung tâm dữ liệu AI theo yêu cầu của các đại lý AI hiện tại có thể không bền vững".
 
Tuy nhiên, ông cũng lưu ý rằng cần thận trọng trong việc giải thích con số 136,5 lần. Ông Choi cho biết: "Việc sử dụng đại lý AI để trả lời các câu hỏi khó là điều không thể tránh khỏi, vì vậy việc so sánh với các cuộc trò chuyện đơn lẻ là không hợp lý. Tuy nhiên, điều này cho thấy rằng để giải quyết các vấn đề phức tạp, công nghệ hiện tại cần tiêu tốn nhiều năng lượng hơn rất nhiều so với việc trò chuyện đơn giản".
 
Ông cũng đề xuất tối ưu hóa cả phần cứng và thuật toán. Ông Choi cho biết: "Việc thay thế GPU bằng các thiết bị xử lý mạng thần kinh (NPU) hiệu quả hơn là một phần trong nỗ lực giải quyết vấn đề chuỗi cung ứng, chi phí và tiêu thụ năng lượng" và nhấn mạnh rằng "cần có nỗ lực tối ưu hóa đại lý AI và cách thức vận hành của chúng từ nhiều góc độ, và kết quả phân tích của nghiên cứu này có thể là điểm khởi đầu cho điều đó".
 
Cũng có những vấn đề được nêu ra từ góc độ triết học công nghệ. Giáo sư Son Hwa-cheol thuộc Khoa Lãnh đạo Toàn cầu tại Đại học Handong cho biết: "Vấn đề tiêu thụ điện năng của AI đã được nêu ra nhiều lần, nhưng thường bị coi là một vấn đề nhỏ sẽ được giải quyết trong quá trình phát triển của AI" và nhấn mạnh rằng "nếu AI làm tăng giá năng lượng mà mọi người cần sử dụng, chúng ta cần xem xét kỹ lưỡng lợi ích của việc sử dụng AI là gì và vì lợi ích của ai".



* Bài viết này được dịch tự động bằng AI.

• #trung tâm dữ liệu
• #tiêu thụ điện năng
• #đại lý AI