NHN công bố trung tâm dữ liệu AI với 7.656 GPU sử dụng công nghệ làm mát bằng nước

“Làm mát bằng không khí giống như thổi vào bát mì để làm nguội nhanh, trong khi làm mát bằng nước là cho vào nồi nước lạnh.”

Vào ngày 18 tháng 8, tại tầng 6 của trung tâm dữ liệu 'NHN Factory X Seoul' ở Yangpyeong-dong, quận Yeongdeungpo, ông Lee Il-jun, Giám đốc bộ phận công nghệ NHN Cloud, đã giới thiệu trung tâm dữ liệu và giải thích về công nghệ làm mát bằng nước. Các giá máy chủ màu đen được xếp dài hai bên nhưng không có tiếng ồn lớn.

NHN Cloud đã lắp đặt 7.656 GPU B200 của NVIDIA tại đây và áp dụng phương pháp làm mát bằng nước để làm nguội nhiệt phát sinh từ các GPU hiệu suất cao.

Trong phòng dữ liệu, mỗi giá có thể chứa tối đa 6 máy chủ GPU. Ở phía trên giá có các ống dẫn màu đen dài, cung cấp nước làm mát và thu hồi nước đã hấp thụ nhiệt từ máy chủ. Ở phía dưới giá là thiết bị phân phối làm mát (CDU).

Ông cho biết: “Máy chủ làm mát bằng không khí rất ồn ào đến mức không thể trò chuyện, nhưng môi trường làm mát bằng nước hiện tại chỉ khoảng 60-70 decibel,” và “Dòng ống màu đen ở phía sau máy chủ là ống dẫn nước làm mát vào và ra.”

Các GPU mới nhất được sử dụng cho học máy và suy luận tiêu thụ nhiều điện năng và phát sinh nhiệt lớn. NHN đã áp dụng phương pháp làm mát bằng chất lỏng trực tiếp (DLC) với tấm lạnh tiếp xúc trực tiếp với các bộ phận phát nhiệt của GPU và CPU để loại bỏ nhiệt.

Ông nói thêm: “Với làm mát bằng không khí, chỉ có thể đạt khoảng 30-40kW mỗi giá, nhưng trên mức đó rất khó khăn,” và “Hiện tại, mỗi giá ở đây tiêu thụ khoảng 130kW điện.” Ông cũng cho biết: “Các thiết bị NVIDIA sắp tới sẽ tiêu thụ điện năng cao hơn, và rất khó để làm mát nhiệt phát sinh bằng không khí.”

Làm mát bằng nước không nhất thiết giảm chi phí. Cần phải xây dựng thiết bị làm mát riêng và do sử dụng nước, cần phải theo dõi rò rỉ. Tuy nhiên, nó có lợi thế trong việc loại bỏ hiệu quả nhiệt phát sinh khi bố trí GPU với mật độ cao.

Ông cho biết thêm: “Do trung tâm dữ liệu hiện tại không có thiết bị làm mát bằng nước nên đã phải tiến hành xây dựng riêng,” và “Trong khảo sát trước đó, chúng tôi dự đoán sẽ mất ít nhất 10 tháng, nhưng thực tế chỉ mất khoảng 4-5 tháng để hoàn thành việc xây dựng làm mát bằng nước.”

NHN Factory X Seoul là một trung tâm dữ liệu với quy mô 4 tầng hầm và 10 tầng nổi. NHN Cloud sử dụng từ tầng 3 đến tầng 6, trong đó tầng 3 và 4 vận hành tài nguyên điện toán AI của chính phủ. Đặc biệt, tầng 3 và 4 kết nối 4.080 GPU B200 thành một cụm tích hợp. Tầng 6 là không gian vận hành dịch vụ đám mây AI và hạ tầng GPU của NHN Cloud.

Tổng cộng có 7.656 GPU B200. Trong số đó, đã xây dựng cụm GPU quy mô lớn với 4.080 GPU cho NIPA-CL1 và 2.040 GPU cho NIPA-CL2. NIPA-CL1 kết nối 4.080 GPU thành một môi trường tính toán duy nhất, và hai cụm này lần lượt xếp hạng 20 và 40 trong bảng xếp hạng siêu máy tính toàn cầu TOP500.

Trước khi rời khỏi trung tâm dữ liệu, tôi đã ghé qua phòng điều khiển, nơi điện năng, nhiệt độ, tình trạng làm mát, GPU và mạng được hiển thị trên màn hình theo thời gian thực. Ông cho biết: “Chúng tôi liên tục theo dõi điện năng, nhiệt độ và tình trạng làm mát từ phòng điều khiển,” và “Nếu có tình huống bất thường xảy ra, hệ thống vận hành sẽ ngay lập tức hoạt động.” Phòng điều khiển hoạt động 24 giờ, với 4 người làm việc vào ban ngày và 2 người vào ban đêm.



* Bài viết này được dịch tự động bằng AI.

• #trung tâm dữ liệu
• #NVIDIA
• #NHN Factory
• #đám mây