Microsoft (MSFT) vừa xác nhận sẽ dùng rack Helios do AMD (AMD) thiết kế để triển khai ba dòng máy chủ mới trên Azure, trong đó dòng ND MI455X v7 tích hợp tới 72 GPU Instinct MI455 trong một tủ rack. Mỗi GPU được trang bị 432 GB bộ nhớ HBM4 và có thể tỏa ra hơn 1.000 W nhiệt khi chạy hết công suất. Ở mật độ đó, quạt gió thông thường bất lực hoàn toàn, và đây chính là lý do mọi rack AI cao cấp hiện nay, kể cả của AI NVIDIA (NVDA), đều phải chuyển sang làm mát bằng chất lỏng dẫn trực tiếp vào chip.

Vì sao không khí không còn đủ sức tản nhiệt

Một GPU trung tâm dữ liệu đời cũ chỉ tỏa khoảng 300-400 W, nên luồng không khí đi qua khối tản nhiệt kim loại là đủ. Nhưng MI455 và các chip Blackwell của NVIDIA đã đẩy công suất mỗi chip lên 1.000-1.400 W. Cả rack Helios vì thế có thể tiêu thụ hơn 100 kW, tương đương điện năng của một khu chung cư nhỏ. Không khí có nhiệt dung thấp. Muốn mang đi lượng nhiệt đó cần luồng gió rất mạnh, gây ồn và ngốn nhiều điện cho quạt. Chất lỏng truyền nhiệt hiệu quả hơn không khí nhiều lần, nên ở mật độ này, làm mát bằng chất lỏng gần như là yêu cầu bắt buộc.

Cold plate: nơi chất lỏng tiếp cận transistor gần nhất

Kỹ thuật phổ biến nhất là direct-to-chip. Cách làm này dùng một tấm kim loại rỗng gọi là cold plate, ép sát lên bề mặt GPU, bên trong có hàng trăm vi kênh rất nhỏ. Nước hoặc dung dịch làm mát chuyên dụng chảy qua các vi kênh này để hấp thụ nhiệt ngay tại điểm nóng nhất, rồi đưa nhiệt ra ngoài, thay vì để nhiệt truyền qua lớp không khí trung gian như ở hệ thống tản nhiệt gió truyền thống. Bản thân cold plate không trực tiếp làm lạnh chất lỏng. Đây chỉ là điểm trao đổi nhiệt đầu tiên trong cả một vòng tuần hoàn lớn hơn nhiều.

Vòng lặp kép: từ chip ra đến ngoài tòa nhà

Chất lỏng sau khi nóng lên sẽ rời cold plate và chảy về thiết bị CDU (coolant distribution unit) đặt ngay trong dãy rack. CDU đóng vai trò trung gian, tách vòng nước sạch tuần hoàn trong rack khỏi hệ thống nước của cả tòa nhà, nhằm ngăn cặn bẩn hoặc tác nhân ăn mòn xâm nhập vào các linh kiện điện tử đắt tiền. Nhiệt sau đó được truyền qua bộ trao đổi nhiệt sang vòng nước thứ hai, rồi đưa ra tháp giải nhiệt hoặc dàn làm mát ngoài trời để xả nhiệt. Đây là lý do các trung tâm dữ liệu công nghệ AI mới thường xây gần nguồn nước hoặc khí hậu mát để giảm chi phí vận hành vòng lặp này.

Canh bạc kỹ thuật phía sau những con số

Thách thức không nằm ở chuyện bơm nước, mà ở việc bảo đảm các mối nối, gioăng cao su và đầu nối nhanh không bị rò rỉ trên quy mô hàng nghìn rack. Chỉ một giọt nước lọt vào bo mạch cũng có thể làm hỏng cả cụm GPU trị giá hàng triệu USD. Vì thế, AMD dùng chuẩn UALoE mở và công nghệ đóng gói chiplet SoIC của TSMC để bảo đảm các thành phần ăn khớp chính xác trước khi đưa vào hệ thống làm mát bằng chất lỏng khắt khe này.