Tantangan Pendinginan Server AI: Pertarungan Antara Suhu dan Performa

Server AI, dengan kemampuan komputasi paralel yang tinggi dan node komputasi yang padat, menghasilkan panas yang signifikan di dalam ruang terbatas. Hal ini mengakibatkan konsumsi daya yang tinggi. Di bawah beban berat, panas yang dihasilkan server sulit untuk dihilangkan secara efektif, yang mengakibatkan penurunan kinerja perangkat keras atau bahkan kerusakan perangkat keras. Oleh karena itu, pendinginan yang efisien merupakan salah satu tantangan utama yang dihadapi server AI.

Solusi Pendinginan Tradisional: Tantangan dengan Chip AI Berdaya Tinggi

Server tradisional solusi pendinginan Sistem ini serupa dengan yang digunakan dalam komputasi umum, dengan fokus utama pada pendinginan chip yang mengonsumsi daya tinggi. Biasanya, panas ditransfer dari chip melalui pipa panas dan penyebar panas ke unit pendingin multi-sirip, lalu secara aktif dihilangkan oleh kipas.

Namun, solusi pendingin udara ini terbukti tidak memadai untuk server AI modern. Hal ini disebabkan oleh fakta bahwa konsumsi daya chip AI berkinerja tinggi meningkat secara signifikan seiring dengan daya komputasi.

Berapa Batas Pendinginan Pendinginan Udara?

Laporan penelitian menunjukkan bahwa batas pendinginan pendingin udara sekitar 250W dalam ruang server 2U, dengan kemampuan pendinginan berkisar antara 400W hingga 600W dalam ruang 4U.

Sebagai konteks, "U" adalah ukuran standar yang ditetapkan oleh Electronic Industries Alliance (EIA). Satu "U" setara dengan tinggi 4,445 cm (1,75 inci), dengan rak server standar biasanya berukuran tinggi 42U. Namun, jumlah total server 1U yang dapat ditampung oleh satu rak biasanya dibatasi oleh kendala pendinginan.

Misalnya, saat menggunakan chip NVIDIA H100, rak 4U diperlukan saat menggunakan modul pendingin udara.

Solusi Pendinginan: Pendinginan Cair dan Pendinginan Imersi

Untuk mengatasi tantangan pendinginan ini, pendinginan cair dan pendinginan imersi telah muncul sebagai dua solusi terdepan, terutama di lingkungan dengan kepadatan tinggi di mana daya per rak melebihi 30 kW. Pada titik ini, masalah titik panas menjadi lebih menonjol, yang membutuhkan strategi pendinginan canggih, seperti pendinginan cair. Ketika kepadatan daya mencapai 60 kW hingga 80 kW per rak, pendinginan cair langsung pada tingkat chip menjadi semakin umum.

Pendinginan Cair: Efisien dan Efektif untuk Beban Kerja AI Berdensitas Tinggi

Pendinginan cair bekerja dengan mengalirkan cairan pendingin (seperti air, 3M Novec, atau Fluorinert) melalui pelat dingin yang bersentuhan langsung dengan komponen seperti CPU atau GPU. Panas diserap oleh cairan pendingin dan kemudian ditransfer melalui penukar panas atau radiator ke udara di sekitarnya. Cairan yang didinginkan kemudian disirkulasikan kembali, memastikan pendinginan berkelanjutan.

Dibandingkan dengan pendinginan udara tradisional, pendinginan cair menawarkan efisiensi yang jauh lebih tinggi, sehingga sangat efektif untuk mengelola beban kerja AI. Karena pendingin cair jauh lebih efisien dalam membuang panas daripada udara (ribuan kali lipat per satuan volume), sistem pendingin cair sering digunakan untuk menangani panas besar yang dihasilkan di ruang terbatas. Cairan menyerap panas dari perangkat keras internal dan memindahkannya ke media eksternal, seperti udara, untuk dibuang.

Sistem pendingin cair unggul dalam lingkungan dengan kepadatan daya tinggi. Namun, perlu dicatat bahwa meskipun pendinginan cair biasanya menargetkan CPU atau GPU, sistem tersebut mungkin masih menghasilkan panas berlebih yang memerlukan pendingin udara tambahan untuk mendinginkan komponen lain di ruangan tersebut.

Pendinginan Imersi: Pendekatan Revolusioner terhadap Pendinginan

Pendinginan imersi melibatkan perendaman komponen elektronik dalam cairan pendingin non-konduktif, seperti 3M Novec atau Fluorinert. Cairan pendingin menyerap panas yang dihasilkan oleh komponen, yang kemudian ditransfer melalui sirkulasi ke penukar panas dan didinginkan sebelum disirkulasikan kembali.

Pendinginan imersi telah mendapatkan perhatian signifikan di pusat data komputasi kinerja tinggi (HPC) karena kemampuannya mendukung kepadatan daya yang lebih tinggi dan efektivitas penggunaan daya (PUE) yang lebih rendah. Salah satu keunggulan utama pendinginan imersi adalah kemampuannya untuk mendinginkan tidak hanya CPU tetapi juga komponen lain seperti papan sirkuit cetak (PCB) atau motherboard, yang biasanya sulit didinginkan dengan metode tradisional.

Kesimpulan: Menemukan Solusi Pendinginan yang Tepat untuk Server AI

Ketika server AI terus mendorong batas-batas daya komputasi, udara tradisional solusi pendinginan kesulitan memenuhi kebutuhan pendinginan. Pendinginan cair dan pendinginan imersi menawarkan alternatif yang menjanjikan, menghasilkan efisiensi pendinginan yang lebih tinggi dan mendukung kebutuhan daya beban kerja AI modern yang terus meningkat. Namun, masing-masing solusi memiliki kelebihan dan kasus penggunaan spesifiknya sendiri, dengan pendinginan cair ideal untuk lingkungan dengan kepadatan tinggi sementara pendinginan imersi cocok untuk kebutuhan pendinginan yang lebih komprehensif. Pada akhirnya, memilih solusi pendinginan yang tepat sangat penting untuk menjaga kinerja dan keandalan server AI dalam menghadapi peningkatan kebutuhan daya.