Banyak tim fokus ke jumlah GPU dan ukuran model saat memindahkan workload AI. Mereka cek apakah server punya memori dan jaringan yang cukup. Lalu kaget ketika mesin jadi lambat atau pemutus arus trip setelah beberapa jam beban penuh.
Masalahnya sering bukan di software. Masalahnya di berapa besar daya yang dibutuhkan satu rak dan apakah pendinginan bisa membuang panas yang dihasilkan daya itu. Rak yang dulu hanya menarik 5–8 kW sekarang bisa 20–40 kW atau lebih dengan server AI modern. Fasilitas lama tidak dirancang untuk itu.
Apa Arti Densitas Tinggi secara Praktis
Densitas daya adalah berapa watt listrik yang dikonsumsi satu rak. Rak enterprise tradisional biasanya nyaman di bawah 10 kW. Rak pelatihan AI sering melebihi angka itu karena setiap GPU menarik ratusan watt dan jumlahnya banyak dalam ruang sempit.
Ketika densitas naik, dua hal terjadi bersamaan. Sirkuit listrik harus mengalirkan arus lebih besar tanpa kabel atau PDU kepanasan. Di saat yang sama sistem pendingin harus membuang jauh lebih banyak panas dari volume udara yang kecil. Kalau salah satu sisi kurang, server melindungi diri dengan menurunkan kecepatan atau mati.
- Sisi listrik: pemutus arus trip atau tegangan drop ketika beberapa rak mencapai puncak bersamaan.
- Sisi pendingin: suhu udara masuk naik dan GPU menurunkan clock agar tetap dalam batas aman.
Kenapa Desain Pendinginan Lama Kewalahan
Sebagian besar data center yang dibangun sepuluh tahun lalu memakai pendinginan raised-floor atau perimeter. Udara dingin didorong dari bawah lantai atau dari dinding dan mengandalkan server untuk menariknya. Cara itu cukup ketika rak tidak terlalu padat. Begitu satu rak butuh 30 kW, volume udara yang diperlukan jadi besar dan jalur udaranya tersumbat.
Hot spot muncul di antara GPU. Sensor mungkin masih menunjukkan suhu rata-rata ruangan yang baik sementara chip individu sudah throttling. Tim kemudian menambah kipas atau menurunkan setpoint, yang menaikkan pemakaian energi dan tetap tidak menyelesaikan masalah lokal.
Fasilitas bisa melaporkan suhu rata-rata yang baik namun workload AI tetap berjalan lebih lambat dari yang diharapkan karena panas terjebak di dalam rak densitas tinggi.
Apa yang Berubah Ketika Fasilitas Memang Dirancang untuk Itu
Fasilitas yang merencanakan densitas lebih tinggi biasanya punya pendinginan lebih dekat, rear-door heat exchanger, atau opsi direct liquid cooling. Distribusi daya juga diukur dengan busway kapasitas lebih tinggi atau lebih banyak sirkuit per rak. Containment lebih rapat sehingga udara dingin dan panas tidak bercampur.
Kalau kebutuhanmu sudah mengarah ke workload AI atau butuh densitas daya tinggi per rak, data center yang memang dirancang untuk itu akan jauh lebih nyaman dikelola. Kamu lebih sedikit waktu menonton suhu dan lebih banyak waktu pada pekerjaan pelatihan yang sebenarnya.
Fasilitas yang sudah tersertifikasi Tier IV dan berada di lokasi yang dekat dengan pusat internet exchange di Jakarta biasanya lebih mudah menjaga koneksi tetap stabil sementara sisi daya dan pendinginan tetap dalam batas desain. Beberapa juga menawarkan opsi disaster recovery di kota berbeda agar risiko regional tetap terkendali.
Pengecekan Praktis Sebelum Menempatkan Rak
Tanyakan daya maksimum yang didukung per rak dan metode pendinginan yang dipakai pada densitas itu. Minta hasil uji beban terbaru jika ada. Kelilingi lantai dan lihat bagaimana udara benar-benar bergerak di area densitas tinggi yang sudah ada. Cek apakah desain listrik memungkinkan penambahan sirkuit tanpa pekerjaan besar.
Detail itu lebih penting daripada angka kapasitas besar di headline. Sebuah situs bisa punya banyak megawatt total namun tetap tidak mampu mengalirkannya dengan bersih ke rak yang kamu butuhkan untuk AI.
Begitu daya dan pendinginan sesuai dengan tarikan aktual server, workload berjalan pada kecepatan yang memang dirancang untuk hardware tersebut. Semuanya jadi lebih mudah dikelola.
