Kalau kamu pernah jalan-jalan di data center belakangan ini, mungkin sadar beberapa rak terasa lebih hangat dan strip daya terlihat lebih sibuk. Itu sering karena workload AI mulai masuk. Melatih model atau menjalankan inference butuh GPU yang menarik listrik jauh lebih banyak daripada server web biasa.
Rak tradisional biasanya nyaman di 5–10 kW. Rak AI bisa dengan mudah melewati 30 atau bahkan 50 kW. Itu mengubah cara kamu merencanakan penyaluran daya dan pendinginan. Kalau fasilitas dibangun untuk densitas lama, mulai terasa sempit.
Kenapa Densitas Daya Jadi Lebih Penting Sekarang
Densitas lebih tinggi berarti panas lebih banyak di ruang yang lebih kecil. Pendinginan udara yang dulu cukup untuk server standar bisa kesulitan menjaga suhu kartu GPU tetap aman. Saat suhu naik, performa turun atau sistem membatasi dirinya sendiri.
Operator mulai melihat opsi pendinginan cair, rear-door heat exchanger, atau bahkan immersion di beberapa kasus. Nggak semua fasilitas siap untuk itu. Yang sudah merencanakan densitas tinggi dari awal biasanya lebih lancar menghadapi transisi.
Daya adalah sisi lainnya. Kamu butuh kapasitas yang cukup di level rak, plus jalur redundan supaya kegagalan satu titik nggak bikin seluruh baris mati. Banyak tim baru menemukan batasnya setelah mencoba menambah beberapa server GPU.
Tantangan Pendinginan yang Muncul di Praktik
Hot aisle jadi lebih panas. Udara dingin mungkin nggak sampai ke bagian atas rak dengan baik. Beberapa operator akhirnya memberi jarak lebih jauh antar server cuma untuk mengelola panas, yang artinya membuang ruang lantai.
Kelembapan dan aliran udara juga perlu kontrol lebih ketat. GPU sensitif terhadap debu dan perubahan suhu. Fasilitas yang sudah punya monitoring lingkungan yang baik cenderung menangkap masalah lebih awal.
Fasilitas yang sudah tersertifikasi Tier IV dan berada di lokasi yang dekat dengan pusat internet exchange di Jakarta biasanya lebih mudah menjaga koneksi tetap stabil sambil menangani beban yang lebih padat ini.
Apa yang Dilakukan Operator
Ada yang meng-upgrade hall yang sudah ada dengan unit CRAC yang lebih baik atau menambah containment. Ada juga yang membangun hall baru khusus untuk high-density. Cara kedua lebih bersih tapi butuh waktu lebih lama dan biaya awal lebih tinggi.
Monitoring jadi lebih penting. Kamu ingin data daya dan suhu per rak, bukan cuma rata-rata ruangan. Dengan begitu bisa mendeteksi titik panas sebelum memengaruhi workload.
Kalau kebutuhanmu sudah mengarah ke workload AI atau butuh densitas daya tinggi per rak, data center yang memang dirancang untuk itu akan jauh lebih nyaman dikelola.
Memilih Fasilitas yang Bisa Tumbuh Bersama
Lihat daya yang tersedia per rak sekarang dan berapa maksimum desainnya. Tanya soal opsi pendinginan dan apakah infrastruktur siap-cair sudah ada atau direncanakan.
Lokasi tetap penting. Dekat internet exchange membantu menjaga latency rendah untuk workload inference yang perlu melayani pengguna dengan cepat. Situs sekunder untuk disaster recovery juga mengurangi risiko kalau satu lokasi mengalami masalah regional.
Banyak perusahaan yang memilih colocation di fasilitas yang punya opsi disaster recovery di lokasi berbeda, biar risiko regional bisa diminimalisir.
Perubahan ini sudah terjadi. Tim yang merencanakan densitas lebih tinggi sejak awal biasanya menghabiskan lebih sedikit waktu untuk memadamkan masalah dan lebih banyak waktu untuk menjalankan proyek AI mereka.
