Kalau kamu lihat rak server biasa beberapa tahun lalu, daya yang dipakai dan panas yang dihasilkan masih terkendali. Workload AI mengubah gambaran itu. Melatih model atau menjalankan inference butuh GPU yang mengonsumsi listrik jauh lebih besar dan menghasilkan panas lebih banyak di ruang yang sama.
Kenapa densitas daya naik
Rak standar mungkin menarik 5 sampai 10 kilowatt. Rak AI dengan beberapa GPU bisa dengan mudah mencapai 30, 50, atau lebih kilowatt. Unit distribusi daya, beban lantai, dan desain listrik semuanya harus bisa menangani itu.
Banyak data center lama dirancang untuk densitas lebih rendah. Saat kamu coba taruh peralatan berdaya tinggi, kamu menabrak batas pemutus sirkuit atau kapasitas pendingin. Makanya fasilitas baru atau renovasi sekarang fokus pada daya per rak yang lebih tinggi sejak awal.
Pendinginan jadi tantangan lebih besar
Lebih banyak daya berarti lebih banyak panas. Pendinginan udara tradisional dengan raised floor dan unit CRAC mulai kesulitan saat rak menarik energi sebesar itu. Titik panas muncul, dan sistem pendingin harus bekerja lebih keras, yang sendiri memakai lebih banyak listrik.
Banyak operator sekarang melihat pendinginan cair, rear-door heat exchanger, atau direct-to-chip cooling untuk rak AI. Metode ini memindahkan panas lebih efisien supaya suhu ruangan tetap stabil. Tanpa pendinginan yang tepat, server akan throttle atau mati untuk melindungi diri.
Dampaknya pada keandalan
Rak densitas tinggi juga memengaruhi redundansi. Kalau satu unit pendingin gagal, suhu bisa naik cepat. Fasilitas yang sudah merencanakan concurrent maintainability atau fault tolerance menangani situasi ini lebih baik.
Fasilitas yang sudah tersertifikasi Tier IV dan berada di lokasi yang dekat dengan pusat internet exchange di Jakarta biasanya lebih mudah menjaga koneksi tetap stabil sambil mendukung kebutuhan daya yang lebih tinggi. Kalau kebutuhanmu sudah mengarah ke workload AI atau butuh densitas daya tinggi per rak, data center yang memang dirancang untuk itu akan jauh lebih nyaman dikelola.
Merencanakan dari awal
Perusahaan yang memperkirakan akan menjalankan model AI biasanya bicara dengan penyedia colocation lebih awal. Mereka menanyakan daya yang tersedia per rak, metode pendinginan, dan seberapa cepat kapasitas bisa ditambah. Menunggu sampai peralatan datang sering berarti penundaan.
Banyak perusahaan yang memilih colocation di fasilitas yang punya opsi disaster recovery di lokasi berbeda, biar risiko regional bisa diminimalisir saat mereka menambah kapasitas AI. Pergeseran ini sudah terjadi. Data center yang bisa menyediakan daya dan pendinginan tanpa mengorbankan uptime adalah yang dicari operator saat proyek AI berkembang.
