Server untuk Menjalankan LLM Lokal: Berapa GPU,
Agustus 3, 2026
Suhu ideal ruang server berada dalam rentang 18–27°C pada sisi udara masuk atau inlet perangkat, berdasarkan rentang rekomendasi ASHRAE untuk perangkat kelas A1 hingga A4. Namun, angka tersebut bukan berarti thermostat ruangan cukup diatur pada 27°C. Suhu yang perlu dijaga adalah udara yang benar-benar masuk ke bagian depan server, storage, dan perangkat jaringan.
Untuk ruang server kantor, temperatur sekitar 20–24°C dapat digunakan sebagai target operasional awal agar tersedia margin ketika beban server meningkat atau sistem pendingin mengalami penurunan performa. Angka tersebut tetap perlu disesuaikan dengan spesifikasi perangkat, kepadatan rack, kondisi airflow, kelembapan, dan hasil pengukuran pada inlet masing-masing server.
ASHRAE juga membedakan antara rentang recommended dan allowable. Rentang recommended merupakan kondisi yang sebaiknya menjadi target operasional fasilitas. Sementara itu, rentang allowable menunjukkan kondisi ketika perangkat tertentu masih dapat berfungsi, tetapi bukan jaminan bahwa kondisi tersebut ideal untuk efisiensi, performa, dan reliabilitas jangka panjang.
Karena itu, menjaga ruang server tidak cukup dengan memasang AC dan melihat angka pada remote. Perusahaan perlu mengatur arah udara, menempatkan sensor dengan benar, mengendalikan kelembapan, menutup celah rack, membersihkan filter, dan mengaktifkan alert sebelum temperatur mencapai kondisi kritis.

Server mengubah sebagian besar energi listrik yang digunakannya menjadi panas. CPU, RAM, storage, power supply, network interface, GPU, dan komponen lain terus menghasilkan panas selama perangkat bekerja.
Ketika beban aplikasi meningkat, konsumsi daya dan produksi panas juga dapat meningkat. Proses seperti backup, database query, rendering, virtualisasi, artificial intelligence, serta storage rebuild dapat membuat temperatur komponen naik meskipun suhu ruangan terlihat tidak berubah.
Sistem pendingin internal server menggunakan fan untuk menarik udara dari bagian depan dan mengeluarkannya melalui bagian belakang. Jika udara yang masuk sudah terlalu panas, fan harus berputar lebih cepat untuk mempertahankan temperatur komponen.
Dell menjelaskan bahwa sensor thermal pada server PowerEdge memantau aktivitas temperatur dan menyesuaikan kecepatan fan. Ketika sensor inlet tidak berfungsi, fan dapat berputar pada kecepatan penuh sebagai langkah perlindungan. Jika temperatur CPU mencapai level kritis, sistem manajemen server dapat memulai proses shutdown.
Suhu yang tidak terkendali dapat menyebabkan:
Temperatur tinggi bukan satu-satunya masalah. Perubahan suhu secara cepat juga perlu dihindari. ASHRAE membatasi perubahan temperatur untuk sebagian besar perangkat IT hingga tidak lebih dari 5°C dalam periode 15 menit dan total perubahan 20°C dalam satu jam. Perubahan cepat dapat terjadi ketika AC berhenti, pintu ruang server terlalu lama terbuka, atau pendinginan kembali menyala setelah pemadaman.
Menurunkan suhu serendah mungkin juga bukan solusi yang tepat. Pendinginan berlebihan meningkatkan konsumsi listrik dan dapat menciptakan risiko kondensasi apabila udara lembap bertemu dengan permukaan yang lebih dingin.
Tujuan pengelolaan suhu adalah mempertahankan kondisi yang stabil, sesuai rekomendasi perangkat, dan merata pada seluruh sisi inlet rack.
ASHRAE TC 9.9 membagi perangkat berdasarkan kelas lingkungan. Untuk perangkat air-cooled kelas A1 hingga A4, rentang temperatur yang direkomendasikan adalah 18–27°C.
Kelas A1 biasanya mencakup data center dengan lingkungan yang dikendalikan secara ketat serta perangkat seperti enterprise server dan storage. Kelas A2, A3, dan A4 mencakup ruang IT dengan tingkat kontrol lingkungan yang berbeda serta toleransi perangkat yang semakin luas.
Berikut ringkasannya:
| Kategori | Rentang Temperatur |
| Rekomendasi ASHRAE A1–A4 | 18–27°C |
| Allowable kelas A1 | 15–32°C |
| Allowable kelas A2 | 10–35°C |
| Allowable kelas A3 | 5–40°C |
| Allowable kelas A4 | 5–45°C |
| Rekomendasi high-density H1 | 18–22°C |
Rentang allowable tidak boleh langsung digunakan sebagai set point AC. Perangkat mungkin dapat menyala pada temperatur tersebut, tetapi konfigurasi tertentu dapat memiliki pembatasan terhadap CPU berdaya tinggi, GPU, PCIe card, SSD, memory, fan, atau ketinggian lokasi.
Sebagai contoh, Dell menyatakan salah satu seri PowerEdge dapat menjalankan pengelolaan thermal dalam rentang ambient 10–35°C. Namun, beberapa konfigurasi mengalami pembatasan ketika digunakan pada lingkungan ASHRAE A3 atau A4, termasuk pembatasan prosesor berdaya tinggi dan komponen tertentu.
Karena itu, perusahaan perlu memeriksa dokumen environmental specification dari setiap perangkat yang digunakan.
Untuk ruang server kantor dengan perangkat campuran, target berikut dapat digunakan sebagai pendekatan awal:
| Parameter | Target Awal |
| Temperatur inlet | Sekitar 20–24°C |
| Batas perhatian awal | Mendekati 27°C |
| Kondisi yang perlu segera diperiksa | Melebihi rekomendasi perangkat |
| Perubahan suhu | Stabil dan tidak berubah mendadak |
Rentang 20–24°C tersebut merupakan target operasional konservatif, bukan standar mutlak. Ruangan dengan rack padat, GPU server, storage berkapasitas besar, atau perangkat lama mungkin membutuhkan kondisi lebih ketat.
Sebaliknya, menaikkan set point AC dapat dilakukan setelah perusahaan mempunyai data sensor yang memadai dan memastikan seluruh inlet perangkat tetap berada dalam rentang rekomendasi. Jangan menaikkan suhu hanya berdasarkan angka thermostat di dinding.

Salah satu kesalahan umum dalam mengelola ruang server adalah menempatkan sensor hanya di dinding, dekat AC, atau di tengah ruangan. Sensor tersebut dapat menunjukkan suhu normal meskipun bagian atas rack mengalami hot spot.
Temperatur yang paling relevan bagi server adalah temperatur udara yang masuk melalui bagian depan perangkat. Karena itu, sensor utama sebaiknya ditempatkan di depan rack pada sisi inlet.
Schneider Electric menyarankan sensor rack inlet dipasang di bagian depan rack dengan jarak setidaknya sekitar enam inci dari muka server. Penempatan tersebut membantu mengukur udara yang benar-benar tersedia bagi perangkat dan menghindari pembacaan yang terlalu dipengaruhi permukaan rack.
Pada rack tinggi seperti 42U, satu sensor belum tentu mewakili seluruh kondisi. Udara panas dapat berkumpul pada bagian tertentu atau kembali masuk melalui celah rack.
Untuk pemantauan lebih baik, sensor dapat ditempatkan pada:
Schneider Electric juga membahas penggunaan sensor dengan tipe yang sama pada bagian atas, tengah, dan bawah sisi depan rack untuk melihat variasi temperatur yang diterima perangkat.
Perhatikan beberapa posisi yang dapat menghasilkan pembacaan kurang akurat:
Sensor bawaan server juga dapat digunakan sebagai pembanding. Sistem manajemen seperti iDRAC, iLO, XClarity, atau interface management vendor dapat menampilkan inlet temperature, temperatur CPU, fan speed, dan berbagai status thermal.
Namun, pembacaan internal tidak menggantikan sensor lingkungan. Jika seluruh server mati atau jaringan management terputus, sensor eksternal tetap dapat memberikan alert kondisi ruangan.
AC berkapasitas besar tidak akan bekerja optimal jika aliran udaranya tidak diarahkan dengan benar.
Server rack umumnya dirancang untuk menarik udara dingin dari depan dan membuang udara panas melalui bagian belakang. Karena itu, rack perlu disusun agar bagian depan saling berhadapan dan bagian belakang saling berhadapan.
Susunan tersebut membentuk:
Alur yang diharapkan adalah:
Udara dingin → bagian depan rack → melewati server → udara panas keluar melalui belakang → kembali ke sistem pendingin
Cisco mengarahkan agar intake perangkat ditempatkan pada cold aisle dan exhaust menuju hot aisle. Arah fan serta power supply juga harus konsisten agar udara panas tidak masuk kembali ke sisi intake.
Airflow yang buruk dapat menyebabkan hot air recirculation. Udara panas dari belakang rack kembali berputar ke bagian depan dan dihisap lagi oleh server. Dalam kondisi ini, thermostat ruangan mungkin menunjukkan 22°C, tetapi inlet pada bagian atas rack dapat jauh lebih tinggi.
Beberapa penyebab gangguan airflow antara lain:
Blanking panel perlu dipasang pada setiap ruang U yang kosong. Panel tersebut mencegah udara panas dari belakang rack mengalir kembali ke depan melalui celah yang tidak terisi perangkat. Schneider juga memasukkan pemeriksaan blanking panel dan celah rack sebagai bagian dari penanganan alarm temperatur inlet tinggi.
Untuk kepadatan yang lebih tinggi, perusahaan dapat mempertimbangkan:
Pemilihan sistem harus disesuaikan dengan daya per rack, tata letak ruangan, kapasitas listrik, dan jenis server.
Temperatur dan kelembapan saling berhubungan. Udara yang terlalu lembap meningkatkan risiko kondensasi dan korosi, sedangkan udara terlalu kering meningkatkan risiko pelepasan listrik statis.
ASHRAE tidak hanya menggunakan relative humidity sebagai acuan. Pedoman thermal terkini juga memperhitungkan dew point, yaitu temperatur ketika uap air mulai mengembun.
Untuk rentang recommended kelas A1 hingga A4, ASHRAE menetapkan rentang kelembapan berdasarkan dew point sekitar -9°C hingga 15°C serta batas relative humidity yang dipengaruhi kondisi korosif fasilitas. ASHRAE juga menekankan bahwa lingkungan perangkat harus tetap non-condensing.
Bagi ruang server kantor yang belum menggunakan pengukuran dew point secara khusus, relative humidity sekitar 40–60% dapat dijadikan target operasional yang konservatif. Namun, angka tersebut tetap perlu dibandingkan dengan batas perangkat, kondisi bangunan, dan pembacaan dew point.
Kelembapan tinggi dapat dipengaruhi oleh:
Sementara itu, kelembapan terlalu rendah dapat terjadi pada ruangan yang terus-menerus didinginkan tanpa pengendalian kelembapan atau berada dalam kondisi udara sangat kering.
Untuk menjaga kelembapan:
Kondensasi harus dihindari pada seluruh kondisi. Dell juga menegaskan bahwa sistem dan komponennya tidak boleh mengalami perubahan temperatur atau kelembapan yang dapat menyebabkan kondensasi di dalam atau pada perangkat.

Overheating tidak selalu langsung menyebabkan server mati. Sistem biasanya memberikan beberapa tanda sebelum mencapai kondisi kritis.
Tanda yang perlu diperhatikan meliputi:

Server meningkatkan kecepatan fan ketika sensor mendeteksi temperatur lebih tinggi. Jika hampir seluruh server dalam rack tiba-tiba menjadi bising, tim perlu memeriksa kondisi pendinginan dan inlet temperature.
Dell menyebut temperatur inlet normal untuk fan speed rendah pada workload biasa berada sekitar 21–26°C pada sejumlah server PowerEdge. Temperatur inlet yang lebih tinggi dapat memicu peringatan dan perubahan kecepatan fan.

Peringatan dapat terlihat melalui:
Jangan hanya menghapus alarm tanpa memeriksa penyebabnya. Alert dapat muncul akibat temperatur inlet tinggi, fan rusak, sensor bermasalah, airflow terhalang, atau konfigurasi thermal yang tidak sesuai.

CPU dan memory dapat mengalami throttling untuk mengurangi panas. Dari sisi pengguna, kondisi ini terlihat sebagai aplikasi melambat, proses database lebih lama, atau virtual machine kehilangan performa.

Pada kondisi kritis, sistem dapat menjalankan shutdown untuk melindungi komponen. Dell menyatakan iDRAC dapat mengirimkan perintah shutdown ketika temperatur CPU mencapai level kritis.
Satu rack dapat menunjukkan temperatur normal, sedangkan rack lain jauh lebih panas. Kondisi ini biasanya menunjukkan distribusi udara yang tidak seimbang, kepadatan perangkat berbeda, atau hot air recirculation.
Penyebabnya dapat berupa filter kotor, refrigerant bermasalah, kapasitas AC kurang, unit outdoor terganggu, evaporator membeku, atau jumlah perangkat telah bertambah tanpa penyesuaian kapasitas pendinginan.
Saat menemukan overheating, lakukan pemeriksaan dengan urutan aman:
Monitoring suhu sebaiknya berjalan selama 24 jam, bukan hanya saat petugas berada di kantor. Gangguan AC sering terjadi pada malam hari, akhir pekan, atau ketika gedung sedang kosong.
Sistem monitoring dapat dibangun dalam beberapa lapisan.
Gunakan interface management server untuk memantau:
Dell iDRAC, misalnya, menyediakan informasi health serta thermal profile dan dapat mengatur respons terhadap kondisi kritis.
Sensor eksternal tetap bekerja terpisah dari sistem operasi server. Perangkat tersebut dapat memantau:
Tempatkan sensor berdasarkan risiko dan profil temperatur rack, bukan hanya pada posisi yang mudah dijangkau.
Alert dapat dikirim melalui:
Threshold sebaiknya memiliki beberapa tingkat, misalnya warning dan critical. Jangan menetapkan batas terlalu dekat dengan variasi normal karena dapat menghasilkan alarm berulang yang akhirnya diabaikan.
Schneider menyarankan penetapan alarm inlet dengan mempertimbangkan temperatur normal dan memberi jarak yang cukup agar tidak menghasilkan nuisance alarm.
Untuk beberapa rack atau lokasi, perusahaan dapat menggunakan Data Center Infrastructure Management. Sistem DCIM menggabungkan informasi perangkat IT dengan infrastruktur pendukung seperti listrik, cooling, kapasitas, lingkungan, dan keamanan. Platform tersebut juga dapat membantu menemukan tren serta anomali sebelum berkembang menjadi gangguan besar.
Data sensor sebaiknya disimpan agar perusahaan dapat melihat:
Riwayat tersebut membantu menentukan kapasitas AC, posisi sensor, threshold alert, dan waktu aman untuk melakukan shutdown.
Suhu ideal ruang server tidak cukup ditentukan dari satu angka pada thermostat. Acuan yang lebih tepat adalah temperatur udara pada inlet server dan perangkat jaringan.
ASHRAE merekomendasikan rentang 18–27°C untuk perangkat air-cooled kelas A1 hingga A4. Untuk operasional ruang server kantor, target sekitar 20–24°C dapat memberikan margin yang lebih aman selama masih sesuai spesifikasi perangkat.
Perusahaan juga perlu mengatur hot aisle dan cold aisle, menutup celah rack, memantau kelembapan, membersihkan sistem pendingin, serta memasang sensor pada beberapa titik. Monitoring dan alert 24 jam dibutuhkan agar kegagalan AC dapat diketahui sebelum server mengalami throttling atau shutdown.
@sparta.enterprise6 🚀 Sparta Enterprise Goes to Google! Langkah besar menuju masa depan digital — Sparta Enterprise kini berkolaborasi dan terhubung lebih dalam dengan ekosistem Google. Dari inovasi cloud, keamanan data, hingga transformasi bisnis digital — kami terus berkembang untuk memberikan layanan terbaik. 📍Stay tuned, ini baru permulaan. 🔥 SPARTA x GOOGLE! 🔥 Sparta Enterprise resmi menjejakkan langkah ke ranah teknologi global! Dengan semangat “Berani, Cepat, Tangguh” kami hadir di Google untuk memperluas dampak, memperkuat inovasi, dan membuka peluang kolaborasi teknologi tanpa batas! ➡️ Follow perjalanan digital kami! ✳️ Tagline Branding Singkat: “Sparta Enterprise Goes Global with Google.” “Melangkah Lebih Jauh. Lebih Besar. Bersama Google.” “Next Level Begins: Sparta Meets Google.” #SpartaEnterprise #GoesToGoogle #DigitalTransformation #KolaborasiDigital #GoogleCloud #TechForFuture #InovasiTanpaBatas #EnterpriseLevel #TransformasiDigital #SpartaXGoogle #BanggaLokalMendunia ♬ suara asli – PT SPARTA COMPUTINDO TEKNOLOGI – PT PUSAT SERVER INDONESIA
Untuk evaluasi awal, dokumentasikan suhu inlet bagian atas, tengah, dan bawah rack, kelembapan ruangan, jumlah server, tipe AC, serta kondisi pintu dan blanking panel. Foto tata letak rack dan catatan sensor dapat dikirim melalui tim Sparta Server Indonesia untuk memperoleh gambaran awal kondisi ruang server.
Permintaan audit yang dilengkapi daftar perangkat dapat dikirimkan melalui:
Email: sales@spartaserverindonesia.com
WhatsApp: +62 878-2224-1000
Alamat kantor: Jl. Raya Lenteng Agung Barat Nomor 8, RT 02/RW 04, Srengseng Sawah, Jagakarsa, Jakarta Selatan, DKI Jakarta
Website: spartaserverindonesia.com
Targetkan temperatur inlet server berada dalam rentang rekomendasi 18–27°C. Set point AC mungkin perlu dibuat lebih rendah daripada target inlet karena dipengaruhi heat load, jarak AC, tata letak, dan recirculation.
Temperatur 27°C masih berada pada batas atas rentang rekomendasi ASHRAE untuk kelas A1–A4. Namun, temperatur setiap perangkat, kepadatan rack, spesifikasi vendor, dan potensi kenaikan saat AC terganggu tetap perlu diperiksa.
Ya, apabila perangkat beroperasi selama 24 jam, sistem pendinginan juga perlu tersedia selama periode yang sama. Ruang kritis sebaiknya mempertimbangkan unit cadangan atau skema rotasi AC.
Target praktis sekitar 40–60% RH dapat digunakan pada ruang server kantor, tetapi perusahaan perlu memastikan tidak terjadi kondensasi dan mempertimbangkan dew point serta spesifikasi perangkat.
Sensor utama sebaiknya ditempatkan di depan rack pada sisi masuk udara. Pada rack tinggi atau padat, gunakan beberapa sensor pada bagian bawah, tengah, dan atas untuk mendeteksi hot spot.
Copyright 2025 spartaserverindonesia.com. All Rights Reserved.