AI Energy & Compute

Definisi

AI energy adalah konsumsi energi dan compute yang dibutuhkan untuk training dan menjalankan model AI, terutama frontier LLM.

Skala

• GPT-3 training: ~1,287 MWh (setara 120 rumah/tahun)
• GPT-4 training: ~$100M+ listrik (rumor)
• Claude 3.5 Sonnet: estimasi $10-30M
• Data center AI: 2-4% listrik global (2024, IEA)
• Proyeksi 2030: >7% listrik global (IEA)

Komponen

• Training: ratusan-ribuan GPU, berminggu-minggu
• Inference: lebih murah per query, tapi volume sangat besar
• Cooling: data center cooling (1.5x listrik compute)
• Water: cooling & listrik (data center ~1M galon/hari)

Dampak

• Lingkungan: emisi karbon besar
• Cost: model frontier makin mahal
• Equity: negara berkembang sulit akses
• Geopolitik: konsentrasi di negara dengan listrik murah

Solusi

• Efisiensi algoritma — DeepSeek, distillation
• Renewable energy untuk data center
• On-device AI — kurangi cloud inference
• Sparse models — MoE
• Better hardware — TPU, edge chips

Referensi

• IEA Report (2024) — Electricity 2024
• Stanford AI Index 2024
• DeepMind Carbon Emissions paper
• MIT Technology Review — AI’s Carbon Footprint