AI Safety

Definisi

AI safety adalah riset dan praktik untuk memastikan sistem AI aman, bermanfaat, dan terkendali — baik dalam jangka pendek (sistem sekarang) maupun jangka panjang (AGI, superintelligence).

Topik

• Alignment — AI mengejar tujuan benar
• Robustness — tahan terhadap adversarial input
• Interpretability — memahami internal model
• Misuse prevention — deepfake, senjata otonom, bioweapon
• Governance — regulasi, standar
• Existential risk — apakah superintelligent AI mengancam umat manusia

Pandangan Tokoh

• Geoffrey Hinton — khawatir, mundur dari Google 2023
• Yoshua Bengio — khawatir
• Yann LeCun — skeptis, tidak percaya LLM bisa AGI
• Sam Altman — percaya alignment bisa dipecahkan
• Demis Hassabis — hati-hati, DeepMind fokus safety
• Gary Marcus — skeptis LLM, butuh pendekatan baru