AI Bias

Definisi

AI bias adalah ketika sistem AI menghasilkan output yang tidak adil atau mendiskriminasi kelompok tertentu — biasanya karena bias dalam data training atau desain algoritma.

Contoh

• COMPAS (ProPublica 2016) — software prediksi recidivism, bias terhadap orang kulit hitam
• Amazon Rekrutmen (2018) — gender bias, sistem preferensi laki-laki
• Google Photos (2015) — salah label orang kulit hitam sebagai gorila
• GPT-3 (2020) — bias gender, ras, dan agama

Mitigasi

• Diverse training data
• Fairness metrics — demographic parity, equalized odds, counterfactual fairness
• Algorithmic auditing
• Diverse teams saat desain
• Regulation — EU AI Act, EEOC guidance