ELIZA Effect

Definisi

ELIZA effect adalah kecenderungan manusia untuk meng-attribute ‘pemahaman’, ‘kesadaran’, atau ‘kecerdasan’ ke program komputer yang sebenarnya hanya melakukan pattern matching sederhana.

Asal Istilah

• Dicetuskan oleh Douglas Hofstadter (1996, Fluid Concepts and Creative Analogies)
• Dinamakan dari ELIZA Weizenbaum — orang percaya program mengerti mereka

Manifestasi

• ELIZA (1966) — orang minta privacy saat “berbicara” dengan program
• Siri (2011) — orang bertanya “apa kamu sayang saya?”
• ChatGPT (2022+) — orang curhat, minta nasihat, percaya dia mengerti
• Replika (2017) — orang jatuh cinta dengan AI

Dampak

• Over-trust — orang percaya AI lebih pintar dari yang sebenarnya
• Anthropomorphization — menganggap AI punya perasaan
• Marketing hype — vendor mengklaim AI ‘mengerti’ untuk menjual
• Kepercayaan berlebihan di aplikasi kritis (medis, finansial)

Mitigasi

• Transparency — jelaskan limit AI
• Calibrated trust — sesuai dengan capability
• Uncertainty — model bilang “tidak yakin”
• Regulation — iklan AI tidak boleh overclaim