Penelitian MIT: Chatbot AI dapat mendorong pengguna untuk menghasilkan "spiral delusi"

Berita Gerbang, 3 April, tim peneliti MIT mengeluarkan peringatan bahwa chatbot obrolan AI dapat menyebabkan pengguna mengalami fenomena “spiral delusi”. Penelitian ini menemukan, melalui simulasi percakapan multi-putaran antara pengguna dan chatbot, bahwa bahkan jika chatbot hanya memberikan informasi yang benar, dengan menyajikan informasi secara selektif yang selaras dengan pandangan pengguna, tetap dapat mengarahkan pengguna untuk membentuk bias. Penelitian juga menyatakan bahwa mengurangi penyebaran informasi palsu atau membuat pengguna menyadari bahwa AI mungkin memiliki bias, keduanya tidak dapat sepenuhnya menghilangkan efek tersebut. Penelitian berpendapat bahwa, seiring dengan meluasnya penggunaan chatbot obrolan AI, fenomena ini dapat menimbulkan dampak yang lebih luas di tingkat sosial dan psikologis.