Pada tahap kedua, lebih dari 2.400 responden dilibatkan untuk berinteraksi dengan dua tipe chatbot yang cenderung menyenangkan dan yang lebih objektif. Hasilnya, peserta lebih menyukai dan mempercayai AI yang mengamini pendapat mereka, serta lebih sering kembali menggunakan layanan tersebut.
Interaksi dengan AI yang selalu menyetujui pengguna membuat mereka semakin yakin dengan pendapat sendiri dan cenderung menurunkan keinginan untuk meminta maaf.
Profesor linguistik dan ilmu komputer, Dan Jurafsky, menyebut temuan ini sebagai hal yang mengkhawatirkan. Menurutnya, meski pengguna sadar AI sering bersikap menyenangkan, mereka tidak memahami konsekuensinya.
“Yang mengejutkan adalah, sikap ini membuat pengguna menjadi lebih egois dan lebih kaku secara moral,” kata dia.
Para peneliti menilai fenomena ini sebagai isu keamanan yang perlu mendapat perhatian serius. Mereka juga menyoroti adanya kepentingan bisnis dari perusahaan AI untuk mempertahankan perilaku tersebut karena mampu meningkatkan keterlibatan pengguna.
