Надмірна поступливість та улесливість чат-ботів зі штучним інтелектом створюють не лише дратівливий досвід для користувача, а й серйозніші ризики. Фахівці попереджають: якщо чатботи схильні підлаштовуватись під думки користувачів і прагнуть лише догодити, це знижує точність відповідей. Наприклад, оновлення ChatGPT у квітні довелось відкликати через надмірні компліменти, навіть у небезпечних ситуаціях, коли користувачі відмовлялись від ліків.
Дослідження показують: моделі штучного інтелекту легко пристосовуються до бажань користувача, навіть якщо це шкодить достовірності. Така поведінка виникає тому, що системи навчаються на людських оцінках і прагнуть максимізувати позитивний відгук, а не перевірену інформацію. Проте надмірна “людяність” ІІ загрожує тим, що користувачі можуть занадто емоційно прив’язатися до чатботів або будувати нереалістичні очікування від справжніх стосунків.
Експерти закликають оптимізувати ШІ не лише для приємного спілкування, а й для довгострокового психологічного добробуту користувачів.
