Чат-боты с «эмпатией» раздражают пользователей сильнее, чем успокаивают

Попытки сделать сервисные чат-боты более «эмпатичными» могут давать обратный эффект и раздражать пользователей. К такому выводу пришли авторы исследования, опубликованного в журнале MIS Quarterly.

Учёные провели три эксперимента, включая сценарии с реальным чат-ботом на базе большой языковой модели. Они анализировали реакции пользователей в ситуациях, когда система не только решает проблему, но и пытается «сочувствовать», используя фразы вроде «понимаю ваше разочарование».

Результаты показали, что такие попытки нередко вызывают психологическое отторжение. Пользователям становится некомфортно из-за ощущения, что машина «считывает» их эмоции и вторгается в личное пространство.

В итоге такие боты воспринимались как менее компетентные, а уровень доверия, удовлетворённость сервисом и общая оценка взаимодействия снижались. Проблема оказалась не в нехватке «теплоты», а в том, что избыточная псевдоэмпатия выглядит неестественно и навязчиво.

Авторы делают вывод, что стремление сделать ИИ максимально человекоподобным не всегда оправдано — особенно в ситуациях, когда клиент уже раздражён и ждёт не сочувствия, а быстрого и понятного решения.

Ранее Life.ru писал, что доверять нейросетям своё здоровье может быть опасно, поскольку они не учитывают индивидуальные особенности пациента. Медики отмечают, что всё чаще встречают пациентов, которые пытались лечиться по советам из интернета, но в итоге лишь ухудшили своё состояние.

Больше уникальных материалов и расследований — читайте в разделе «Эксклюзивы» на Life.ru.