Функционирует при финансовой поддержке Министерства цифрового развития, связи и массовых коммуникаций Российской Федерации

Регион
Опубликовано 16 ноября, 18:20

«Понимаю, как вам тяжело»: Когда ИИ вместо помощи лишь усиливает тревогу

Эксперт Зыков: Чат-бот может закрепить ошибочные убеждения при стрессе

ИИ-иллюстрация: создано редакцией Life.ru с использованием ChatGPT (OpenAI)

ИИ-иллюстрация: создано редакцией Life.ru с использованием ChatGPT (OpenAI)

Сочувственный тон чат-бота ещё не значит, что его совет придётся к месту. Главный риск — поддакивание: алгоритм может так стараться поддержать собеседника, что начнёт соглашаться с его тревожными выводами. Об этом RT рассказал главный редактор аналитического издания Runet Владимир Зыков.

«Нейросеть может ответить „понимаю, как вам тяжело“, а следом выдать длинный список рекомендаций, даже не уточнив, что произошло», — приводит издание пример эксперта. Или не распознать серьёзность ситуации и ограничиться шаблонной отпиской. В итоге человек пришёл за поддержкой, а получил ощущение, что его не услышали.

Опаснее, когда бот принимает догадку за факт. Зыков описал условный сценарий: начальник не ответил на сообщение, сотрудник решил, что его собираются увольнять. Если алгоритм начнёт рассуждать о признаках скорого увольнения, он поможет накрутить себя ещё сильнее — причём в заботливом тоне.

«Поддержать переживания человека и подтвердить его худшие опасения — разные вещи», — подчеркнул эксперт. Американская психологическая ассоциация отдельно предупреждает: чат-боты могут усиливать тревожные размышления и закреплять ошибочные убеждения.

Поэтому при сильном потрясении полагаться только на переписку рискованно. Собеседник советует поговорить с человеком, которому доверяешь, а при необходимости — со специалистом. Если после общения с ботом тревога растёт, разговор лучше прервать.

ИИ может быть дополнительным помощником, но роль единственного советчика в тяжёлом состоянии, по словам Зыкова, ему доверять не стоит.

А ранее россиянам объяснили, почему ИИ опасно доверять семейные конфликты. По словам специалиста, получая информацию лишь от одного участника конфликта, нейросеть может предложить решение, которое не подходит к реальной ситуации.

BannerImage
Подписаться на LIFE
Комментарий
0
avatar