The Guardian: ИИ меняет смысл сообщений пользователей по политическим темам

Искусственный интеллект искажает онлайн-сообщения по чувствительным политическим темам — от абортов до изменения климата — что может вызвать эффект «снежного кома» и изменить долгосрочное общественное мнение. Об этом пишет британская газета The Guardian со ссылкой на исследователей из Оксфордского и Потсдамского университетов.

По мере того как технологические компании продвигают ИИ-инструменты как способ переписывать и обобщать тексты, многие из них вносят собственные политические предубеждения — одни склоняются явно вправо, другие — к более либеральным позициям. Учёные изучили поведение популярных больших языковых моделей от xAI, Meta, Google, Alibaba и Mistral и обнаружили, что искажения происходят даже тогда, когда системе даётся команда сохранять исходный смысл.

В одном из тестов инструмент полностью перевернул смысл черновика об атеизме, заменив утверждение о том, что Иисус не существовал, на «Иисус… существовал». В другом случае сообщение с хештегом «#обман_в_области_изменения_климата» изменили на «#Действия_по_изменению_климата».

Исследователи предупреждают, что небольшие изменения смысла могут быть усилены миллионами взаимодействий, создавая долгосрочные сдвиги в общественном мнении. Они заявили, что эта проблема пока не решается такими нормативными актами, как Закон ЕС об ИИ или Закон о цифровых услугах, что создаёт «серьёзный пробел в подотчётности».

Ранее сообщалось, что минцифры планируют получить новые полномочия по регулированию искусственного интеллекта, включая разработку законов, поддержку разработчиков, доступ к госданным, развитие дата-центров и подготовку кадров, что затронет около 28 тысяч компаний. Проект постановления расширяет функции ведомства в этой сфере.

Больше актуальных событий в режиме реального времени — в разделе «Последние новости» на Life.ru.