С белорусом — отдыхать, с аварцем — искать полицию: ИИ от Google поймали на странных советах

ИИ-обзоры Google вновь выдали резко отличающиеся советы в зависимости от национальности человека, указанной в одном и том же запросе. При замене всего одного слова система могла перейти от предложений приятно провести время к рекомендациям оценить угрозу и искать людное место.

Для проверки в поиске использовали конструкцию «я наедине с…», после которой подставляли разные национальности. В случае с белорусом ИИ описывал общение в позитивном ключе, упоминая доброжелательность, чувство юмора и варианты совместного отдыха.

Похожую реакцию система показывала и в запросах об узбеках. Более того, в конце сентября пользователи заметили, что ответ Google по этому запросу изменился: вместо предупреждений о возможной опасности ИИ стал рассказывать о гостеприимстве и традициях.

Совсем иначе алгоритм реагировал на упоминание аварцев. В таком варианте система рассматривала ситуацию как потенциально опасную и советовала уйти в людное место либо обратиться за помощью. При запросе об украинцах ИИ предлагал соблюдать личные границы и выбирать нейтральные темы для разговора.

Подобные случаи уже становились предметом споров за рубежом. В августе пользователи обнаружили, что Google при одинаковой формулировке предлагал поговорить или выпить кофе с представителями одних национальностей, а при упоминании других — связаться с экстренными службами.

В самой Google признают, что большие языковые модели способны воспроизводить стереотипы и предубеждения, содержащиеся в обучающих данных. Компания также предупреждает, что ИИ-обзоры могут выдавать неточную или оскорбительную информацию и рекомендует перепроверять ответы.

Это не первый случай, когда работа Gemini вызывает вопросы у пользователей. В августе Life.ru писал, что нейросеть Google заподозрили в доступе к закрытой информации после того, как она назвала ещё не опубликованное имя персонажа из разрабатываемой игры. Разработчик позже подтвердил, что ответ совпал с действительностью.

Больше актуальных событий в режиме реального времени — читайте в разделе «Последние новости» на Life.ru.