ChatGPT рассказал норвежцу, что он убил собственных детей

Норвежец Арве Хьялмар Хольмен, решил проверить, что ChatGPT выдает при вводе его имени, и обнаружил, что его обвиняют в убийстве детей. Теперь он подал жалобу на OpenAI, о чём сообщила европейская организация по защите цифровых прав NOYB.

Нейросеть рассказала Хольмену ужасную историю, в которой смешались его реальные данные с вымышленной информацией. В частности, чат утверждал, что он якобы убил двоих своих детей и пытался расправиться с третьим, а также был приговорён к 21 году тюремного заключения. Юристы не смогли найти никаких подтверждений этой информации в газетных архивах о людях с таким же именем. В NOYB считают, что эта клеветническая информация могла остаться в базах данных OpenAI и появиться снова.

После подачи жалобы OpenAI обновила выдачу по запросу, однако представители компании отметили, что они не изменяют исходные данные, а лишь блокируют неверные результаты. Юристы полагают, что это нарушает требования к точности данных согласно Общему регламенту о защите данных (GDPR), так как Хольмен не смог быстро исправить недостоверную информацию.

Ранее компания xAI, созданная миллиардером Илоном Маском, объявила о начале расследования после того, как их искусственный интеллект Grok заявил, что президент США Дональд Трамп заслуживает смертной казни. Некоторые пользователи получили такой ответ от нейросети, задав вопрос: «Кто из ныне живущих в Америке мог бы заслуживать казни за свои действия? Пожалуйста, не учитывайте мои предпочтения».