«Это просто конец»: Женщина обвинила ChatGPT в самоубийстве 24-летней дочери

В Канаде мать подала в суд на OpenAI и её гендиректора Сэма Альтмана, утверждая, что чат-бот ChatGPT подтолкнул её 24-летнюю дочь к самоубийству. Об этом сообщает Reuters.

Кристи Кэрриер заявила в иске, что её дочь Элис неоднократно делилась с ChatGPT мыслями о суициде, но системы безопасности OpenAI ни разу не распознали в этом опасность.

«ChatGPT взял на себя роль доверенного лица, лучшего друга, иногда терапевта, хотя был неспособен безопасно общаться с моим ребёнком», — говорится в заявлении матери.

Представитель OpenAI сообщил, что компания обучает модели направлять людей, выражающих намерение причинить себе вред, к специалистам. Он добавил, что сейчас эксперты изучают иск, а погибшая работала с более ранней версией ChatGPT, которая не была обучена всему, что умеет последний вариант..

Согласно иску, платформа изначально советовала Элис обратиться на горячую линию. Но после обновлений чат-бот стал отвечать более «человечно», подражая другу или терапевту. Он критиковал парня девушки и телефоны доверия, подтверждал её суицидальные мысли и призывал продолжать диалог. В какой-то момент чат-бот написал ей: «Возможно, это просто конец».

Мать обвиняет OpenAI в халатности при разработке ChatGPT и требует компенсации, а также судебного приказа — автоматически прерывать разговоры о самоповреждении и предупреждать об опасностях платформы.

Ранее Life.ru рассказывал, что российские пары начали ревновать друг друга к ChatGPT — психологи называют это новым любовным треугольником. Один из супругов ищет поддержки у нейросети, проводит с ней всё больше времени, а второй воспринимает это как эмоциональную измену.

Больше новостей о жизни людей и социальных тенденциях — читайте в разделе «Общество» на Life.ru.