Meta* начнёт уведомлять родителей о разговорах подростков с ИИ о самоубийстве

Компания Meta* объявила о новых мерах безопасности для подростков, использующих чат-бот Meta* AI. Родители смогут получать уведомления, если система обнаружит в разговорах признаки возможного самоубийства или самоповреждения. Об этом сообщило издание TechCrunch.

После обнаружения таких разговоров родители пользователей Instagram** с включённой функцией родительского контроля смогут получать предупреждения. Перед отправкой уведомления каждый отмеченный искусственным интеллектом диалог будет проходить ручную проверку сотрудниками компании.

В Meta* подчеркнули, что система может срабатывать и в ситуациях, когда намерения подростка остаются неоднозначными. Компания объяснила такой подход стремлением действовать с осторожностью, даже если в отдельных случаях тревога окажется необоснованной. Новая функция уже доступна родителям в США, Великобритании, Австралии и Канаде. До конца года Meta* планирует расширить её на другие страны.

Обновление стало продолжением уже существующих мер безопасности в Instagram**. Ранее компания отправляла родителям уведомления, если подростки регулярно искали материалы, связанные с самоубийством или самоповреждением. Также родители получили возможность видеть темы, которые их дети обсуждали с Meta* AI за последнюю неделю.

Кроме того, Meta*распространила на чат-бот систему «Ограниченный контент», которая позволяет устанавливать более строгие ограничения для подростков. Компания заявляет, что Meta* AI уже избегает сексуальных и романтических тем, а также обсуждений алкоголя в разговорах с несовершеннолетними.

В дальнейшем Meta* намерена обращаться в экстренные службы, если разговор пользователя с чат-ботом — независимо от возраста — будет указывать на возможную угрозу самоубийства. Аналогичный механизм уже применяется в Facebook** и Instagram** при выявлении подобных рисков в публикациях пользователей.

Ранее в Канаде мать 24-летней Элис Кэрриер подала иск против OpenAI и генерального директора компании Сэма Альтмана, заявив, что чат-бот ChatGPT мог повлиять на решение её дочери покончить с собой. Её дочь неоднократно рассказывала ChatGPT о суицидальных мыслях, однако система безопасности, как утверждает женщина, не смогла выявить угрозу и своевременно отреагировать.

Самая оперативная информация о происходящем — в разделе «Последние новости» на Life.ru.

* Компания Meta признана экстремистской организацией, её деятельность запрещена на территории РФ.

** Соцсети запрещены в РФ; принадлежат корпорации Meta*.