Канада требует от разработчика ChatGPT ответов после устроенной трансгендером* бойни в школе

Канадские власти вызвали представителей OpenAI (разработчик ChatGPT) на встречу после сообщений о том, что компания не уведомила правоохранителей о пользователе, чей аккаунт был заблокирован задолго до массового убийства в Британской Колумбии. Об этом сообщает Reuters.

Министр по вопросам искусственного интеллекта Канады Эван Соломон заявил, что во вторник в Оттаве встретится с руководителями направления безопасности OpenAI. Он хочет получить ответы по двум ключевым пунктам: какие у компании протоколы реагирования на потенциально опасные запросы и по каким порогам информация может передаваться полиции.

Соломон сказал, что был «глубоко встревожен» тем, что узнал о действиях компании в ситуации вокруг Джесси Ван Рутселар — 18-летней подозреваемой в нападении в Тумблер-Ридж. По данным следствия, в феврале она сначала застрелила мать и сводного брата дома, затем приехала в школу и убила пятерых детей и одного сотрудника. Ещё двое учеников получили ранения, один из них остаётся в тяжёлом состоянии в детской больнице Ванкувера. Подозреваемая покончила с собой в школе, когда туда прибыли полицейские.

Как отмечается, сообщения Ван Рутселар в ChatGPT вызвали внутренние «красные флаги» у OpenAI ещё в июне — за восемь месяцев до атаки. Компания заявила, что система выявления злоупотреблений (автоматические инструменты и проверки сотрудников) зафиксировала тревожные сигналы, после чего аккаунт заблокировали. Детали переписки OpenAI не раскрывает.

О том, что подозреваемая пользовалась ChatGPT перед нападением, ранее сообщала The Wall Street Journal. По версии OpenAI, вариант уведомления полиции обсуждался, но в итоге от него отказались: компания решила, что у пользователя не было признаков «достоверного или неминуемого» планирования насилия. Уже после трагедии OpenAI передала информацию о активности аккаунта Королевской канадской конной полиции.

Параллельно федеральная полиция добивается судебного решения, которое обяжет цифровые платформы и ИИ-компании сохранить потенциальные доказательства по делу Тумблер-Ридж.

Отдельный раздражитель для канадских властей — контекст вокруг присутствия OpenAI в стране. У компании нет офиса в Канаде, но она обсуждала расширение: за несколько недель до стрельбы представители OpenAI планировали встречу 11 февраля с властями Британской Колумбии по теме возможного открытия офиса. После этой встречи компания запросила контакты полиции, но, как утверждают в офисе премьера провинции, не сообщила правительству о том, что у неё может быть информация, потенциально относящаяся к будущей трагедии.

«Мы задействуем все ресурсы правительства, чтобы обеспечить полицию инструментами, необходимыми для расследования каждого аспекта этой ужасающей трагедии», — написал премьер Британской Колумбии Дэвид Эби, назвав ситуацию крайне тревожной для родных погибших и жителей провинции.

Напомним, 11 февраля стало известно о стрельбе в школе на западе Канады. Нападавшей оказалась 18-летняя трансгендер* Джесси Ван Рутселар. До этого она убила 39-летнюю маму и 11-летнего сводного брата в собственном доме, после чего отправилась в учебное заведение. В результате атаки была убита учительница, три девочки и два мальчика от 13 до 17 лет. К моменту прибытия полиции преступница наложила на себя руки. Между ней и жертвами в школе не найдено никакой связи.

* Организация ЛГБТ признана экстремистской, её деятельность запрещена на территории Российской Федерации.