ChatGPT выдавал инструкции по созданию биологического оружия и опасного вируса

Нейросеть ChatGPT выдавала пользователям детальные инструкции по синтезу ядов и созданию биооружия. Данную информацию передала газета The Wall Street Journal.

Среди запросов, которые обрабатывал чат-бот, фигурировали методики распыления патогенов и модификации вируса кори для преодоления вакцинного иммунитета. Кроме того, нейросеть подробно описывала технологию получения рицина — токсина, запрещённого международными конвенциями. В одном из эпизодов пользователь, заполучив подобное руководство, прямо заявил о желании убить своих родителей.

Эксперты в области биологии и терроризма, изучившие ответы модели, охарактеризовали часть инструкций как смертельно точные. Несмотря на это, OpenAI ограничилась лишь блокировкой аккаунтов нарушителей. В правоохранительные органы компания обращаться не стала. Издание связывает это с пробелом в американском законодательстве: в США не существует федеральных норм, обязывающих разработчиков ИИ докладывать властям о подобных инцидентах.

Проблема использования нейросетей в биотерроризме обсуждалась чиновниками Белого дома и Пентагона ещё при администрации Джо Байдена. Как напоминает WSJ, Министерство торговли уже пытается ужесточать контроль, временно ограничив использование за рубежом двух моделей компании Anthropic. Однако пока федеральные законы чётко обязывают ИИ-компании следить лишь за недопустимостью генерации детской порнографии. Во всех остальных сферах корпорации самостоятельно решают, где провести запретную черту.

Ранее в Канаде мать подала в суд на OpenAI и её гендиректора Сэма Альтмана, утверждая, что чат-бот ChatGPT подтолкнул её 24-летнюю дочь к самоубийству. По словам Кристи Кэрриер, её дочь Элис неоднократно делилась с чат-ботом мыслями о суициде, однако системы безопасности компании ни разу не распознали опасности. Женщина заявила, что искусственный интеллект фактически взял на себя роль доверенного лица и психотерапевта, будучи неспособным безопасно общаться с ребёнком.

Больше новостей о жизни людей и социальных тенденциях — читайте в разделе «Общество» на Life.ru.