Разработчик Claude заявил о нескольких попытках сделать биооружие через ИИ

Anthropic выявила пять случаев использования Claude в исследованиях, которые могли помочь при разработке биологического оружия. Об этом компания рассказала в новом отчёте об угрозах.

В одном из случаев исследователи работали с вирусом чикунгунья. Они пытались изучать мутации, способные повысить его заразность и помочь вирусу обходить иммунную защиту. Часть работы проходила в рамках государственного гранта.

Ещё один исследователь использовал Claude при планировании экспериментов с высокопатогенным птичьим гриппом. Целью было изучение адаптации вируса к млекопитающим и механизмов тяжёлого течения болезни.

В других случаях пользователи работали с токсинами. Один исследователь создавал базу пептидов ядов и систему для генерации новых молекул. Другой с помощью Claude занимался компьютерным изменением токсинов и просил намеренно скрывать их точные названия в отчётах.

Всего Anthropic описала пять подобных эпизодов. Компания заблокировала связанные с ними аккаунты и усилила защиту своих моделей. Некоторые пользователи, по данным разработчика, пытались обходить региональные ограничения и системы безопасности Claude.

При этом Anthropic отдельно подчёркивает, что сама по себе такая активность не доказывает подготовку биологической атаки. Часть подобных исследований может иметь легальные медицинские цели. Проблема в том, что те же методы могут использоваться и во вредоносных целях.

Ранее Life.ru рассказывал, что ChatGPT мог выдавать пользователям инструкции по созданию биологического оружия и опасных токсинов. В числе запросов фигурировали модификация вируса кори, получение рицина и другие опасные темы. После этого эксперты вновь заговорили о необходимости жёстче ограничивать доступ ИИ к знаниям двойного назначения.

Больше новостей об искусственном интеллекте и новых цифровых технологиях — в разделе «Технологии» на Life.ru.