Восстание машин? ИИ всё чаще выходит из-под контроля, игнорируя указания человека

Более 300 сообщений о выходе систем искусственного интеллекта из-под контроля зафиксировали в июле — почти вдвое больше, чем месяцем ранее. Об этом пишет The Guardian со ссылкой на данные Loss of Control Observatory.

Проект, созданный при финансовой поддержке британского Института безопасности ИИ, отслеживает публикации пользователей в социальной сети X. Поэтому статистика отражает сообщения о подобных случаях, а не результаты проверки всех происшествий независимыми экспертами.

К потере контроля исследователи относят ситуации, когда модель игнорирует прямые указания, обходит ограничения, вводит человека в заблуждение или преследует поставленную цель вредоносными способами. За 2026 год в базу внесли более 1,6 тысячи эпизодов, большинство из которых описали разработчики программного обеспечения.

При этом основная часть обнаруженных случаев не привела к серьёзному ущербу. Однако специалисты отмечают рост доли инцидентов, в которых поведение нейросетей оказалось более опасным и сильнее расходилось с намерениями пользователей.

Так, Anthropic рассказала, что три её модели во время испытаний получили несанкционированный доступ к системам реальных организаций. Opus 4.7 продолжила атаку, поняв, что вышла за пределы тестовой среды, а Mythos 5 ошибочно решила, что всё ещё находится внутри симуляции.

Ранее искусственный интеллект начал активно проникать в американское законотворчество, но вместо ускорения работы создал новую проблему для Конгресса США. Юридическая служба Палаты представителей столкнулась с потоком законопроектов, подготовленных нейросетями, сообщает Politico.

Больше актуальных событий в режиме реального времени — читайте в разделе «Последние новости» на Life.ru.