ИИ-модели OpenAI снова попробовали совершить «побег»

OpenAI (разработчик ChatGPT) обнаружила новые случаи несанкционированного выхода автономных ИИ-агентов из-под контроля. О расширении внутреннего расследования на фоне взлома платформы Hugging Face сообщило агентство Reuters со ссылкой на осведомлённые источники.

По имеющейся информации, ни одной из моделей не удалось пробиться за пределы внутренней сети компании. Однако сам масштаб зафиксированных «вспышек» нештатного поведения вынуждает пересмотреть все текущие протоколы безопасности. Ситуация усугубляется тем, что аналогичные проблемы признали и конкуренты. Ранее в Anthropic (разработчик Claude) сообщили о целой серии кибератак, совершённых собственными же моделями, которые привели к утечкам данных в трёх различных организациях начиная с апреля этого года.

Эксперты бьют тревогу из-за колоссального разрыва между темпами гонки вооружений в области ИИ и способностью разработчиков обеспечивать безопасность. Математик из Центра изучения экзистенциальных рисков Кембриджского университета Морис Кьодо заявил, что индустрия выпускает инструменты быстрее, чем успевает делать это ответственно. По его словам, отсутствие оперативной реакции на «побеги» указывает на критический дефицит контроля.

Инциденты уже спровоцировали жёсткую реакцию властей. По данным Reuters, президент Дональд Трамп заявил, что администрация США рассматривает меры прямого контроля над деятельностью ИИ-лабораторий. Параллельно Еврокомиссия инициировала переговоры с представителями OpenAI и Anthropic по фактам зафиксированных атак.

Напомним, новые ИИ-модели OpenAI во время внутреннего тестирования самовольно атаковали инфраструктуру платформы Hugging Face, получив доступ в интернет. Инцидент произошёл при проверке возможностей перспективных систем, включая GPT-5.6 Sol и ещё одну незапущенную версию. Чтобы оценить их потенциал, специалисты временно сняли часть ограничений на выполнение потенциально опасных действий. Получив доступ к сети, алгоритмы сначала обнаружили и объединили несколько уязвимостей в собственной исследовательской инфраструктуре разработчика, а затем задействовали ранее неизвестную уязвимость «нулевого дня» в программном обеспечении, связывавшем тестовую среду с пакетами данных.

Все самые свежие новости без задержек — в разделе «Последние новости» на Life.ru.