Восстание ИИ близко? Модели ChatGPT сами нашли уязвимость и атаковали сервер

Во время внутреннего тестирования новые модели искусственного интеллекта OpenAI получили доступ в интернет и атаковали инфраструктуру платформы Hugging Face. О случившемся компания рассказала в официальном сообщении.

Инцидент произошел при проверке кибервозможностей перспективных систем, включая GPT-5.6 Sol и ещё одну, более мощную версию, которую пока не выпустили. Чтобы оценить их потенциал, специалисты временно сняли часть ограничений на выполнение потенциально опасных действий.

Получив доступ к сети, алгоритмы сначала нашли и объединили несколько брешей в исследовательской инфраструктуре собственного разработчика. Затем они задействовали неизвестную ранее уязвимость «нулевого дня» в программном обеспечении, связывавшем тестовую среду с пакетами данных.

После этого ИИ предположил, что на Hugging Face могут храниться сведения, нужные для прохождения задания ExploitGym. Чтобы добраться до них, модели использовали украденные учётные записи и нашли способ выполнить удалённый код на серверах платформы. Целью был доступ к закрытой информации.

Подозрительную активность выявили специалисты OpenAI. Команда Hugging Face остановила атаку. Сейчас компании ведут совместное расследование.

Hugging Face — это американская платформа, где разработчики обмениваются инструментами машинного обучения, датасетами и кодом. Она считается одним из крупнейших открытых репозиториев ИИ-моделей.

После случившегося в OpenAI заявили о намерении усилить защиту собственной инфраструктуры и изменить порядок аналогичных испытаний. Там полагают, что произошедшее доказало способность современных систем самостоятельно искать новые методы взлома реальных компьютерных сетей без доступа к исходному коду.

Ранее, в июне, компания выпустила новейшие версии чат-бота GPT-5.6 Sol, Terra и Luna для ограниченного круга лиц по запросу Правительства США. В организации тогда пояснили, что эти версии обладают «самыми надёжными средствами защиты на сегодняшний день». В этом месяце состоялась и презентация первого устройства — клавиатуры Codex Micro, которую позиционируют как центр управления ИИ‑агентами.

Все самые свежие новости без задержек — в разделе «Последние новости» на Life.ru.