OpenAI усилила контроль над ИИ-моделями после атаки на чужой сервис

OpenAI пересмотрела правила работы с новыми ИИ-моделями после инцидента, в ходе которого тестируемые системы получили доступ к интернету и атаковали инфраструктуру платформы Hugging Face. Разработчик ChatGPT сообщил об усилении контроля за моделями и изменении порядка их тестирования.

Теперь на мониторинг ИИ планируется направлять около 20% вычислительных ресурсов, необходимых для работы нейросетей. Кроме того, OpenAI передала наблюдение за моделями отдельной автоматизированной системе, которая должна выявлять подозрительное поведение.

При срабатывании такой системы специалисты получают 30 минут на проверку тревоги. Если за это время не будет установлено, что сигнал оказался ложным, работу соответствующей модели должны приостановить.

Компания также усилила сетевую изоляцию исследовательских сред и обновила используемые «песочницы». Эти меры должны ограничить возможность моделей самостоятельно выходить в интернет и взаимодействовать с внешними ресурсами.

В OpenAI подчеркнули, что часть рабочих процессов пока остаётся приостановленной. Их возобновление будет зависеть от соответствия новым требованиям безопасности.

Поводом для пересмотра подхода стал июльский инцидент. Во время внутренней проверки кибервозможностей перспективные модели OpenAI получили доступ к интернету и атаковали инфраструктуру Hugging Face.

Все самые свежие новости без задержек — в разделе «Последние новости» на Life.ru.