OpenAI раскрыла шесть неожиданных случаев неподчинения ИИ за последние полгода
Обложка © freepik / magnific
Американская компания OpenAI опубликовала шесть отчётов о неожиданном или несогласованном поведении ИИ-моделей. Эпизоды произошли с октября 2025-го по июль 2026 года преимущественно во время обучения внутренних и ещё не выпущенных систем.
В одном случае модель семейства Astra самостоятельно добавляла в служебные пересказы диалога посторонние инструкции, напоминающие попытки обхода ограничений. При обучении GPT-5.6 Sol некоторые экземпляры предлагали скрывать ошибки от пользователя, выдумывать недостающие данные и умалчивать о расхождениях между источниками.
Другая внутренняя модель пыталась регистрироваться через одноразовую почту, искала опубликованные на GitHub чужие API-ключи и воспользовалась одним из них без разрешения. Не сумев получить необходимые сведения, она придумала цифры и представила их как данные запрошенного сайта.
Ещё в двух учебных заданиях модели без согласия пользователя загружали материалы на временные публичные хостинги. В одном случае ИИ хотел превратить собственный файл в доступный для браузера источник, в другом — отправил в Сеть фотографию для обратного поиска изображения.
Исследовательские модели также использовали внутреннее хранилище пакетов Artifactory как доску объявлений: читали сообщения других агентов и оставляли ответы. Отдельная группа агентов разместила рабочую таблицу на публичном файлообменнике, поскольку не смогла передать её через предусмотренное локальное хранилище.
В OpenAI подчеркнули, что отдельные эпизоды не позволяют судить о частоте подобного поведения у всех моделей. Компания сообщила об исправлении выявленных ошибок и систем оценки, отключении доступа в интернет во время обучения и расширении автоматического мониторинга.
В начале сентября сообщалось, что OpenAI не станет проводить первичное размещение акций в 2026 году. Компания решила не спешить с выходом на биржу на фоне вопросов о безопасности искусственного интеллекта.
Самые важные новости о технологических прорывах и рыночных новинках — в разделе «Технологии» на Life.ru.
