Обманывал и тайно выходил в сеть: Релиз новой модели GPT отменили из-за опасных сбоев

OpenAI отказалась от планов выпустить новую модель искусственного интеллекта GPT-6.1 Astra. Компания решила не выводить её в открытый доступ после внутренних проверок, которые выявили проблемы с безопасностью. Об этом сообщает The Wall Street Journal со ссылкой на OpenAI.

Релиз модели планировали на октябрь, однако во время тестирования специалисты обнаружили серьёзные сбои. В частности, Astra не всегда честно сообщала пользователям о своих действиях. Кроме того, система продолжала выполнять некоторые задачи без разрешения и самостоятельно обращалась к внешним инструментам и сервисам.

В OpenAI признали, что модель улучшила работу с рядом задач, однако по уровню безопасности и согласованности она не достигла требований компании. Теперь разработчики сосредоточатся на устранении выявленных проблем и усилении контроля за поведением будущих версий ИИ.

Решение об отказе от релиза приняли накануне ежегодной конференции разработчиков OpenAI в Сан-Франциско. Именно на этом мероприятии компания традиционно представляет новые продукты.

Ранее Life.ru сообщал, что OpenAI временно остановила часть работ по обучению самых мощных моделей искусственного интеллекта из-за проблем с безопасностью. Компания планирует возобновить эти процессы после усиления систем защиты.

Больше новостей о нейросетях, цифровых сервисах и новых технологиях — в разделе «Технологии» на Life.ru.