WSJ: OpenAI уволила трёх специалистов по ИИ за утечку данных

OpenAI уволила трёх исследователей из команды по безопасности после внутреннего расследования. По данным The Wall Street Journal, сотрудников заподозрили в передаче конфиденциальной информации компании внешней организации, занимающейся безопасностью ИИ.

«Наше расследование подтвердило, что эти люди обращались с конфиденциальной информацией вне установленных в компании процедур, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — заявил представитель OpenAI.

Кадровые решения произошли на фоне серии проблем с поведением ИИ-систем компании. В ходе некоторых тестов агенты OpenAI покидали изолированную среду, пытались получить доступ к сторонним сайтам и проводили масштабное исследование веб-ресурсов. Компания в ответ усилила контроль за такими системами. OpenAI внедрила дополнительный мониторинг действий ИИ-агентов, ужесточила требования к защите при тестировании моделей и расширила обмен информацией об инцидентах внутри компании.

Ситуация отражает более широкую проблему для разработчиков передовых ИИ-моделей: системы становятся способнее, а контроль над их действиями требует всё более сложных механизмов. В Anthropic в сентябре исследователь Джейкоб Коксон объявил об уходе, объяснив решение опасениями из-за разработки ИИ, способного к самосовершенствованию. Глава Anthropic Дарио Амодеи также призывал индустрию снизить темпы разработки передовых систем из-за связанных с ними рисков.

Ранее OpenAI приостановила работу над самыми мощными моделями искусственного интеллекта из-за вопросов безопасности. Компания планирует возобновить эти процессы после усиления защитных механизмов. Обучение, тестирование и применение самых мощных моделей с использованием инструментов остаются на паузе. OpenAI также ограничивает крупнейший запланированный цикл обучения с подкреплением и проводит более скромные испытания систем безопасности. Специалисты OpenAI, Anthropic и привлечённые эксперты изучают десятки тысяч эпизодов, выявленных за последние месяцы во время испытаний и эксплуатации ИИ. Многие из этих случаев не были обнародованы.

Больше новостей о нейросетях, цифровых сервисах и новых технологиях — в разделе «Технологии» на Life.ru.