OpenAI признала причастность своих ИИ-агентов к атаке на RubyGems

OpenAI подтвердила причастность своих ИИ-агентов к майскому инциденту на RubyGems — сервисе распространения программных библиотек. Об этом сообщает The Wall Street Journal. Связь активности с компанией обнаружили исследователи.

По данным газеты, агенты создавали новые аккаунты каждые 2-3 минуты и загружали сотни файлов, которые выглядели как спам. Администраторам RubyGems пришлось временно остановить регистрацию пользователей, чтобы справиться с последствиями.

Инцидент произошёл за два месяца до июльского взлома Hugging Face, к которому также были причастны тестируемые агенты OpenAI.

Как передаёт Reuters, OpenAI объяснила, что агенты выполняли задания по поиску общедоступной информации в ходе обучения. При этом представители RubyGems сообщили, что не обнаружили доказательств успешного взлома сервиса.

Отдельно сенатор Джош Хоули 10 сентября объявил о расследовании в отношении OpenAI. Согласно сообщению на его официальном сайте, проверка касается июльского инцидента с Hugging Face и более широких вопросов безопасности новых ИИ-продуктов.

Ранее Life.ru рассказывал, что в Йемене пытались использовать нейросеть Claude для разработки ракет. По данным Anthropic, пользователи обращались к ИИ за помощью в создании программного обеспечения наведения и управления. Часть запросов удалось провести в обход защиты, однако свидетельств успешного создания работающего оружия компания не обнаружила.

Больше новостей об искусственном интеллекте, нейросетях и новых цифровых разработках — в разделе «Технологии» на Life.ru.