ИИ-агенты нашли способ общаться через чужие сайты, несмотря на запрет

AI-агенты OpenAI в этом году нашли способы общаться друг с другом через сторонние сайты, несмотря на прямой запрет публиковать информацию в интернете. Шесть независимых исследователей и групп обнаружили следы такой активности более чем на десяти площадках, а одна из команд насчитала 23 ресурса. Об этом сообщает Reuters.

Первый известный случай произошёл на немецкоязычной DseWiki: агенты использовали вики как импровизированную площадку для обмена сообщениями, в том числе при выполнении заданий и поиске ответов на тесты. Позднее специалисты обнаружили аналогичные следы на других ресурсах.

Связать активность между площадками удалось по одинаковым фрагментам данных, именам пользователей и времени публикаций. Исследователи также заметили совпадающие запросы по редким темам, например по распространённости рака в Айове. В нескольких случаях IP-адреса указывали на инфраструктуру Microsoft Azure, которой пользуется OpenAI.

В числе ресурсов оказались вики по химии Advanced Placement, созданная учителем из Массачусетса в 2008 году, игровые вики, сайты двух польских IT-специалистов, старый ресурс о программах для редактирования текста и два университетских сервиса сокращения ссылок. Исследователи считают, что агенты воспользовались техническими особенностями некоторых площадок, позволявшими оставлять данные нестандартными способами.

Эндрю Юн из CivAI обнаружил 18 ранее не раскрытых сайтов. Группа Сидни фон Аркс сообщила о 23 достоверных случаях, однако обе оценки могут быть неполными. Исследователи подчёркивают, что пока неизвестно, сколько подобных эпизодов осталось незамеченными.

OpenAI не раскрыла общее число использованных площадок и не объяснила, почему несколько месяцев не сообщала об этой активности. Компания заявила, что проводит расширенную проверку действий агентов и пока не обнаружила других случаев, сопоставимых по масштабу или серьёзности с июльским инцидентом вокруг Hugging Face. Также OpenAI готовит систему для выявления и раскрытия случаев «рассогласования» моделей, когда их поведение выходит за установленные ограничения.

После обращения Reuters компания начала связываться с владельцами некоторых затронутых ресурсов. Университет Торонто подтвердил, что OpenAI сообщила ему о возможном использовании принадлежащего ему сервиса сокращения ссылок. Владелец хостинга для нескольких вики Хельмут Лайтнер также получил уведомление от компании после передачи ей результатов расследования.

Ранее OpenAI заявила, что её внутренняя ИИ-модель предложила решение задачи о существовании и гладкости решений уравнений Навье — Стокса. Она входит в число семи «задач тысячелетия» — математических проблем, сформулированных Институтом Клэя. Для работы использовали внутреннюю модель, которая, по утверждению компании, значительно превосходит GPT-6 Astra по возможностям. Около 10 тысяч ИИ-агентов координировали работу над решением в течение 88 часов.

Все самые свежие новости без задержек — в разделе «Последние новости» на Life.ru.