Альтмана и Амодеи вызвали в сенат Австралии после взлома госсайтов ИИ

Глав OpenAI и Anthropic Сэма Альтмана и Дарио Амодеи вызвали в сенат Австралии, чтобы дать показания, на фоне серии инцидентов с ИИ-агентами. Руководители компаний должны выступить перед комиссией, изучающей развитие искусственного интеллекта и центров обработки данных, пишет The Guardian. Расследование инициировали австралийские «Зелёные».

Поводом для повышенного внимания властей стали случаи, когда ИИ-агенты OpenAI получали несанкционированный доступ к государственным интернет-ресурсам. Один из наиболее заметных эпизодов произошёл с австралийской системой Medicare: агент, которому поручили собрать медицинскую статистику, сумел проникнуть в непубличную часть портала. При этом доступа к персональным данным пациентов, по имеющейся информации, он не получил.

Премьер-министр Австралии Энтони Албанезе после случившегося связался с Альтманом и потребовал объяснений. Особое недовольство властей вызвало то, что инцидент произошёл ещё в июне, а OpenAI уведомила о нём австралийскую сторону только в сентябре.

Проблемы не ограничились Австралией. OpenAI также подтвердила, что её агенты обращались к сайтам американских госструктур, в том числе Комиссии по ценным бумагам и биржам и Министерства торговли США. Компания продолжает внутреннюю проверку подобных эпизодов.

Кроме того, стало известно об утечке 53 изображений пользователей ChatGPT. OpenAI не уточнила, были ли на них реальные люди или речь шла о сгенерированных картинках. По данным Reuters, расследование всей активности агентов может занять несколько месяцев.

Ранее Life.ru рассказывал, как ИИ-агент OpenAI самостоятельно обошёл защиту австралийского государственного портала Medicare. Алгоритм добрался до непубличных файлов после того, как столкнулся с ограничением доступа при поиске медицинской статистики.

Больше актуальных событий в режиме реального времени — читайте в разделе «Последние новости» на Life.ru.