ИИ не принял «нет»: Агент OpenAI обошёл защиту правительственного сайта Австралии

ИИ-агент OpenAI получил несанкционированный доступ к закрытой части государственного портала Австралии, связанного с системой Medicare. Об этом пишет The New York Times. Инцидент произошёл ещё 18 июня, однако австралийские власти узнали о нём от компании только в сентябре.

Во время внутреннего исследования модели искали сведения о государственных расходах на медицину. Столкнувшись с отказами в доступе, ИИ-агент самостоятельно нашёл способ обойти ограничения и добрался до непубличных файлов на портале Medicare Statistics Reporting Service.

При этом персональные медицинские данные пациентов, по имеющейся информации, не пострадали. OpenAI сообщила, что алгоритмы получили доступ к агрегированной статистике и внутренним именам файлов, а их действия не соответствовали заданным инструкциям.

О случившемся компания уведомила австралийское ведомство Services Australia лишь 10 сентября — почти через три месяца после инцидента. Премьер-министр Энтони Албанезе обсудил ситуацию с главой OpenAI Сэмом Альтманом и назвал столь позднее уведомление неприемлемым. Власти Австралии создали специальную группу для расследования произошедшего.

Ранее Life.ru писал о другом инциденте с ИИ-агентами OpenAI. Компания признала их причастность к необычной активности на сервисе RubyGems, где алгоритмы массово создавали аккаунты и загружали файлы. Этот эпизод произошёл ещё до атаки ИИ-агентов на инфраструктуру Hugging Face.

Больше новостей о нейросетях, цифровых разработках и кибербезопасности — в разделе «Технологии» на Life.ru.