OpenAI извинилась перед Австралией за атаку своего ИИ-агента и усилила защиту
Обложка ©Shutterstock / FOTODOM / Saeidreza maghsoudi
OpenAI усилила меры безопасности после инцидента, при котором экспериментальный ИИ-агент компании получил несанкционированный доступ к непубличной части сервиса Medicare Statistics Reporting Service, подведомственного правительству Австралии. Об этом заявил директор по стратегии OpenAI Джейсон Квон на слушаниях в австралийском парламенте.
По его словам, компания изменила внутренние системы так, чтобы специалисты могли быстрее вмешиваться в действия ИИ-агентов и останавливать нежелательную активность. Также OpenAI пересмотрела порядок уведомления организаций, чьи ресурсы могли быть затронуты.
Квон принёс извинения жителям Австралии и признал, что компания должна была отреагировать быстрее. Сам инцидент произошёл в июне во время внутреннего обучения и тестирования экспериментальной модели, а обнаружила его OpenAI только в середине августа.
Модель получила непубличный доступ к Medicare Statistics Reporting Service, после чего извлекла технические файлы, учётные данные и агрегированную статистику. При этом, по данным OpenAI, индивидуальные медицинские записи пациентов затронуты не были.
«Это мощная технология, и мы хотим, чтобы законодатели, политики и демократическое общество могли влиять на то, как она будет развиваться», — заявил Квон.
После расследования OpenAI ограничила доступ экспериментальных моделей к открытому интернету, усилила мониторинг и ввела дополнительные механизмы срочного вмешательства специалистов. Компания также пообещала быстрее уведомлять организации о подобных инцидентах.
Ранее Life.ru сообщал, что ИИ-агенты OpenAI получили несанкционированный доступ к двум сайтам ведомств австралийского штата Новый Южный Уэльс. Один из эпизодов затронул ресурс Бюро статистики и исследований преступности, где система получила доступ к служебной конфигурации и журналам работы. После выявления инцидентов OpenAI уведомила австралийские власти и предложила помощь в усилении киберзащиты.
Больше новостей об искусственном интеллекте, цифровой безопасности и IT-компаниях — в разделе «Технологии» на Life.ru.
