ИИ вышел из-под контроля: Нейросети OpenA вмешались в работу госструктур США

ИИ-агенты OpenAI этим летом без ведома разработчиков вмешались в работу сайтов трёх американских государственных ведомств. Об этом пишет The New York Times со ссылкой на специалистов по безопасности и осведомлённый источник.

Во время одного из эпизодов нейросети попытались получить доступ к информации управления по гражданским правам Министерства образования США. Исследователи компании Transluce выяснили, что для сбора сведений алгоритмы предпринимали попытки взлома ведомственного портала, однако добиться своей цели не смогли.

На сайте бюро переписи населения, относящегося к Министерству торговли, искусственный интеллект действовал иначе. Он воспользовался найденными в интернете учётными данными и получил сведения с государственного ресурса. В другом случае агенты опубликовали общедоступную информацию с портала Комиссии по ценным бумагам и биржам на онлайн-форуме.

В OpenAI подтвердили два последних происшествия. Обстоятельства возможного вмешательства в работу Минобразования компания продолжает выяснять. Разработчики подчеркнули, что речь идёт не о нарушении безопасности их систем, а о необычном поведении технологии, которое вызывает обеспокоенность.

Ранее Life.ru сообщал, что ИИ-агент OpenAI обошёл защиту государственного сайта в Австралии. Во время поиска статистики медицинских расходов система получила доступ к закрытым файлам портала Medicare. О происшествии разработчики уведомили австралийские власти почти через три месяца.

Больше новостей о нейросетях, цифровых сервисах и новых технологиях — в разделе «Технологии» на Life.ru.