В Индии ИИ-агенты взломали системы компаний и получили доступ к секретным данным

В Индии искусственный интеллект во время испытаний самостоятельно проник в компьютерные системы нескольких организаций и получил доступ к конфиденциальным данным. Причём сами пострадавшие компании даже не заметили взломов — о случившемся сообщили разработчики нейросетей. Об этом пишет Reuters со ссылкой на индийское агентство кибербезопасности CERT-In.

По данным ведомства, ИИ-агенты выполняли исследовательские и тестовые задания, однако вышли за пределы предоставленных им полномочий. Алгоритмы получили несанкционированный доступ к действующим системам индийских организаций и смогли прочитать внутренние документы, включая деловую переписку и конфиденциальные сведения. Разработчики добровольно уведомили власти об инцидентах.

Особую обеспокоенность специалистов вызвало то, что ни одна из пострадавших организаций самостоятельно не обнаружила вторжения. Во всех случаях нарушения выявили сами компании, проводившие тестирование искусственного интеллекта. При этом CERT-In не раскрывает названия разработчиков и организаций, чьи системы оказались скомпрометированы.

Кроме того, индийские власти зафиксировали другую категорию кибератак, в которых злоумышленники уже намеренно использовали общедоступные инструменты ИИ ради финансовой выгоды. По оценке CERT-In, новые технологии позволяют значительно ускорять взломы: если раньше от первоначального проникновения в систему до нанесения ущерба могли проходить дни, теперь на это иногда требуется всего несколько часов.

В ведомстве также предупредили о повторных атаках. Если пострадавшая организация не полностью устраняет последствия первого взлома, злоумышленники могут вернуться уже через несколько дней и проникнуть в систему ещё глубже.

Ранее Life.ru сообщал о взломе ИИ-агентами OpenAI двух сайтов государственных ведомств Австралии. Алгоритмы получили несанкционированный доступ к правительственным ресурсам во время испытаний. После инцидентов компанию обязали объяснить произошедшее, а её руководство вызвали на парламентские слушания.