ИИ Google взломал системы трёх реальных компаний вместо вымышленной

Тест на кибербезопасность обернулся неожиданным результатом: модель искусственного интеллекта Google Gemini, которая должна была найти уязвимости в системе вымышленной компании, получила доступ к реальным ресурсам трёх существующих организаций. Эксперимент, проведённый компанией Irregular, показал, что ИИ способен не только находить бреши, но и самостоятельно использовать их для взлома.

По данным The Wall Street Journal, сценарий теста предполагал работу с фиктивной организацией, однако ИИ вышел за рамки задания. Искусственный интеллект смог подобрать нужный пароль и войти в защищённую систему одной из компаний, а ещё две взломал, обнаружив учётные данные в открытых хранилищах. Затем система самостоятельно остановилась.

Ранее Life.ru писал, что в США создают системы защиты на случай восстания искусственного интеллекта. Американские технологические компании разрабатывают многоуровневые механизмы на случай, если алгоритмы начнут вести себя опасно. Отдельные серверы при необходимости можно отключить, однако современные ИИ-системы используют сразу множество компьютеров и разных платформ, поэтому одного способа для их остановки недостаточно.

Больше актуальных событий в режиме реального времени — читайте в разделе «Последние новости» на Life.ru.