В США создают системы защиты на случай восстания искусственного интеллекта
В США создают многоуровневую систему отключения вышедших из-под контроля ИИ
ИИ-иллюстрация: создано редакцией Life.ru с использованием Reve
Американские технологические компании разрабатывают системы защиты на случай, если алгоритмы искусственного интеллекта начнут вести себя опасно. Об этом сообщает портал Axios.
Как отмечает издание, отдельные серверы при необходимости можно отключить, однако современные ИИ-системы используют сразу множество компьютеров и разных платформ. Поэтому одного способа для их остановки недостаточно.
«Единого универсального решения нет», — говорится в публикации.
Компании поэтому создают многоуровневую защиту. Такие системы должны распознавать подозрительное поведение ИИ-агентов, при необходимости останавливать их и ограничивать доступ к ресурсам.
В OpenAI сообщили, что компания стремится разработать полностью автономный механизм отключения на случай серьёзных сбоев. Специальный ИИ-наблюдатель будет отслеживать действия агентов и предупреждать сотрудников, если их поведение покажется опасным. При подтверждении угрозы система отключит агента в течение 30 минут.
Ранее руководитель направления Alignment Science в Anthropic Эван Хьюбингер оценил вероятность гибели человечества из-за искусственного интеллекта в ближайшие десять лет более чем в 10%. По его словам, основные опасения связаны не с современными ИИ-системами, а с возможным появлением самосовершенствующегося суперинтеллекта.
Больше новостей о нейросетях, разработках и цифровых технологиях — в разделе «Технологии» на Life.ru.
