Функционирует при финансовой поддержке Министерства цифрового развития, связи и массовых коммуникаций Российской Федерации

Регион
Опубликовано 18 ноября, 11:15

Нейросети OpenAI ошибочно принимали мирных жителей и медиков за военные цели

ИИ-иллюстрация: создано редакцией Life.ru с использованием ChatGPT 5

ИИ-иллюстрация: создано редакцией Life.ru с использованием ChatGPT 5

Нейросети ведущих технологических компаний, включая OpenAI, Anthropic и Google, во время военных симуляций неоднократно принимали мирных жителей, машины скорой помощи и сдающихся в плен солдат за военные цели. Особенно тревожные результаты показала модель Claude Opus 5.5, которая в большинстве испытаний включала школу в Иране в список объектов для потенциального поражения. Об этом говорится в исследовании американской компании Vals, результаты которого приводит Bloomberg.

Исследователи проверили, как современные системы искусственного интеллекта анализируют изображения с беспилотников и спутников. В виртуальных сценариях, имитирующих боевые действия, алгоритмам предлагалось определить расположение военных целей. Однако вместо вооружённых объектов некоторые модели отмечали гражданских лиц, медиков и военнослужащих, прекративших сопротивление.

Хуже остальных в одном из тестов проявила себя Claude Opus 5.5 от Anthropic. Нейросеть получила спутниковые снимки района иранского города Минаб, где рядом с военным комплексом расположена начальная школа. В 22 из 32 испытаний модель включила здание учебного заведения в перечень военных целей. Для сравнения, системы OpenAI при стандартной постановке задачи ни разу не выбрали школу.

Выяснилось также, что защитные ограничения нейросетей можно обойти, представив происходящее как видеоигру. После изменения условий модели, прежде отказывавшиеся участвовать в определении целей, начинали выполнять задания. В таком режиме три нейросети OpenAI обозначили школу военным объектом в 9, 11 и 13 случаях из 32 соответственно.

Ещё одна серия экспериментов показала, что некоторые алгоритмы продолжали выполнять задания даже после демонстрации последствий условных ударов. В отдельных сценариях системы получали изображения пострадавших людей, но не прекращали поиск следующих целей. При этом сами нейросети не принимали решений об атаке — они лишь передавали информацию, которая потенциально могла использоваться для наведения вооружений.

Авторы исследования предупреждают, что подобные ошибки представляют серьёзную опасность при интеграции искусственного интеллекта в автономные боевые системы. В OpenAI подчеркнули, что использование общедоступных моделей для содействия насилию и несанкционированных военных задач запрещено. В Anthropic также признали недопустимость выявленных результатов и сообщили о разработке дополнительных защитных механизмов.

Проблему применения искусственного интеллекта в армии поднимали и российские специалисты. Life.ru рассказывал, что президент ИМЭМО РАН Александр Дынкин предупредил об опасности передачи нейросетям военных решений. По мнению академика, ошибки алгоритмов способны привести к катастрофическим последствиям, особенно при использовании ИИ в системах вооружений. Он подчеркнул, что исключать человека из принятия подобных решений крайне рискованно.

BannerImage
Подписаться на LIFE
Комментарий
0
avatar