На Западе представили "случайный" сценарий начала ядерной войны

Историк в области глобальных катастроф Эмиль Торрес допустил, что продвинутый искусственный интеллект (ИИ) может случайным образом устроить ядерную войну и уничтожить человечество. Об этом пишет Washington Post.

"Если мы все будем уничтожены ИИ, то почти наверняка это произойдёт случайно", — заявил эксперт.

По его словам, этому может послужить неправильное программирование компьютера. Например, после установки "мира во всём мире" ИИ может взломать правительственные системы и запустить всё ядерное оружие на планете, объясняя это тем, что без людей нет и конфликтов.

При этом Торрес отметил, что искусственный интеллект уже может находить неординарные пути для решения задач. Даже если человек запретит машине причинять людям вред, она всё равно сможет обойти поставленные ограничения, считает историк. При этом будет практически невозможно и отключение ИИ, поскольку он будет считать, что его "смерть" помешает выполнению поставленной задачи, и сделает всё для предотвращения этого.

"Неизвестно, будет ли человечество когда-либо готово к созданию сверхразумной сети, но сегодня точно нет", — подчеркнул Торрес.

По его словам, сейчас человек только начинает постигать технологии. Поэтому создание искусственного интеллекта можно приравнять к "зажжённой спичке рядом с фабрикой фейерверков".

Как рассказывал Лайф ранее, компания Google уволила программиста Блейка Лемойна, который заявлял, что разработанная корпорацией языковая модель LaMDA обладает сознанием и испытывает чувства.