«Может убить всех людей»: В Anthropic дали пугающий прогноз по ИИ на ближайшие 10 лет
Учёный Anthropic оценил риск уничтожения человечества ИИ более чем в 10%
ИИ-иллюстрация: создано редакцией Life.ru с использованием ChatGPT 5
Вероятность того, что искусственный интеллект приведёт к гибели человечества в ближайшие десять лет, превышает 10%. Такую личную оценку дал руководитель направления Alignment Science компании Anthropic Эван Хьюбингер.
Исследователь выступил после того, как его коллега Джейкоб Коксон объявил об уходе из Anthropic и ИИ-индустрии. Коксон заявил, что технологические компании слишком быстро движутся к созданию самосовершенствующегося суперинтеллекта.
«Мы действительно искренне считаем, что ИИ может убить всех людей! Лично я думаю, что вероятность этого — больше 10% в течение ближайших десяти лет», — написал Хьюбингер.
При этом нынешние ИИ-системы он не считает источником столь масштабной опасности. Основные опасения специалист связывает с будущими суперинтеллектами, способными многократно совершенствовать собственные возможности.
По словам Хьюбингера, Anthropic пытается решить проблему согласования целей таких систем с интересами человека, однако готового способа сделать это пока нет. Скорость развития технологий, отметил исследователь, также оказалась выше прежних ожиданий.
Ранее Life.ru писал о резком росте числа сообщений о случаях выхода ИИ из-под контроля. В июле наблюдатели зафиксировали более 300 подобных сообщений — почти вдвое больше, чем месяцем ранее, хотя эти данные основаны на публикациях пользователей и не означают независимого подтверждения каждого случая.
Больше новостей о нейросетях, разработках и цифровых технологиях — в разделе «Технологии» на Life.ru.
