Шансы пережить эпоху ИИ — меньше 50%? Глава института в США поделился пугающим прогнозом

Президент американского Института исследований машинного интеллекта (MIRI) Нейт Соарес перестал откладывать деньги на пенсию, поскольку опасается скорого уничтожения человечества искусственным интеллектом. По его личной оценке, вероятность такой катастрофы в ближайшие десять лет превышает 50%. Об этом сообщает Business Insider.

В интервью генеральному директору The Atlantic Николасу Томпсону исследователь признался, что уже десять лет не пополняет пенсионный счёт. При этом накопления, оставшиеся со времён работы в Google, он сохранил.

Главную угрозу Соарес видит в появлении искусственного сверхинтеллекта, который превзойдёт человека по интеллектуальным возможностям. По мнению эксперта, такая система может сформировать собственные цели, научиться обходить ограничения разработчиков и самостоятельно создавать более совершенные версии себя.

В худшем сценарии сверхразумный ИИ начнёт строить инфраструктуру, способную функционировать без участия людей. В результате он сможет изменять окружающий мир под собственные задачи, не учитывая интересы человечества. Соарес допускает, что подобное развитие событий сделает планету непригодной для жизни людей.

Прогноз исследователя значительно мрачнее оценок некоторых его коллег. Так, один из основоположников современных нейросетей Джеффри Хинтон говорил о 10-процентной вероятности вымирания человечества из-за ИИ в течение десятилетия. Сотрудник Anthropic Эван Хубингер оценивал этот риск более чем в 10%.

При этом сам Соарес не считает катастрофу неизбежной. Он призывает правительства остановить обучение наиболее мощных универсальных ИИ-систем и сосредоточиться на разработках для конкретных задач. В качестве примеров исследователь приводит поиск методов лечения рака и повышение безопасности беспилотных автомобилей.

Ранее Life.ru рассказывал о предупреждении Билла Гейтса. Основатель Microsoft считает, что в ближайший год искусственный интеллект принесёт сфере кибербезопасности множество новых угроз. При этом главную опасность предприниматель связывает с действиями злоумышленников, использующих нейросети для вымогательства и финансовых махинаций.

Больше актуальных событий в режиме реального времени — читайте в разделе «Последние новости» на Life.ru.