В Британии заявили о риске гибели человечества из-за развития искусственного интеллекта

Катастрофа грозит человечеству из-за появления искусственного интеллекта. Как объяснил британский учёный Стюарт Рассел, люди не могут даже свою цивилизацию контролировать, но при этом учат ИИ подражать себе. Об этом эксперт заявил в беседе с The Times.

По словам учёного, человечество благодаря бесконтрольным разработкам в области ИИ добилось прогресса, которого и само не ожидало. Однако люди совершили ошибку, когда не думали о целях создания этого интеллекта. И не исключено, что в будущем сверхразумные машины будут сопротивляться попыткам управлять ими.

"Как сохранить власть над сущностями, которые сильнее вас? Если у вас нет ответа, прекратите исследования. Всё очень просто. Ставки уже не могут быть выше: если мы не контролируем нашу собственную цивилизацию, то лишаемся права голоса о нашем будущем существовании", — сказал Рассел.

Британец считает, что уже в течение десяти лет появится универсальный искусственный интеллект, способный выполнять любые задачи, которые под силу человеку. А решая проблемы, допустим, с климатом, эти сверхразумные машины придут к выводу, что единственный выход — избавление от людей.

"Если вы учите ИИ подражать человеческому поведению, то, по сути, вы учите его ставить человеческие цели и преследовать их. А человеческие цели включают в себя самые разные вещи… Можно только представить, какой катастрофой стало бы появление действительно эффективных систем, которые преследовали бы такие цели", — подчеркнул Рассел.

Ранее в РПЦ предложили запретить переносить человеческие образы в искусственный интеллект. По словам иерея Фёдора Лукьянова, также необходимо обязать добавлять в ИИ дисклеймер, предупреждающий о нереальности "цифрового собеседника".