Эксперт по безопасности ИИ ушёл из Google DeepMind из-за страха за человечество

Бывший специалист Google DeepMind по безопасности искусственного интеллекта Билал Чугтай предупредил, что дальнейшее бесконтрольное развитие технологии может представлять угрозу для всего человечества. Исследователь покинул компанию в июле, а теперь публично рассказал о своих опасениях.

Во время работы в DeepMind Чугтай занимался вопросами безопасности и согласования целей ИИ с интересами человека. По его оценке, уже в ближайшие годы могут появиться системы, интеллектуально превосходящие людей во многих областях.

«Я твёрдо убеждён, что ИИ способен погубить человечество и что у нас, возможно, кончается время, чтобы это предотвратить», — заявил исследователь.

При этом Чугтай считает, что избежать катастрофического сценария ещё возможно. Для этого разработчикам, по его мнению, необходимо замедлить гонку и дать обществу время реагировать на новые риски до того, как они станут неконтролируемыми.

Его заявление стало ещё одним тревожным сигналом изнутри крупнейших ИИ-компаний. Ранее Anthropic покинул Джейкоб Коксон, обвинив ведущие лаборатории в гонке к самосовершенствующемуся сверхинтеллекту, а специалист по безопасности Джо Бентон ушёл из компании в независимую организацию METR, занимающуюся оценкой рисков ИИ.

Ранее Life.ru рассказывал об увольнении исследователя Anthropic Джейкоба Коксона из-за опасений вокруг развития ИИ. Учёный предупреждал, что технологические компании слишком быстро приближаются к созданию систем, над которыми человечество может потерять контроль.

Больше актуальных событий в режиме реального времени — читайте в разделе «Последние новости» на Life.ru.