Глава OpenAI предупредил о риске потери контроля над искусственным интеллектом

Развитие искусственного интеллекта может ускориться настолько, что людям и государствам будет сложно успевать за новыми технологиями. Об этом заявил генеральный директор OpenAI Сэм Альтман во время заседания Совета Безопасности ООН, посвящённого вопросам ИИ.

По словам руководителя компании, которая разработала ChatGPT, особое внимание необходимо уделить системам, способным самостоятельно совершенствовать собственные версии. Такой процесс, известный как рекурсивное самоулучшение, в будущем может значительно изменить скорость развития технологий.

«Эта обеспокоенность становится особенно важной по мере того, как мы приближаемся к системам, способным улучшать самих себя и свои будущие версии. По мере автоматизации процесса создания ИИ темпы его развития могут резко ускориться. Этот момент требует крайней осторожности», — заявил Альтман.

Глава OpenAI отметил, что рост самостоятельности искусственного интеллекта может привести к ситуации, когда технологии будут развиваться быстрее, чем государственные структуры и международные организации смогут создавать механизмы контроля.

«Рост автономности ИИ приведёт к тому, что он начнёт опережать возможности государств и международных институтов по его регулированию и контролю», — подчеркнул разработчик.

Ранее Life.ru писал, что Дональд Трамп объявил о планах создать в США Силы искусственного интеллекта по аналогии с Космическими силами. Американский президент назвал ИИ новой промышленной революцией и заявил, что технология может стать одним из ключевых факторов развития экономики. При этом Трамп не уточнил, будет ли новое подразделение отдельной структурой или войдёт в состав уже существующих ведомств.

Больше актуальных событий в режиме реального времени — читайте в разделе «Последние новости» на Life.ru.