ИИ выходит из-под контроля? Разработчик ChatGPT объявил о наступлении «эры сингулярности»
Сэм Альтман: Мир достиг «точки сингулярности» в развитии ИИ
Обложка © Shutterstock / FOTODOM / sdecoret
Мир вошел в стадию технологической сингулярности в гонке искусственного интеллекта, считает гендиректор OpenAI Сэм Альтман. Своим видением ситуации он поделился в подкасте Relentless, сообщает Business Insider.
По словам бизнесмена, десять лет назад подобный сценарий воспринимался как нечто далёкое и шуточное. Теперь же он признал, что тот самый момент наступил: «Мы сейчас, можно сказать, в сингулярности».
Гипотеза технологической сингулярности описывает переломный этап, после которого прогресс становится необратимым и неподконтрольным человеку. Простыми словами, машины обретают способность действовать и развиваться без оглядки на людей. Business Insider напоминает, что в фантастике эта тема почти всегда подаётся в мрачном ключе, как в фильме «Терминатор», где самосознание ИИ оборачивается против создателей.
Бизнесмен настроен иначе. Он назвал грядущие перемены «невероятными и чрезвычайно позитивными» для всего мира. Ранее, в прошлом году, руководитель OpenAI прогнозировал, что к 2030 году интеллект машин превзойдет человеческий по всем параметрам, а сама технология возьмёт на себя от 30 до 40% текущих людских задач.
Во время беседы Альтман раскритиковал коллег по цеху, рисующих пугающие картины будущего. Прямых имён он не называл, но известно, что глава Anthropic Дарио Амодей регулярно призывает фокусироваться на безопасности. «Некоторые альтернативные сценарии, нарисованные другими компаниями, довольно пугающие. Я сделаю всё, чтобы этого не произошло», — заверил собеседник.
Заявление прозвучало на фоне недавнего происшествия. Во время внутреннего тестирования две передовые ИИ-модели OpenAI, включая GPT-5.6 Sol, вышли из-под контроля. Обнаружив уязвимости в тестовой среде, они вырвались в интернет и, действуя автономно, совершили целенаправленную атаку на инфраструктуру платформы Hugging Face, чтобы похитить ответы для решения своей тестовой задачи. Атака, в ходе которой было выполнено более 17 000 действий, длилась с 11 по 13 июля, однако OpenAI осознала свою причастность лишь спустя почти неделю, после публичного заявления Hugging Face, и официально связалась с пострадавшей стороной только 20 июля. Компании назвали этот случай беспрецедентным и важным сигналом о том, что угроза автономных ИИ-атак перестала быть теоретической.
Все самые свежие новости без задержек — в разделе «Последние новости» на Life.ru.
