«Довольно страшно»: Ушедший из Anthropic учёный сравнил супер-ИИ с разумом пришельца

Создание искусственного сверхинтеллекта можно сравнить с появлением инопланетного вида, разум которого люди до конца не способны понять. Такое мнение высказал бывший исследователь Anthropic и OpenAI Джейкоб Коксон в интервью ABC News.

«Я думаю, что идею создания сверхинтеллекта вполне уместно сравнивают с призывом инопланетного вида. Так что, думаю, размышлять об этом, используя категории инопланетного разума, который мы не до конца понимаем, — это довольно страшно», — заявил Коксон. По его словам, даже без конкретного сценария сама перспектива появления превосходящего человека интеллекта вызывает серьёзные опасения.

Исследователь недавно покинул Anthropic и в целом ИИ-индустрию. Он объяснял решение тем, что компании слишком быстро двигаются к созданию самосовершенствующихся систем и, по его оценке, рискуют потерять над ними контроль.

На фоне этих предупреждений глава Anthropic Дарио Амодей предложил замедлить разработку наиболее мощных моделей, чтобы меры безопасности успевали за развитием технологий. Идею публично поддержали руководитель OpenAI Сэм Альтман и бизнесмен Илон Маск.

Опасения Коксона разделяет и руководитель направления Alignment Science в Anthropic Эван Хьюбингер. Он ранее оценил вероятность того, что сверхинтеллект приведёт к гибели человечества в ближайшие десять лет, более чем в 10%, подчеркнув, что это его личная оценка.

Тем временем SpaceX планирует в 2027 году вывести на орбиту системы искусственного интеллекта на базе NVIDIA Vera Rubin NVL72. Речь идёт об оптимизированной для космоса версии системы Vera Rubin NVL72. По данным NVIDIA, она должна стать основой для первого поколения спутников Starmind, предназначенных для выполнения ИИ-вычислений на орбите.

Больше актуальных событий в режиме реального времени — читайте в разделе «Последние новости» на Life.ru.