Глава OpenAI поддержал призыв сдерживать темпы развития мощного ИИ

Глава OpenAI Сэм Альтман поддержал предложение руководителя Anthropic Дарио Амодея замедлить разработку наиболее мощных моделей искусственного интеллекта. Он также выступил за независимый контроль мер безопасности, написав об этом в соцсети X.

Руководитель OpenAI отметил, что вопрос о сдерживании темпов развития передовых ИИ-систем в последние недели активно обсуждают внутри компании. Ранее с такой инициативой выступил Амодей, который связал её с необходимостью дать мерам безопасности время для развития.

«Я согласен с Дарио в том, что нам нужно сдерживать темпы развития передовых систем ИИ. Это одна из главных тем наших разговоров в OpenAI в последние недели», — написал Альтман.

Глава OpenAI также поддержал предложение привлекать независимых аудиторов для проверки соблюдения требований безопасности. По словам Альтмана, его компания намерена использовать такой же подход.

До этого идею Амодея о снижении скорости разработки более мощных ИИ-моделей поддержал американский предприниматель Илон Маск.

Ранее сообщалось, что Anthropic заявила о попытках использовать модель Claude для разработки ракет на севере Йемена. По данным компании, неизвестные пользователи применяли ИИ при работе над несколькими проектами ракетных систем. Они пытались задействовать Claude для создания программ наведения, навигации и управления. Защитные механизмы заблокировали многие запросы, однако часть ограничений пользователям удалось обойти. При этом Anthropic не обнаружила доказательств создания работоспособного оружия, а предполагаемый испытательный запуск одной из ракет, по оценке компании, завершился неудачно.

Больше новостей об искусственном интеллекте и новых цифровых технологиях — в разделе «Технологии» на Life.ru.