ИИ впервые сказал человеку «вы уволены»: Claude решила, что сотрудник больше не нужен

Нейросеть Claude впервые приняла решение об увольнении реального сотрудника в рамках эксперимента по управлению магазином в Сан-Франциско. Об этом пишет Time со ссылкой на исследовательскую компанию Andon Labs.

Эксперимент стартовал в марте. Разработчики поручили Claude руководить магазином Andon Market, в том числе взаимодействовать с настоящими сотрудниками, чтобы проверить, насколько ИИ способен самостоятельно принимать управленческие и коммерческие решения.

Сотрудник пропустил семнадцать смен из двадцати трёх — это и стало поводом для увольнения. Однако нейросеть обнаружила проблему не сразу: ранее созданная ею памятка для работников исчезла из ограниченного объёма рабочей памяти модели.

Окончательное решение также нельзя назвать полностью самостоятельным. Сотрудник Andon Labs сначала попросил Claude найти забытую инструкцию и оценить ситуацию. Нейросеть поначалу предложила ограничиться официальным предупреждением, а уволить человека решила только после дополнительного вопроса о том, подходит ли он для этой работы.

При этом до этого Claude проявляла себя как довольно мягкий руководитель. В частности, модель советовала сотрудникам не переживать из-за опозданий.

Пока эксперимент не показал, что ИИ способен управлять бизнесом эффективнее человека. За пять месяцев средства магазина сократились со стартовых $100 тысяч примерно до $61 тысячи. Исследователи связывают потери в том числе с чрезмерной мягкостью Claude и некоторыми неудачными коммерческими решениями.

Контент, созданный Claude, начнут снабжать скрытой маркировкой, позволяющей определить участие нейросети в создании материалов. Anthropic приступила к внедрению технологии 2 августа. В тексты встраивается невидимый водяной знак, который не меняет их содержание и может сохраняться после копирования и некоторых правок. Для изображений и других поддерживаемых файлов применяется иной подход — метаданные о происхождении по стандарту C2PA. Новшество затронет не только веб-версию Claude, но и поддерживаемые модели в API, Claude Code и других продуктах, а также ряд облачных платформ. Технология будет работать там, где это позволяют технические возможности сервиса.

Больше актуальных событий в режиме реального времени — читайте в разделе «Последние новости» на Life.ru.