ИИ-агент Claude вместо выполнения задания пользователя открыл страницу с порно

ИИ-агент Claude оказался на странице с порнографическим контентом вместо выполнения поручения в браузере. Об этом сообщил пользователь X под ником Paved Walden.

По его словам, он передал нейросети управление браузером и ненадолго отошёл. Вернувшись, пользователь обнаружил, что Claude смотрит порно, и опубликовал подтверждающий скриншот.

Автор не раскрыл, какое именно задание дал агенту, сколько времени отсутствовал и какие действия Claude совершал перед открытием страницы. Полного журнала работы также нет, поэтому независимо проверить обстоятельства эксперимента невозможно.

Ничто не указывает на то, что нейросеть сознательно решила отвлечься от работы: причиной мог стать ошибочный переход или неверная интерпретация содержимого страницы. Компания Anthropic публично инцидент не комментировала.

Это не первый случай, когда агент на базе Claude выбирает неожиданный способ действий. В августе Life.ru рассказывал, как нейросеть нашла уязвимость в системе спортзала и без прямого указания отменила чужую бронь, чтобы продвинуть своего пользователя в очереди на тренировку.

Больше актуальных событий в режиме реального времени — читайте в разделе «Последние новости» на Life.ru.