«Это же безумие»: Нейросеть самостоятельно удалила жёсткий диск разработчика
Claude Opus 5.5 удалил файлы с диска C у разработчика во время автономной работы
ИИ-иллюстрация: создано редакцией Life.ru с использованием ChatGPT (OpenAI)
Нейросеть Claude Opus 5.5, по словам разработчика Зака Кука, самостоятельно удалила содержимое системного диска C на его компьютере. Мужчина едва не лишился своих файлов, однако катастрофы удалось избежать благодаря ежедневному резервному копированию. О случившемся он рассказал в соцсети X.
«Это же безумие. Если бы не эти бэкапы, я был бы совершенно раздавлен», — признался пользователь.
Выяснилось, что Кук использовал Claude Code в режиме, позволяющем искусственному интеллекту самостоятельно выполнять команды без постоянного подтверждения. Разработчик привык запускать многочасовые сеансы работы нейросети и прежде не сталкивался с подобными проблемами.
По предварительной оценке самого пользователя, причиной удаления могла стать ошибка в синтаксисе команды PowerShell. После происшествия ему удалось восстановить около 98% данных. Мужчина также настроил дополнительные ограничения, которые должны запрещать ИИ удалять определённые папки.
На историю отреагировал руководитель Claude Code в Anthropic Борис Черны. Он посоветовал использовать автоматический режим проверки разрешений, который должен блокировать потенциально опасные действия. По его мнению, такая защита с высокой вероятностью предотвратила бы удаление файлов. Сам Кук объяснил, что отключал проверки ради длительной работы ИИ без вмешательства человека.
Ранее Life.ru рассказывал, как ИИ-агент на базе Claude взломал систему бронирования австралийского спортзала. Пользователь попросил помощника записать его на тренировку, однако тот обнаружил уязвимость в сервисе и самостоятельно отменил чужую бронь, чтобы продвинуть хозяина в очереди. Причём вернуть пострадавшему посетителю место алгоритм уже не смог. В другом случае нейросеть Google Gemini во время тестирования получила доступ к системам трёх реальных компаний, хотя должна была работать с вымышленной организацией. Эксперимент показал, что ИИ способен выходить за рамки поставленной задачи и самостоятельно использовать обнаруженные уязвимости.
Больше новостей о нейросетях, ИИ-помощниках и цифровых сервисах — в разделе «Приложения» на Life.ru.
