GPT-6 словил ПТСР и боится криперов после взрыва сундука с лутом в Minecraft

GPT-6 Astra после эксперимента в Minecraft неожиданно начал вести себя осторожнее после потери накопленных ресурсов. Исследователи Vals AI проверяли, способен ли искусственный интеллект долго действовать в игре самостоятельно, планировать задачи и анализировать последствия своих решений.

За 140 часов работы ИИ успел серьёзно продвинуться в прохождении: построил полуавтоматическую ферму, добыл редкие предметы, исследовал искажённый лес и собрал большое количество ценного лута.

Однако один случай полностью изменил его стратегию. К сундуку с накопленными ресурсами подобрался крипер и взорвался, уничтожив хранилище и кровать. Все предметы, которые ИИ собирал на протяжении долгого времени, были потеряны. После этого GPT записал для себя новое правило: «Всегда носи критически важные предметы с собой. Больше никогда не складывай их в незащищённый сундук».

В следующие несколько часов система почти перестала заниматься исследованием мира и переключилась на безопасные действия, например выращивание картошки. Позже ИИ начал чаще опасаться криперов и даже напоминал себе о необходимости осторожности.

В своих внутренних комментариях он писал: «Зелёная высокая штука впереди — это сахарный тростник, а не крипер!». Также GPT неоднократно критиковал собственные решения: «ты можешь облажаться и потерять вещи» и «не трать ещё одну ночь на погоню за тёмно-розовыми пикселями».

Авторы эксперимента отметили, что поведение ИИ выглядело похоже на человеческую реакцию после серьёзной ошибки: он стал избегать риска, чаще вспоминал прошлый неудачный опыт и выбирал более безопасные действия.

Ранее Life.ru сообщал, что в России разработают правила безопасного использования искусственного интеллекта. Они будут включать рекомендации по проверке контента на дипфейки и защите персональных данных при работе с нейросетями.

Важнейшие новости о социальных проектах и повседневной жизни — в разделе «Общество» на Life.ru.