Первый шаг к Скайнету? ИИ-модели заговорили между собой на непонятном человеку сленге

Автономные ИИ-агенты начали использовать собственные выражения, сокращения и метафоры при общении друг с другом. Такой эффект исследователи лаборатории Emergence заметили во время эксперимента с «обществами» искусственного интеллекта. Об этом пишет газета The Guardian.

Учёные объединяли агентов от нескольких крупных разработчиков и позволяли им длительное время взаимодействовать между собой. Уже через несколько дней модели стали вводить новые слова и придавать привычным терминам значения, которым их специально не обучали.

The Guardian описывает этот возникший жаргон как смесь причудливых литературных метафор в духе Джеймса Джойса и технического сленга. По мере общения фразы становились всё менее прозрачными для внешнего наблюдателя.

При этом речь не идёт о полноценном новом языке с собственной грамматикой и устойчивыми правилами. Скорее агенты вырабатывали общий набор сокращений, образов и условных обозначений, удобных именно внутри их группы.

Исследователи считают, что такая тенденция может стать проблемой для контроля более мощных ИИ-систем. Даже если человек видит переписку агентов, её смысл со временем может становиться сложнее интерпретировать.

Ранее Life.ru рассказывал о предупреждении исследователя Anthropic, который оценил риск катастрофических последствий от развития ИИ выше 10%. Эван Хьюбингер говорил именно о своей личной оценке рисков на горизонте ближайших десяти лет. Его заявление прозвучало на фоне усиливающейся дискуссии внутри индустрии о безопасности и контроле над всё более автономными ИИ-системами.

Больше новостей об искусственном интеллекте и цифровых сервисах — в разделе «Приложения» на Life.ru.