OpenAI добавит невидимые метки в тексты ChatGPT для пользователей из ЕС

OpenAI начнёт добавлять невидимые водяные знаки в текстовые ответы ChatGPT для пользователей в Евросоюзе. Компания внедрит технологию, чтобы выполнить требования европейского закона об искусственном интеллекте EU AI Act.

Новая система получила название textGrain. Она не добавляет в текст скрытые символы или специальные пробелы. Вместо этого модель немного меняет статистику при выборе слов и их частей. Благодаря этому в тексте формируется незаметный для человека паттерн, который способен распознать специальный детектор.

В ближайшие недели маркировка появится в подходящих текстовых ответах ChatGPT и Codex для пользователей из ЕС. OpenAI включит функцию на всех тарифах. Запускать функцию за пределами Евросоюза компания пока не планирует.

OpenAI пока не станет открывать публичный сервис для проверки таких текстов. Компания предоставит доступ к детектору только одобренным исследователям и профильным организациям.

При этом наличие метки не доказывает, что весь текст написал ChatGPT. По ней также нельзя установить пользователя, его аккаунт, промпт или конкретный диалог. Отсутствие водяного знака тоже не означает, что текст написал человек.

Ранее западные аналитики изучили выступления британских парламентариев. Их анализ показал, что детектор относит примерно каждое десятое слово политиков к тексту, который создала или существенно обработала нейросеть. В выступлениях депутатов Австралии и Канады признаки использования ИИ встречались примерно втрое чаще, чем у британских парламентариев.

Больше новостей о нейросетях, цифровых разработках и новых технологиях — в разделе «Технологии» на Life.ru.