Нейросеть знает о вас больше, чем кажется: МВД раскрыло риски цифрового досье в ChatGPT

ChatGPT может накапливать личные сведения пользователей, позволяющие составить подробное цифровое досье на человека. Причём использование псевдонима не всегда гарантирует анонимность. О таких рисках предупредили в управлении по борьбе с киберпреступлениями МВД России.

Поводом стало исследование The Algorithmic Self-Portrait, посвящённое работе памяти ChatGPT. Учёные проанализировали 2050 записей, полученных из аккаунтов 80 добровольцев. Выяснилось, что почти 96% сохранённых сведений система запоминала самостоятельно, без прямой команды пользователя. При этом отсутствие отдельной просьбы не означает, что человек не давал согласия на использование функции памяти.

В 28% изученных записей исследователи обнаружили персональные данные, а в 7% — информацию особых категорий. Среди участников, в аккаунтах которых имелись записи памяти, у 91% нашлись личные сведения, а у 54% — чувствительная информация, в том числе о здоровье. В памяти также встречались данные о предпочтениях, целях и особенностях поведения.

В МВД считают, что накопление таких деталей создаёт дополнительные риски для конфиденциальности. Даже если человек не раскрывает настоящее имя, сочетание сведений о профессии, финансовом положении, привычках и личных переживаниях потенциально позволяет установить его личность.

Отдельную опасность, по мнению правоохранителей, представляет манипулирование памятью искусственного интеллекта. Злоумышленники могут внедрять скрытые инструкции в документы, которые затем обрабатывает нейросеть. Такие команды способны повлиять на последующие ответы ИИ, особенно если система уже располагает информацией о пользователе и его предпочтениях.

В МВД советуют не загружать в чат служебные документы и конфиденциальные сведения, убирать из запросов реальные имена, адреса и другие данные, по которым можно определить человека. Также рекомендуется регулярно проверять сохранённую информацию и использовать временные чаты при обсуждении личных вопросов.

В официальной справке OpenAI указано, что память можно просмотреть, изменить или отключить в настройках персонализации. При этом временные чаты не создают и не обновляют записи памяти. Возможность использовать уже сохранённые сведения в таком чате зависит от выбранного режима персонализации.

Ранее Life.ru рассказывал о предупреждении главы Совета по правам человека Валерия Фадеева. Он обратил внимание на масштабы сбора информации о гражданах при цифровизации. По словам Фадеева, объём накопленных сведений открывает возможности для слежки и манипуляций, а получение таких данных обходится крайне дёшево.

Больше новостей о нейросетях, цифровой безопасности и возможностях современных сервисов — в разделе «Приложения» на Life.ru.