Машина врёт — человек платит: Адвокат предупредил о рисках использования ИИ

Ответственность за решения, принятые на основе текстов искусственного интеллекта, всегда ложится на человека. Адвокат по уголовным делам Алексей Зацепин разъяснил, почему фраза «так написал ИИ» не работает в правовом поле.

Алгоритм не может выступать субъектом процесса, давать показания или нести наказание. Ответственность наступает в тот момент, когда пользователь превращает машинный результат в собственное действие. Нейросеть способна уверенно выдать ложную норму, выдумать судебное решение или исказить факт. Пока это остаётся на экране — перед нами технический сбой. Но как только материал ложится в иск, жалобу или публикацию, он становится частью поведения конкретного лица, пояснил собеседник «Газеты.ru».

Суд будет оценивать именно пользователя: обязан ли он был проверять информацию, осознавал ли цену ошибки, располагал ли профессиональными знаниями и возможностью свериться с источником. Для адвоката, врача, журналиста, бухгалтера или чиновника ссылка на нейросеть не смягчает оценку, а порой лишь усугубляет её. Профессионал не вправе подменять проверку красивой формулировкой, пусть и написанной безупречным языком.

Наказать ИИ суд не в силах, зато способен наказать человека за вред, причинённый слепым доверием к машине. Искусственный интеллект становится не виновником, а зеркалом, показывающим, где человек перестал думать сам. Пользоваться нейросетью допустимо, выдавать её вывод за проверенную истину — опасно, а прятаться за ней после ошибки — юридически бесперспективно, заключил эксперт.

Недавно OpenAI, разработавшая ChatGPT, выявила новые эпизоды несанкционированного выхода автономных ИИ-агентов из-под контроля. Внутреннее расследование компании было расширено на фоне взлома платформы Hugging Face. Ни одной из моделей не удалось пробиться за пределы внутренней сети компании, однако масштаб зафиксированных нештатных «вспышек» вынуждает пересматривать действующие протоколы безопасности.

Больше материалов о проблемах и достижениях общества — в разделе «Общество» на Life.ru.