Контроль за уровнем межнациональной опасности доверят нейросетям

Проект Положения о государственной системе мониторинга состояния межнациональных и межконфессиональных отношений подготовлен Агентством по делам национальностей и уже передан на согласование в профильные ведомства (есть в распоряжении Лайфа). В нём предполагается создание системы индикаторов состояния межнациональных отношений, которые будут оцениваться по трём уровням опасности. Отслеживать все конфликты на межнациональной почве будет система искусственного интеллекта, построенная на принципах нейросети. Также в рамках работы новой системы предполагается, что оценки, выдаваемые ею, будут прямо влиять и на оценку эффективности деятельности конкретных губернаторов.

Автоматизированный мониторинг будет, по сути, базироваться на самообучающейся поисковой системе-"роботе", собирающей информацию в сети Интернет, на основе чего потом выносится решение относительно интенсивности межэтнических и межрелигиозных противоречий в том или ином регионе. Распределение потенциальной угрозы на три уровня определяет отдельный регламент на каждом из них. В соответствии с оценкой машины текущей ситуации в регионе будет определяться работа каждого отдельного губернатора России без исключения — почти во всех регионах РФ такая система уже запущена либо тестируется.

Владимир Зорин, замдиректора Института этнологии и антропологии РАН и бывший министр, заявил, что система мониторинга предполагает около 30 индикаторов: 

— Отслеживаются миграционные потоки, социально-экономическое состояние регионов, результаты соцопросов по межнациональным отношениям, например сколько процентов населения оценивают межнациональные отношения как спокойные. Система также в автоматическом режиме отслеживает публикации в СМИ, их направленность и реакцию соцсетей на важнейшие события — это позволяет составить полную картину в 3D, которая вовремя заметит трудности. Будут выявляться открытые призывы к беспорядкам, "язык вражды", есть индикаторы, которые позволяют выявить экстремистские публикации.

Отслеживание напряжённости будет обеспечиваться в трёх сегментах — на федеральном уровне будет аккумулироваться информация обо всей ситуации в России, на региональном уровне будет формироваться отдельный кластер информации, характеризующий местные межэтнические и межрелигиозные проблемы и настроения, причём каждый регион будет настраивать систему мониторинга "под себя". Отдельным направлением мониторинга будет поиск террористических и экстремистских угроз — в Сети будет собираться вся информация, так или иначе связанная с пропагандой запрещённых символов и лозунгов.

Цель мониторинга заключается в выявлении информационных угроз в Интернете и ключевых проблем в реальном времени. Известный специалист в области искусственного интеллекта — Игорь Ашманов — прояснил механизм действия подобных систем мониторинга:

— Такая система имеет несколько основных точек, которые стоит обсудить. Первое — это охват: Facebook, Twitter, YouTube, Instagram, "Одноклассники", "Живой журнал" и несколько сотен тысяч блогов и форумов. Это пространство не полностью доступно из открытой сети. "Фейсбук", например, никому никаких данных не отдаёт. "Твиттер" отдаёт "со скрипом". Второе — это скорость. Выкачивать нужно быстро. Третье — уровень анализа информации о пользователях. Должна быть возможность анализа того, что пользователь пишет, его "социальной графы" — окружения человека, необходимо отслеживать его популярность, так называемую "медийную силу", — предсказание того, сколько человек увидят его пост. Нужно распознавать тематику, по которой человек пишет, для чего необходим автоматический классификатор постов по тематикам. Подобные системы могут вычислять группы, банды — людей, которые держатся вместе, определять, что обсуждают и кто среди них есть лидер мнений. Далее надо вычислять СМИ, которые для них авторитетны, — то, чем они обмениваются. 

Помимо технических "вызовов" вызывает вопрос объективность робота, ведь на основе действий пользователей Сети и их активности будет выноситься решение об уровне интенсивности угрозы межнационального конфликта в регионе. Оценка активности пользователей будет различной — например, в Москве, где практически каждый ходит с гаджетом, и региона Сибири, численность которого будет в разы превышать количество пользователей Всемирной сети. 

Специалисты, знакомые с ходом разработки автоматизированного "межнационального" поискового робота, отметили, что выгодность такой системы мониторинга в том, что она, по сравнению с коммерческими системами, будет опираться на мощь госаппарата иметь доступ к закрытым данным. Пять министерств (ФСО, Минюст, Росфинмониторинг, Минкульт и Минобрнауки) будут отправлять информацию в общую систему мониторинга, и каждый будет работать по своему направлению, что определит общий цикл сбора информации и низведёт к минимуму вероятность разрастания угрозы. 

Советник президента по вопросам развития Интернета Герман Клименко, обсуждавший с руководителем ФАДН Игорем Бариновым систему мониторинга, внёс ясность в некоторые аспекты её функционирования: 

— Дело в том, что распознавание смыслов в Интернете — задача сложная, и мы об этом говорили полгода назад, когда обсуждали искусственный интеллект. Систему мониторинга обучают эксперты, высказывающие своё мнение о контенте, которое и воспринимает система. Когда эксперт говорит, что это оскорбление чувств верующих или провокация в межнациональных отношениях, система это учитывает. Любые системы распознавания смыслов должны быть построены на нейросетях. В межнациональных отношениях к этой системе "прикручиваются" знания национальных особенностей, терминов. Безусловно, нужна "заточка" под каждый отдельный регион. В процессе необходимо учитывать ключевые слова и динамику распространения информации. Само по себе знание, что в данном регионе сложная обстановка, не так ценно, как сравнение с соседним регионом, тем более на протяжении какого-то времени — в динамике.

Отдельным вопросом для системы мониторинга является вычисление ботов в соцсетях. По оценкам экспертов, в российских соцсетях примерно 15–20% ботов, а в "Твиттере" — около 80%.  Злоумышленники и недоброжелатели могут потенциально провоцировать "искусственную напряжённость" в регионе, используя ботов, для того чтобы "насолить" губернатору, пребывание на посту которого напрямую зависит от показателей уровня межнациональной напряжённости.

Владимир Зорин подтвердил, что состояние межнациональных отношений в регионе является одним из критериев эффективности губернаторов, поэтому "в какой-то степени это будет сказываться на нём, но он же и будет первым потребителем этой информации".

По мнению Игоря Ашманова, манипуляция общественным мнением возможна:

— И в СМИ, и в соцсетях господствует ложная повестка. Можно цепляться за незначимое событие, но хорошее для раскрутки, а можно события и с нуля создавать, существуют вбросы, которые бурно раскручиваются. Система мониторинга может воспринимать ложную напряжённость. Поэтому аналитики будут это отсеивать. Попыток манипуляции общественным мнением будет много. 

Ставку на аналитиков делает и Герман Клименко: 

— Касаемо возможных манипуляций могу сказать, что эта аналитическая система проходит контроль и проверки. Никто же не будет по "красному цвету" сразу высылать десант. 

Но есть оценка ряда IT-специалистов, близких к процессу разработки системы мониторинга ФАДН, которые отметили, что пока в нейросеть не обеспечивается поступление необходимого для полного анализа потока данных, что не позволит выявить все существующие угрозы. Ещё одной причиной недостаточной эффективности системы мониторинга называется "недостаток ресурсов и бюджета". На вопрос Лайфа относительно эффективности мониторинговых механизмов внедряемой системы Федеральное агентство по делам национальностей оказалось не готово предоставить оперативный комментарий.