Искусственный интеллект и человечество: на пороге революции

Словосочетание "искусственный интеллект" в 2016 году неожиданно перекочевало из научно-фантастической литературы в заголовки новостных изданий. Что же произошло и насколько человечество приблизилось к созданию по-настоящему умных машин?

Самой яркой демонстрацией возможностей искусственного интеллекта стал недавний выигрыш компьютерной программы AlphaGo, разработанной Google, у сильнейшего профессионального игрока в го Ли Седоля. 15 марта матч закончился со счетом 4:1 в пользу компьютера. Точнее, не просто компьютера, а кластера из 1200 процессоров и 176 специальных серверных видеокарт для обработки параллельных вычислений.

Почему это важно

Во-первых, AlphaGo — это пример программной реализации самой быстропрогрессирующей области создания искусственного интеллекта — искусственных нейронных сетей и глубинного машинного обучения (deep learning). В AlphaGo использовали этот подход для оценки позиций и выбора наиболее сильных ходов.

Во-вторых, го — игра с глубоким стратегическим содержанием. По количеству вариантов позиций она значительно превосходит шахматы. Во время каждого хода у игрока есть 200 различных вариантов. Сейчас даже самый мощный суперкомпьютер в мире не в состоянии просчитать все варианты развития партии. Более того, в силу невозможности просчитать партию на много ходов вперед, в оценке позиции и выборе хода в го огромное значение имеет интуиция игрока.

До настоящего времени го являлась одной из немногих игр, в которые человек играл лучше компьютера именно благодаря такой человеческой черте, как интуиция. Поэтому победа AlphaGo над одним из сильнейших игроков мира стала очень важной вехой в развитии искусственного интеллекта. Машина не просто просчитывала ходы, она училась играть. Не так, как учится человек, но именно училась, причём сама.

Другим ярким примером, только уже со знаком минус, стал скандал с чатботом Тэй.

Тэй — англоязычный чатбот компании Microsoft, который компания запустила в социальной сети Twitter. Всего за сутки Тэй из дружелюбной "девушки-тинейджера" превратилась в мизантропа и стала публиковать неадекватные, антисемитские, расистские и сексистские посты. В итоге твиты Тэй удалили из Twitter, а Microsoft принесла извинения пользователям. Интересно здесь то, что ранее чатбот Сяоайс на базе того же самого искусственного интеллекта работал в китайском сегменте Интернета и пользовался безумной популярностью у китайских пользователей именно из-за своей реалистичности и доброжелательности. Сяоайс появилась в мае 2015 года в китайских социальных сетях WeChat и Weibo, а потом даже стала ведущей выпуска прогноза погоды на китайском канале Dragon TV. За несколько месяцев Сяоайс вошла в десятку самых знаменитых персон в соцсети Weibo и смогла провести более 10 млрд диалогов.

В причинах эпического провала Тэй специалисты разобрались довольно быстро. К такому результату привела недоброжелательность собеседников и троллинг чатбота. То есть люди в буквальном смысле научили Тэй плохому.

Объединяет же эти истории то, что за обеими программами стоял самообучающийся искусственный интеллект. Так, AlphaGo обучалась около двух лет, за это время она проанализировала более 150 тыс. партий, сыгранных в го людьми и сыграла бесчисленное количество партий сама с собой. Тэй также обучалась общению с людьми в процессе общения с ними.

Что же такое искусственный интеллект

Несмотря на популярность этого термина, единого значения у него до сих пор нет. Более того, в разных языках и культурах он имеет различные смысловые оттенки. 

Есть два наиболее популярных общих определения.

1. Искусственный интеллект — это технология создания машин, способных к интеллектуальным функциям.

2. Свойство интеллектуальных систем выполнять творческие функции.

Дальше же начинается терминологический хаос, в том числе и потому что у исследователей нет чёткого и однозначного понимания, какую деятельность можно считать интеллектуальной или творческой.

Однако, несмотря на несформировавшийся понятийный аппарат у разработчиков и исследователей искусственного интеллекта, всё же выделяют несколько базовых направлений его развития.

Первое направление — создание экспертных систем, имитирующих результаты высшей нервной деятельности человека: мышление, рассуждение, эмоции и пр.

Второе — имитация не самого человека, а поведения биологических нейронных сетей и природных эволюционных алгоритмов.

Самое интересное, что в последние годы наиболее впечатляющий прогресс в области разработки искусственного интеллекта был достигнут именно во втором — "нечеловеческом" — направлении.

Настоящий прорыв произошёл именно в области глубинного машинного обучения с использованием искусственных нейронных сетей. Огромные компьютерные мощности и большое количество размеченных данных, накопленных за время существования Интернета, — этого уже вполне достаточно для самообучения искусственного интеллекта такого типа.

Тут важно то, что сам процесс обучения машины происходит как бы без участия человека. Разумеется, люди создают алгоритмы машинного обучения, строят математические модели нейронных сетей, но сам процесс обучения может происходить и без человеческого вмешательства.

Стоит ли бояться искусственного интеллекта

Понимание и осознание того, что компьютер учится сам, с одной стороны, завораживает и вызывает восхищение, с другой — вызывает страх. Страх перед искусственным разумом вероятно затрагивает какие-то архетипические формы человеческого сознания. По-другому объяснить такую популярность "Терминатора", "Матрицы" и множества других научно-фантастических произведений, где разумные машины выходят из-под контроля человека, наверное, нельзя.

Разумеется, всех пугает перспектива применения ИИ в области легализованного насилия. То есть в армии, полиции, судебной системе. Хотя в теории высокоточное оружие может снизить количество потерь среди гражданского населения во время военных действий, а компьютерная экспертная система, применяемая в судопроизводстве, наверно, была бы меньше подвержена эмоциям или коррупции, чем человек. Тем не менее сейчас принять такие формы использования ИИ люди не готовы.

Вообще боязнь новых и непонятно как работающих технологий явление не новое. В XIX веке люди боялись паровых машин, в начале XX века — электричества, во второй половине XX века — атомной энергии. Да и сейчас понять, как работает современный искусственный интеллект, сможет едва ли более одного процента населения Земли. При этом современные технологии оказывают такое сильное влияние на социум и так быстро меняют нашу жизнь, что невольно возникает страх перед чем-то новым, неизведанным и непостижимым. 

Все, кто профессионально занимается искусственным интеллектом, отмечают, что настоящие опасности, связанные с ИИ, имеют мало общего с научно-фантастическими сюжетами. Самая большая опасность для людей исходит от … самих людей. Искусственный интеллект в этом смысле ничем не отличается от обычного топора. Он может быть как чрезвычайно полезным помощником в одних руках, так и очень опасным оружием в других. Единственное, чего никто не оспаривает, это то, что через какое-то время умные машины начнут менять нашу жизнь, как уже изменили её другие продукты высоких технологий: персональные компьютеры, Интернет, мобильная связь.

Александр Крайнов, руководитель службы компьютерного зрения и технологий искусственного интеллекта "Яндекса", считает, что решения на базе ИИ пока не могут выходить за рамки довольно узких задач и представлять опасность для людей, но очеловечивание систем, с которыми мы имеем дело, может, например, исказить понимание окружающего мира.

"Пока телевизор управляется пультом — это просто телевизор. А вот когда можно будет с ним говорить, когда он будет убедительно имитировать "живого человека" — как знать, не создаст ли это проблем в восприятии мира у ребенка", — считает Крайнов.

Настоящее и будущее искусственного интеллекта: мнение экспертов

Владимир Гусаков, технический директор ABBYY LS и SmartCAT считает, что если в XX веке разработчики в области ИИ стремились создать "умную машину", которая на 100% самостоятельно решает какую-то  задачу (например, переводит с одного языка на другой огромные массивы текста), то сейчас ожидания и задачи, которые ставятся перед искусственным интеллектом, сместились в сторону помощи человеку, оснащения его "рычагами", недоступными ранее. На основе экспертных систем нового поколения, таких как IBM Watson, разработчики создают юридического консультанта и врача-терапевта, который осуществляет первичную диагностику на основе данных химических анализов и живого диалога между пациентом и роботом.

Ещё один передовой край применения искусственного интеллекта — предсказание и до некоторой степени манипулирование поведением человека в различных рекламных системах, на площадках онлайн-коммерции.

"Такое влияние на поведение строится на обработке больших объёмов данных и на исследованиях когнитивного процесса людей. Но видеть только эту негативную сторону технологий — не разглядеть за деревьями леса. Даже подобные площадки приносят большую пользу обществу, поскольку повышают эффективность, прозрачность и конкуренцию на рынке, вытесняют неэффективных игроков. Уверен, манипулирование поведением пользователя наверняка со временем будет законодательно ограничено — подобно действующему закону о рекламе и регулированию сферы СМИ", — считает Гусаков.

Очень быстро развивается и анализ медиаданных и систем распознавания речи. И очевидно, что здесь машина скоро догонит человека. ИИ обучается определять меру близости между различными фразами, предложения, текстами. Можно ожидать рост качества работы поисковых систем, заметный скачок в качестве машинного перевода. Всё это произойдёт за счет того, что компьютер начнет понимать и анализировать смысл текста. Кроме этого, уже идут активные разработки применения ИИ в области мониторинга и безопасности. Так, например, видео с камер наблюдений записывается гораздо больше, чем можно отсмотреть людьми. Отслеживать события в реальном времени для незамедлительной реакции в случае, например, опасности, можно только с использованием специальных программ.

По мнению Александра Крайнова, искусственный интеллект можно применять не только для анализа контента, но и для его генерации: "ИИ научится не только понимать сказанное, но и приводить ответ системы во вполне понятный человеку вид, полностью синтезировать речь.  Думаю, нас ждет бурный рост слабо отличимых от человека персональных помощников". 

То, что искусственный интеллект может применяться для биржевых торгов, банковского скоринга, финансового анализа, управления транспортными средствами, кажется вполне очевидным, логичным и вполне укладывается в уже существующую парадигму — компьютер как персональный помощник человека. Если в этой парадигме заменить термин ПК на ИИ, ничего особо не меняется.

Добро пожаловать в дивный, новый мир

Самым трудно воспринимаемым и даже болезненным аспектом использования ИИ могут стать те области человеческой деятельности, которые ранее никогда не ассоциировались с машинами. Там, где используется опыт, интуиция, творчество. Написание осмысленных текстов, голосовое и текстовое общение, создание аудио-визуальных продуктов. При этом уже сейчас понятно, что многие явления современной поп-культуры к творчеству в общепринятом смысле имеют небольшое отношение. Это скорее высокопрофессиональная работа с уже готовыми шаблонами и приёмами. Теоретически никаких препятствий для того, чтобы ИИ писал поп-музыку, создавал изображения и тексты, нет. Более того, в марте 2016 года роман, написанный искусственным интеллектом, успешно прошел первый раунд престижного литературного конкурса имени известного японского писателя-фантаста Хоси Синъити. Чатботы в социальных сетях уже становятся обыденностью. Ну а о том, что ИИ сможет заменить журналистов, не написал только ленивый. Так что однажды текст о том, как живет и развивается искусственный интеллект напишет уже он сам, без помощи человека.

Именно социальный аспект использования ИИ пока выглядит самым потенциально опасным. Как показывает практика, человечество намного успешнее решает технические проблемы, чем социальные. Проблема использования ИИ вовсе не в том, что он может "взбунтоваться" против человека. Она, если так можно выразиться, прямо противоположная. Искусственный интеллект во многих областях человеческой деятельности может оказаться настолько эффективным, что просто заменит человека. То есть из помощника превратится в конкурента на рынке труда. Причём значительно более дешёвого. Какие это может вызвать коллизии в обществе, предсказать сейчас невозможно.