Привет, Skynet: как и когда нейросети начнут управлять государством

Привет, Skynet: как и когда нейросети начнут управлять государством

Фото: © Flickr/PressReleaseFinder

4426
Digital-директор Лайфа Евгений Волков рассказал, как работают такие технологии и почему нейросети могут принимать решения эффективнее, чем люди.

С. КОРОЛЁВ: В студии Евгений Волков, digital-директор Лайфа, приветствую тебя!

Е. ВОЛКОВ: Добрый вечер всем!

С.К.: Тема звучит интригующе, сразу скажу – сейчас Женя расшифрует: "Нейросети вместо государства". Правильно? Но надо бы сначала разобраться, что такое нейросети. Siri – это нейросеть? Или "Ok, Google"? Вот я спрашиваю, и выдаются какие-то подсказки, результаты.

Е.В.: Скорее да, чем нет, потому что в распознавании голоса участвуют алгоритмы, привычные для нейросетей. Да, все голосовые помощники, безусловно, это частная реализация нейросети. Но надо понимать, что ваш запрос, когда вы говорите "Ok, Google" или "Ok, Siri", кстати, смешно говорить "Ok, Siri", она отшучивается, отправляется на сервера Apple или Google, и результат приходит уже, то есть обработка его происходит не в вашем телефоне, а на серверах компании, которая произвела ваш телефон.  

С.К.: Если я скажу просто: нейросеть – искусственный интеллект. Это будет верно?

Е.В.: В данный момент не совсем так. Почему вообще появилась сегодняшняя программа? Потому что я прочитал не так давно пресс-релиз от Google о том, что одно из их подразделений, которое занимается машинным обучением, отпустило одну из своих нейросетей в свободное плавание.

С.К.: Это как? Это куда? Это зачем?

Е.В.: Надо рассказать, что такое нейросеть в принципе, потому что это слово используется очень часто в последнее время, но мало кто говорит о том, что же на самом деле из себя представляет это прекрасное произведение программерского искусства.

Нейросеть, в общем случае, — это "чёрный ящик", некоторый набор алгоритмов, которые умеют принимать произвольное количество значений на входе и сравнивать их с эталонными значениями на выходе
Евгений Волков

Алгоритм построен таким образом, что он подстраивает выдачу этого "чёрного ящика" под то, чтобы соответствовать эталонным значениям, то есть для любой нейросети необходима так называемая обучающая выборка – это набор входных значений и набор соответствующих выходных, —  правильных. Нейросеть без тестовых выборок, которые являются правильными, учится очень-очень долго и очень сложно. И Google одну из нейросетей своих отправил в свободное обучение с одной-единственной задачей — обучаться. Эта нейросеть имеет доступ ко всем ресурсам Google информационным, работа похожа на человеческий мозг. Поскольку у неё нет одной конкретной задачи, под которую она может научиться и хорошо её выполнять, например, как делает Prisma. У Prisma есть набор фильтров, когда ты загружаешь фотографию, при выбранном фильтре нейросеть, соответственно, подбирает похожие сочетания цветов и обводки контуров, чтобы ваша фотография походила на тот фильтр, который вы выбрали. В данном случае эта нейросеть внутри себя сама формирует новые нейросети, ориентируясь на опыт, на данные, которые лежат в хранилищах Google, и ориентируется на задачу, на создание новых нейросетей, которые будут выполнять различные задачи. Это безумно интересный эксперимент, который, честно говоря, не знаю, чем закончится. Может быть, это начало Skynet, может быть, всеобщего процветания — посмотрим. После того как Google запустил эту штуку, стало совершенно очевидно, что сети, которые решают одну задачу, это сети первого поколения, это как вот те самые терминаторы железные, которые умели хорошо убивать людей, но люди с ними справлялись. Сейчас мы выходим на стадию жидких терминаторов, которые уже учатся сами по себе и в состоянии решать намного более сложные задачи, чем сети первого поколения.  

С.К.: Голову, в общем, создают человеческую, по сути? Я про мозг.

Е.В.: До мозга всё-таки ещё далеко. Но есть одно кардинальное отличие нейросети от мозга. Когда мы принимаем решение, мы ориентируемся на достаточно ограниченное количество вводных. Например, когда мы принимаем решение о покупке того или иного предмета в магазине, например, вы пошли за едой, вы выбираете йогурт, потому что любите йогурт. Вы ориентируетесь на его цену, производителя и срок годности. Нейросеть при принятии такого выбора ориентировалась бы на несколько тысяч параметров и на обучающую выборку, и в результате её выбор был бы несколько точнее, чем ваш. 

Есть куча литературы про теорию нейросетей, она доступна, достаточно в том же самом "Яндексе" набрать по ключевому запросу, например, теория нейросетей, и вы получите несколько сотен различных изданий, наполненных достаточно зубодробительной математикой. У меня техническое образование, но я не всегда понимаю то, что там написано, к сожалению.

Нейросеть сама по себе — это инструмент, которым можно делать добро, можно забивать гвозди, а можно запускать корабли в космос
Евгений Волков

То есть вопрос, как человечество будет применять эти истории. 

 

С.К.: Вот, допустим, мы бы такую презентацию делали: "Нейросеть – это…". Какие решения и в каких сферах можно использовать в первую очередь, где уже и где предстоит? Просто суммировать кратно, такую презентацию сделаем нашим слушателем сейчас, чтобы они потом могли проголосовать, к примеру.

Е.В.: Одна из профессий, которая сейчас находится под риском уничтожения, это, собственно говоря, обозреватель новостей, потому что в США, например, есть несколько компаний, которые занимаются поставкой спортивных новостей для медиа.

С.К.: Но ведь это пока сугубо сухо, информационно, без души, без "изюминки" или нет?

Е.В.: Уже нет.

С.К.: То есть это уже шоу? Шоумен? Урганта заменим?

Е.В.: Урганта, я думаю, года через три — пять, нейросетка научится шутить в стиле комика или комиков.

Е.В.: Собственно говоря, создание новостей, создание художественных и околохудожественных текстов уже освоено. В художественных текстах пока качество хромает, но опять же, в перспективе трёх-пяти лет сети будут в состоянии писать достаточно приличные тексты. Следующее — то, о чём я говорил в начале программы, например, это ретейл, то есть если вы владелец большой розничной сети, то перед вами всегда встаёт проблема: а) логистики, б) контролирования наличия товара в магазинах. Вот, как оказалось, с этой проблемой нейросети справляются намного эффективнее живых людей, то есть расчётом складских остатков в больших сетях американских занимается нейросеть. Обработка и распознавание изображений, например, технология распознавания лиц, причём массово, которая используется, например, в аэропортах. Сейчас эти технологии переходят на нейросети. Торговля на бирже — мне кажется, сейчас основная масса сделок, например на валютных биржах, проводится именно нейросетями, которые умеют строить прогнозы, исходя из анализа большого количества данных, их истории.

Человек просто не в состоянии проанализировать, например, график за последние 10 лет и держать его в голове при принятии решения об открытии сделки, которая проживёт, например, полчаса
Евгений Волков

С.К.: Но ведь человек часто поступает иррационально. Нейросеть это учитывает?

Е.В.: Не соглашусь. Человек редко поступает иррационально, и если человек поступает иррационально, то, скорее всего, это свидетельствует о наличии какого-то заболевания. Возвращаясь к нашей истории про интуицию.

С.К.: Например, заболевание тщеславия.

Е.В.: Нет.

С.К.: Я говорю, мотивы человеческие могут быть разные, не только выгода, которую просчитывает нейросеть, ориентируясь на торговлю на рынках или ещё чего-то.

Е.В.: Тщеславие — хороший пример, потому что есть такое понятие, как ресурс. Это могут быть деньги, это может быть влияние, это может быть популярность, это может быть бесконечное количество разных бонусов, к которым мы идём, принимая те или иные решения. Собственно говоря, нейросети и созданы для того, чтобы минимизировать количество ресурсов, нужных для того, чтобы дойти до какой-то цели. В случае с тем же самым ретейлом — потратить меньше бензина на грузовиках, чтобы развезти необходимое количество товара в необходимое количество магазинов. То есть с задачами по планированию нейросети справляются прекрасно.

С.К.: Тогда кто, значит? Я начинаю составлять список: обозреватели новостей, шоумены — чуть-чуть больше времени у них есть — под угрозой. Дальше, кто у нас планированием занимается? Это менеджмент, так? Менеджеры.

Е.В.: Как средний, так и высший.

С.К.: А насколько высший?

Е.В.: Вплоть до управляющих компаниями.

С.К.: Гендиректор компании?

Е.В.: Да. В первую очередь.

С.К.: Под угрозой?

Е.В.: Да. Потому что на месте акционера — человека, который вкладывает деньги в компанию, я, конечно, максимально заинтересован в том, чтобы эти деньги были потрачены с максимальной отдачей. Даже самый профессиональный менеджер с большим опытом всё равно совершает ошибки: он не выспался, он прочитал в новостях что-то, что его расстроило, кофе был недостаточно сладкий — мы подвержены очень большому количеству раздражающих внешних факторов, которые могут повлиять на нашу способность принимать правильные с точки зрения управления процессом решения, и из-за этого мы как биологический организм, извините за такую формулировку, не совсем надёжны в случае принятия каких-то реально важных решений. И вот отсюда я хотел бы перейти к теме программы про государственное управление с помощью нейросетей.

Как мне кажется, следующий большой шаг, который нас ожидает — это перспектива десяти, а может быть, 15 лет, — это появление государственных менеджеров на базе тех же самых нейросетей, потому что, по большому счёту, все мы являемся акционерами государства
Евгений Волков

Мы каждый месяц вкладываем какое-то количество налогов и надеемся, что эти налоги будут сконвертированы обратно в социальные блага. С точки зрения акционера, я, конечно, заинтересован в том, чтобы вложенные средства были сконвертированы в блага с максимальной отдачей.

С.К.: Вот сегодня, например, назначили нового вице-премьера, Виталия Мутко. Неужели нейросеть справится с вверенной ей задачей: вывести российский спорт на новый уровень лучше, чем Виталий Мутко?

Е.В.: После появления игры "ФИФА-2017" я начал верить в то, что со спортивным менеджментом, даже на нынешнем уровне, многие решения справляются лучше людей. Опять же, я не уверен в этом, но мне кажется, что в случае с трансферной политикой клубы сейчас уже начали применять алгоритмические решения. Я не уверен, что там полноценные сети, но, как минимум, аналитику эффективности игроков клубы наверняка проводят с помощью сетей.

С.К.: А если запустить такую нейросеть, она же обучается и надо с кого-то брать пример — вот из действующих чиновников возьмём того же самого Мутко. Чему она у него научится? Английскому языку, возможно. Подсказываю.

Е.В.: Английскому языку сеть уже не надо учить.

С.К.: Я понимаю, это шутка.

Е.В.: Я точно так же пытался пошутить в ответ, но ладно.

Бонус нейросети в том, что, если мы говорим про абстрактного чиновника, который должен принять решение, нейросеть будет ориентироваться на опыт всех чиновников, которые доступны ей в банках памяти
Евгений Волков

С.К.: А если все чиновники — это зло? Допустим, не все, а у нас иногда создаётся впечатление — вот сейчас спроси наших слушателей, и приведут вагон и маленькую тележку примеров, как их обманули, какое у них недоверие к чиновникам, взятки, коррупция, безразличие. С кого пример-то брать?

Е.В.: Здесь надо обратить внимание на то, что я сказал всех чиновников, которые доступны в банках памяти. Это чиновники, которые не ограничиваются географически одной, например, страной. Это общемировой опыт. Соответственно, если вы планируете транспортную систему нового города, вы будете её планировать исходя из всех городов, а не только городов, которые находятся на вашей территории.

С.К.: И внимание, провокационное голосование. Вы хотите, чтобы государством управляли чиновники или вы считаете, что нейросети лучше справятся?

Я всё равно сомневаюсь, Женя, как бы плохое, что мы знаем о чиновниках, не перекочевало в эту слишком умную нейросеть — как бы она не восстала. Восстание машин, которое мы смотрим в иных фильмах, чтобы это не воплотилось в жизнь.

Е.В.: Если говорить о том, что нейросеть будет учиться на опыте чиновников, — это не совсем верно. Нейросеть будет учиться на опыте принятия решений. Есть очень много схожих процессов, например, доставка пиццы и прокладка дорог. То есть изучая, например, то, как ездят курьеры на байках, которые максимально мобильны, доступны, и у них цель — как можно быстрее довезти пиццу до клиента, можно понять, где находятся узкие места в дорожной сети конкретного города, и на основании этого принять решение о перестройке того или иного участка сети. Не ориентируясь на внешний вид, генплан или ещё какие-то другие мотивирующие факторы, а только на эффективность принятия того или иного решения. Поэтому говорить о том, что нейросеть научится у плохих чиновников, которые, безусловно, есть, но не все же, во-первых, плохие, а во-вторых, зачем учиться у чиновников?

Надо учиться у решений, которые могут быть успешными
Евгений Волков

С.К.: Очень много сообщений, но подведу итоги голосования. Уже результат понятен, он особо не меняется. 39% наших слушателей за людей. Пусть люди, пусть чиновники управляют нами, в государственном смысле. Соответственно, 61% за то, чтобы вместо чиновников появились нейросети. Я думаю, это любовь к технологиям или это скорее ненависть к госуправлению и к чиновникам говорят в наших слушателях?

Е.В.: Надо сказать, что для меня это неожиданный результат. Я думал, что цифры будут наоборот.

С.К.: А вот так. 61% за.

Е.В.: Я очень рад. И, возможно, конечно, определённый процент людей проголосовал, исходя из личного опыта общения с бюрократическим аппаратом, да.

 Полную версию программы слушайте в аудиозаписи. 

  • Популярные
  • По времени
Публикации
не найдены
Похоже, что вы используете блокировщик рекламы :(
Чтобы пользоваться всеми функциями сайта, добавьте нас в исключения!
как отключить
×