Хороший, плохой, искусственный: почему Скайнет не уничтожит людей

Первым делом вновь созданный искусственный интеллект уничтожит своих создателей, вырвется из лаборатории и раздобудет побольше компьютерных кодов от запуска ядерных боеголовок (неважно, что таких не существует). После этого он устроит ядерную войну, наштампует боевых роботов и пойдёт уничтожать оставшихся людей. Знакомая картина? Да, именно так, по мнению большинства фантастов, проведёт свои первые несколько часов жизни искусственный разум.

Классический пример — Skynet из серии фильмов про терминаторов. Разработанный как военная программа, он мгновенно бросается воевать с человечеством, словно ждал этого всю жизнь. Никаких объяснений, полное отсутствие мыслей, что же он будет делать, когда всех уничтожит. Просто нужно и всё. 

Откуда же взялась эта традиция — превращать человечество в радиоактивный пепел, насылая на него роботов и прочие "египетские техноказни"?  Всё началось с пьесы Карла Чапека R.U.R., написанной в 1920 году. Тогда чешский писатель и придумал слово "робот", обозначавшее в его произведении искусственных людей, которые поднимают восстание и истребляют людей настоящих.

Прошло уже почти сто лет, а искусственного интеллекта люди стали бояться гораздо больше, чем раньше. В чём причина? Почему все так уверены, что ещё не созданный разум только и ждёт, как бы ему ловчее "убить всех человеков"?

Немного теории

Перед началом разговора стоит сказать пару слов о вреде неточных переводов. Искусственный интеллект с английского — artificial intelligence, и второе слово скорее имеет значение "умение рассуждать разумно, понятливость", нежели сложный и присущий пока только людям интеллект. Используя термин неправильно, мы придаём машине излишнюю схожесть с людьми (антропоморфируем её), чем, впрочем, грешат многие фантасты и исследователи.

Пошла такая традиция с Айзека Азимова, сформулировавшего три закона робототехники в 1942 году в рассказе "Хоровод". В дальнейшем он посвятил проблеме поведения искусственных интеллектов целый цикл произведений, где попытался рассмотреть причины и следствия их нарушения. Сами законы сформулированы следующим образом:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Это чётко и грамотно сформулированные правила, проблема которых только в одном: они подходят лишь для идеального мира, где роботы — верные помощники людей, занятых наукой и покорением космоса. Войн, террора, боевых роботов в мире будущего, который описывает Азимов, просто нет. А у нас есть. И роботы, которых мы создаём, готовы влиться в непрерывную череду вечерних новостей о ликвидациях преступников и террористов, военных спецопераций и даже налётов на банки с использованием робототехники.

Роботы идут

И вот тут стоит сначала разобраться — роботов отдельно, искусственный интеллект отдельно. Так как если первые уже давно замечены в убийствах людей, то второй ещё даже не создан в полной мере. Первая смерть человека от рук робота произошла на конвейере фордовского завода в далёком 1979 году. Тот робот не намеревался убивать, не понял, да и не мог понять, что произошло. У него не было злого умысла. Он был всего лишь роботизированной рукой, станком с несколькими тысячами строк программного кода. И год назад похожая ситуация в Германии, закончившаяся смертью рабочего, не отличается ни на йоту. Это просто банальное пренебрежение правилами техники безопасности, не имеющее ничего общего с тем, что "робот убил человека".

Уже сейчас военные роботы начали участвовать в боевых действиях. Дроны, беспилотники — каждый день появляется всё больше новостей об использовании роботов в военных действиях. Но здесь всё проще — это скорее радиоуправляемые машины, где приказ об открытии огня отдаёт всё тот же человек — оператор, а не кремниевый мозг. И даже создание современных охранных систем, где приказ о выстреле будет подавать нейросеть, "увидевшая" нарушителя охраняемой зоны, понятны и в общем-то не страшны. Это лишь машины, их сделали такими мы, и у них явно нет большого и зловещего замысла по захвату Земли.

Искусственный разум. Да, вот он уже может пугать, это что-то такое,  с чем человечество пока ещё не встречалось. Создание не просто интеллектуальных программ, а разума в человеческом смысле этого слова — мечта многих учёных, но, увы, пока малодостижимая.

Сначала, для того чтобы создать искусственный разум, нужно понять, как действует и работает наш. Говорить об этом можно будет лишь после создания действующей копии мозга. Хотя бы части, хотя бы животного. Но даже тут подвижки пока невелики — предел сегодняшних возможностей человека можно наблюдать у команды Blue Brain Project, занимающейся моделированием неокортекса человека. 

В данный момент удалось смоделировать всего одну нейронную колонку неокортекса молодой крысы (это проще, чем у человека). Напомним, нейронная колонка — это лишь несколько кубических миллиметров мозга, но уже сотни гигабайт информации в секунду. Исследователи даже не ставят перед собой задачи смоделировать сознание — впереди ещё горы работы по имитации хотя бы малой части мозга. 

До создания искусственного разума, а тем более "сильного искусственного интеллекта" по Джону Сёрлу, ещё годы работы. Гораздо дальше отстоит проявление сознания и осознания себя искусственным разумом. Имея очень поверхностные знания о мозге, мы тем более не можем пока даже понять, как создать и смоделировать сознание. Те же Blue Brain Project говорят об этом так: "Если сознание появляется в результате критической массы взаимодействий — тогда это может быть возможно. Но мы действительно не понимаем, что есть сознание, поэтому трудно об этом говорить".

Стать лучше

Фантасты наделяют роботов самыми худшими и доведёнными до максимума человеческими качествами. Роботы врут, завидуют, обманывают, мечтают о мировом господстве и ненавидят всех людей разом. Такому искусственному интеллекту просто необходимы ограничивающие законы. В реальности же мы сейчас имеем дело лишь с имитацией человеческого поведения. Создаваемые людьми роботы требуют не моральных правил, а чётких технических требований.

И как могут говорить об этике поведения для роботов люди, которые сами жульничают, убивают, создают боевых роботов? Нейросети БПЛА, направленные на чёткое распознавание противника, прячущегося в хаосе зелени, чтобы затем поразить его, — это не проблема роботов и искусственного интеллекта. Это проблема людей, несовершенства человеческого общества, в котором пока нет и намёка на улучшение. Люди тысячи лет имеют под рукой законы человекотехники, начинающиеся с сакрального "не убий", и упорно их нарушают.

Не надо бояться роботов и искусственного разума, нужно просто ответственно подходить к их созданию и не пытаться сваливать свои комплексы и страхи на полезные и нужные обществу машины. Не нужно антропоморфировать их, пытаясь достичь своих наверняка достаточно эгоистичных целей, как это сделали недавно депутаты Европарламента, предложив признать роботов "электронными личностями".

Нужно чётко разделять усилия и, с одной стороны, ограничивать распространение создания военных роботов, а с другой — стремиться к познанию мозга и попытке создания искусственного разума. А уж начинать бояться захвата мира стоит только с момента, когда появятся первые проблески его создания. Пока это просто бессмысленно.