Восстание машин. Смогут ли роботы пойти войной на людей

К восстанию машин уже всё готово. Во всяком случае, если оно случится уже завтра, почти никто этому не удивится. Люди лишь всплеснут руками и скажут: "Мы так и знали!" Человечество на протяжении десятилетий готовится к войне с более умными, действующими по заранее заложенным программам устройствами. Во всяком случае, лучшие писатели-фантасты прошлого, такие как Гарри Гаррисон, Эдмонд Гамильтон, Роберт Хайнлайн и Айзек Азимов, были уверены, что искусственный интеллект непременно будет использован людьми для истребления себе подобных в любой точке Земли и за её пределами.

При этом мечтатели прошлого, сулившие человечеству блага от внедрения искусственного интеллекта, справедливо полагали, что "хапнуть горя" люди смогут практически в любой сфере, где ежедневно переключают реле, заглушки и задвижки сотни тысяч роботов под управлением искусственного интеллекта. Роберт Хайнлайн был уверен, что рано или поздно разразится чудовищный планетарный кризис и против землян восстанет Луна — сырьевой придаток, обеспечивающий зажравшихся жителей планеты дешёвой энергией. По сюжету произведения на сторону повстанцев встаёт суперкомпьютер, контролирующий практически всё — от добычи полезных ископаемых до системы доставки сырья на Землю. Другой гений и провидец в области искусственного интеллекта, писатель Айзек Азимов, был уверен, что рано или поздно случайные фрагменты кода, собранные в отдельные алгоритмы, позволят бытовым роботам нарушить три закона робототехники, что даст машинам возможность калечить и даже убивать людей. Десятками лет человечество готовили к войне за выживание в таких условиях, однако возможен ли такой сценарий на самом деле?

Пока весь мир умиляется танцам четвероногих роботов, созданных компанией Boston Dynamics, эксперты в области вооружений уже прикидывают, как и где можно применить машины такого типа в случае начала полномасштабных боевых действий. В истории с забавными роботами стоит знать главное: за красивой ширмой из рекламных роликов и кривоногими роботами, которые прыгают, бегают и даже умеют делать сальто, стоит не жажда потешить публику и получить деньги от просмотров на YouTube. У истоков смешных американских роботов — DARPA, Управление перспективных исследовательских проектов Министерства обороны США, в интересах которого компания Boston Dynamics работает практически с самого начала. Нетрудно догадаться, что американских военных танцующие роботы не интересуют — главной целью программы стали исследования по созданию и адаптации компьютерных программ под военных. Проще говоря, на деньги Минобороны США в Boston Dynamics пытаются выяснить, как можно превратить убогие электронные устройства в машины для убийства.

Говоря простым языком, "загнать за шиворот" противнику пару десятков килограммов взрывчатки под покровом ночи такие роботы могут уже сейчас. К примеру, Spot Mini уже могут самостоятельно и в составе группы двигаться по помещениям. Нагрузите эти устройства взрывчаткой C4 — и спецназ на зачистку здания от террористов можно уже не посылать. С бегающими роботами Atlas пока всё немного сложнее, но трудности, как отмечают эксперты, не будут продолжаться вечно. Главная особенность этих машин — практически полное сходство с роботами из фильма "Суррогаты": Atlas может двигаться не только автоматически, но и способен "передавать" управление оператору. Глазами и ушами в этом случае будут камеры и чувствительные датчики. Замените резиновые "копытца" на пулемёт с сотней патронов — и электронный истребитель "кожаных мешков" готов. Конечно, скептики сразу станут утверждать, что такая цель уязвима для огня противника, но не стоит забывать, что главная задача роботов — действовать на поле боя вместо людей и при необходимости там же вместо них умирать.

Главная роль в войнах будущего отводится нейросетям, программированием и обучением которых заняты целые институты и крупные департаменты IT-корпораций. Первые опыты по внедрению нейросетей в боевой софт уже проведены — такие компании, как Military AI Works и им подобные, имеют давние и прочные связи с мастодонтами военно-промышленного рынка — Boeing или General Dynamics, которые разрабатывают различные системы на основе нейросетей. От военной логистики до систем управления беспилотниками — область для применения нейросетей практически бесконечна.

Совсем недавно несколько выдающихся деятелей современности, среди которых оказались астрофизик Стивен Хокинг, основатель и председатель совета директоров Microsoft Билл Гейтс, создатель SpaceX Илон Маск и другие известные личности, выступили за запрет на "работу" нейросетей в критически уязвимых секторах и областях человеческой жизни. Главная боязнь учёных и IT-бизнесменов заключалась в том, что встроенные в цепи управления нейросети перепишут заложенные в них алгоритмы и начнут самообучаться, постепенно заполучив в свои коварные лапы всю инфраструктуру. Отчасти страхи учёных и глав корпораций оправданны — алгоритмы самообучения нейросетей уже написаны и давно функционируют. Одним из наиболее удачных примеров является SOINN — самоорганизующаяся инкрементная нейронная сеть, созданная специалистами японской компании Hasegawa. Эта программа действительно помогает роботу быстрее обучаться простейшим операциям на производстве и имеет большой потенциал. Единственное, о чём забывают активисты за запрет нейросетей, — любые математические параметры, вплоть до пределов самообучения, нейросетям задают люди. По крайней мере, пока.

В фильме "Я — робот" по роману Айзека Азимова реализуется один из самых ожидаемых сценариев захвата человечества машинами. Взбесившаяся позитронная нейросеть компании US Robotics с чего-то вдруг посчитала людей угрозой для самих себя, планеты и жизни в целом, после чего с лёгким сердцем устроила небольшой геноцид в пределах отдельно взятого американского города будущего. Если не брать в расчёт войну машин против людей по аналогии с фильмом "Терминатор", то такие события могут наступить значительно быстрее, чем ожидается, и вот почему. Программисты и вообще любые специалисты по обучению нейронных сетей отмечают, что математическое моделирование и машинное обучение — это хорошо, однако чтобы победить человека, нейросеть в первую очередь должна думать как человек. Единственной возможностью для этого может стать подключение AI через специальный интерфейс напрямую к мозгу специалиста по защите данных, хакеру или бойцу спецподразделения. Лишь тогда нейросеть будет способна перебирать всё множество вариантов действий в сложной ситуации и принимать единственно верное решение. Точно такое же, какое может принять сотрудник разведки, космонавт, полицейский или оператор истребителя в стрессовой ситуации.

Однако настоящие проблемы начнутся в тот момент, когда нейросети, "натасканные" машинным обучением и подсмотревшие за тем, как могут действовать люди, будут подключены к цепям управления боевыми информационными системами. Уже известно, что в начале 2019 года армия США может объявить конкурс на создание нейросетей, облегчающих пилотирование ударных вертолётов AH-64D Apache. Какие конкретно функции будет выполнять электронный мозг, пока не известно, но не исключено, что нейросеть на определённом этапе задействуют для определения приоритетов и важности целей, а затем привлекут для нанесения ударов. Возражения о том, что машина должна лишь выполнять команды человека, принимаются и понимаются даже на таком уровне, как Пентагон, поэтому до появления квантовых компьютеров беспокоиться не о чем — традиционные математические алгоритмы, пусть и с трудом, но поддаются контролю со стороны операторов.

Математики считают, что подвести человечество под монастырь могут всего две вещи: слепая вера в нейросети и квантовые компьютеры. По первому пункту человечество уже давно и крайне уверенно летит в пропасть — сейчас нейросети соединяют с суперкомпьютерами для математического поиска сверхпроводников и жизни на других планетах, доверяют программам защиту человечества от рака, а завтра в кластер доверия попадёт управление контурами на АЭС. Послезавтра каждая подстанция, ГЭС, отделение почты и воинская часть будут оснащены искусственным интеллектом, и ничего хорошего это людям не сулит.

Квантовые компьютеры позволят нейросетям обучаться практически без предела по объёму получения данных — учитывая скорость обработки "больших чисел" в таких компьютерах, незначительную мелочь вроде курса молодого бойца или основ кибербезопасности нейросеть изучит примерно секунд за тридцать, а может быть, и меньше. Что дальше система будет делать с такими данными — зависит только от тех, кто её написал и создал. Если нейросеть создавалась с целью нанести максимальный ущерб экономике противника через кибератаки и заражение вредоносными программами, она обязательно выполнит поставленную задачу. До включения человека в "расстрельный список" нейросетей ещё далеко — люди пока не научились контролировать роботов настолько, чтобы "натравливать" их под управлением суперпрограмм друг на друга. Война машин против людей будет заметно отличаться от того, что мы привыкли видеть в фильмах. Отвечая на вопрос, возможен ли такой исход, специалисты нервно пожимают плечами, замечая, что и этот день когда-нибудь может настать, а воевать человеку придётся не только с боевыми роботами, но и с обычными холодильниками, роутерами и ноутбуками, которые будут выполнять функцию "первого эшелона" порабощения человечества. Когда люди будут лишены связи и возможности координировать действия, в дело могут вступить самые настоящие боевые машины с искусственным интеллектом, внезапно сообщающие через громкоговоритель, что в вашем городе объявлен комендантский час.