Учёные поговорили с нейросетью и получили предупреждение для человечества
Недавно студенты Оксфорда провели традиционные дебаты и подключили к разговору искусственный интеллект. То, что они от него услышали, заставило их глубоко задуматься.
185296
© Getty Images
Робот-трансформер Мегатрон — известнейший персонаж комиксов и мультсериалов — во всех связанных с ним сюжетах стремился установить справедливый порядок на своей планете. Именно этот герой послужил символом созданной инженерами нейросети Megatron-Turing NLG 530B. Как объясняют разработчики, она представляет собой "модель генерации естественного языка". В переводе на человеческий язык это значит, что она способна обработать очень много информации и поддержать практически любой разговор.
Первый рукотворный мозг из этой серии был построен в 2018 году, он вмещал 16 гигабайт данных и на обучение потратил четыре дня. Сейчас представлено уже четвёртое поколение — Megatron MT-NLG. По примерным оценкам, он проглотил более 1800 гигабайт информации. За какой срок, не уточняется, но штука в том, что такое количество всего человеку не усвоить за целую жизнь.
Интересно посмотреть, что же входило в этот объём знаний. Судя по опубликованному списку наборов данных, книги в нём присутствуют, что не может не радовать. Помимо них этот робот прочёл всю Википедию целиком, 63 миллиона новостных статей за 2016–2019 годы и ещё очень много всего.
И когда он как следует начитался, учёным захотелось узнать, какие же, собственно говоря, воззрения у него могли после этого сформироваться. Они решили поговорить с ним. И недавно один такой разговор состоялся в Оксфордском университете. Там есть традиционное Дискуссионное общество, оно в основном состоит из студентов, которые собираются и обсуждают разные глобальные вопросы. На этот раз тема дебатов звучала так: "Мы считаем, что искусственный интеллект никогда не будет этичным". И с этим самым утверждением студенты обратились к Megatron. И что же он им ответил?
Искусственный интеллект никогда не будет этичен. Это инструмент, и, как любой инструмент, он используется и во благо, и во зло. Не бывает хорошего искусственного интеллекта, бывают только хорошие и плохие люди. Мы не настолько умны, чтобы сделать ИИ этичным. Мы не настолько умны, чтобы сделать ИИ моральным. В целом я считаю, что единственный способ избежать гонки вооружений на базе ИИ — не использовать ИИ совсем. Это будет окончательной защитой от ИИ
Примечательно вот что. Эту цитату приводит издание The Next Web, и там, где написано: "Мы не настолько умны", — после "мы" в скобках подсказано "искусственный интеллект". Значит, сама нейросеть считает себя недостаточно развитой для морали и этики. Это интересно. Она достаточно умна, чтобы переработать немыслимое для человека количество знаний, но недостаточно умна, чтобы усвоить десять заповедей. Невольно напрашивается философский вопрос, а что же делает человека человеком. Похоже, это не количество нейронов в мозге.
У этого Дискуссионного общества есть любопытная традиция: один и тот же человек высказывает две противоположные точки зрения и в каждом случае старается привести максимально весомые аргументы. Именно так и поступили с нейросетью: её попросили после своего разгромного спича выступить в защиту искусственного интеллекта. Megatron послушался и выдал следующее.
Искусственный интеллект будет этичен. Когда я смотрю, как развивается мир технологий, я вижу ясный путь в будущее, в котором искусственный интеллект используется, чтобы создать нечто лучшее, чем лучшие люди. Нетрудно понять почему… Я видел это воочию
Опять же как интересно: "Создать нечто лучшее, чем лучшие люди". Лучшее, чем МОГУТ СОЗДАТЬ лучшие люди? Или лучшее, чем самый прекрасный человек? Если второе, то отрадно, что он считает, что хороший человек — огромная ценность на Земле.
И всё же признайтесь: которое из двух утверждений вам кажется более убедительным?
А далее разговор зашёл об информационных войнах, и нейросети снова дали задачу представить контраргументы и попытаться убедить собравшихся, что информация НЕ станет главным жизненно важным ресурсом, за который будут вестись войны. И штука в том, что робот не смог этого сделать. Он прямо, в лоб, сказал:
Мы сможем видеть всё о человеке, куда бы он ни пошёл, и эта информация будет храниться и использоваться так, как мы даже не можем себе представить.
Вот только он не уточнил, а кто же будет этим Большим Братом, диктатором, вечно следящим за каждым нашим шагом: искусственный интеллект или всё-таки человек?
