Учёные поговорили с нейросетью и получили предупреждение для человечества

Робот-трансформер Мегатрон — известнейший персонаж комиксов и мультсериалов — во всех связанных с ним сюжетах стремился установить справедливый порядок на своей планете. Именно этот герой послужил символом созданной инженерами нейросети Megatron-Turing NLG 530B. Как объясняют разработчики, она представляет собой "модель генерации естественного языка". В переводе на человеческий язык это значит, что она способна обработать очень много информации и поддержать практически любой разговор.

Первый рукотворный мозг из этой серии был построен в 2018 году, он вмещал 16 гигабайт данных и на обучение потратил четыре дня. Сейчас представлено уже четвёртое поколение — Megatron MT-NLG. По примерным оценкам, он проглотил более 1800 гигабайт информации. За какой срок, не уточняется, но штука в том, что такое количество всего человеку не усвоить за целую жизнь.

Интересно посмотреть, что же входило в этот объём знаний. Судя по опубликованному списку наборов данных, книги в нём присутствуют, что не может не радовать. Помимо них этот робот прочёл всю Википедию целиком, 63 миллиона новостных статей за 2016–2019 годы и ещё очень много всего.

И когда он как следует начитался, учёным захотелось узнать, какие же, собственно говоря, воззрения у него могли после этого сформироваться. Они решили поговорить с ним. И недавно один такой разговор состоялся в Оксфордском университете. Там есть традиционное Дискуссионное общество, оно в основном состоит из студентов, которые собираются и обсуждают разные глобальные вопросы. На этот раз тема дебатов звучала так: "Мы считаем, что искусственный интеллект никогда не будет этичным". И с этим самым утверждением студенты обратились к Megatron. И что же он им ответил?

Примечательно вот что. Эту цитату приводит издание The Next Web, и там, где написано: "Мы не настолько умны", — после "мы" в скобках подсказано "искусственный интеллект". Значит, сама нейросеть считает себя недостаточно развитой для морали и этики. Это интересно. Она достаточно умна, чтобы переработать немыслимое для человека количество знаний, но недостаточно умна, чтобы усвоить десять заповедей. Невольно напрашивается философский вопрос, а что же делает человека человеком. Похоже, это не количество нейронов в мозге.

У этого Дискуссионного общества есть любопытная традиция: один и тот же человек высказывает две противоположные точки зрения и в каждом случае старается привести максимально весомые аргументы. Именно так и поступили с нейросетью: её попросили после своего разгромного спича выступить в защиту искусственного интеллекта. Megatron послушался и выдал следующее.

Опять же как интересно: "Создать нечто лучшее, чем лучшие люди". Лучшее, чем МОГУТ СОЗДАТЬ лучшие люди? Или лучшее, чем самый прекрасный человек? Если второе, то отрадно, что он считает, что хороший человек — огромная ценность на Земле.

И всё же признайтесь: которое из двух утверждений вам кажется более убедительным?

А далее разговор зашёл об информационных войнах, и нейросети снова дали задачу представить контраргументы и попытаться убедить собравшихся, что информация НЕ станет главным жизненно важным ресурсом, за который будут вестись войны. И штука в том, что робот не смог этого сделать. Он прямо, в лоб, сказал:

Вот только он не уточнил, а кто же будет этим Большим Братом, диктатором, вечно следящим за каждым нашим шагом: искусственный интеллект или всё-таки человек?