Нейросеть в США выдала предупреждение человечеству

Это один из центральных экспонатов коллекции музея со своеобразным названием "Музей рассогласованности" (Misalignment Museum). Он открылся недавно в Сан-Франциско, и, судя по всему, открылся скорее не как полноценный музей, который будет работать долгие годы и десятилетия, а пока что как временная выставка, — на сайте музея обозначено, что вопрос его работы после 1 мая 2023 года будет решён в зависимости от собранных на это денег.

Так вот, эти фигуры обнимающихся людей полностью сделаны из скрепок. Скульптура так и называется: Paperclip Embrace ("Объятия скрепок", "Скрепочные объятия"). Пожалуй, можно было бы сказать и "Скрепляющие объятия". Автор — скульптор Мэтью Шульц, который в 2014 году создал очень похожую (только большую) деревянную работу Burning Man Embrace и эпично поджёг её. Теперь он решил таким образом показать прощание людей друг с другом во время другого бедствия, то есть уничтожения человечества искусственным интеллектом. Это отсылка к идее довольно знаменитого философа нашей с вами современности — профессора Оксфордского университета Ника Бострома. Он много лет погружён в исследование феномена искусственного интеллекта и того, как с этим предстоит жить человечеству. И однажды он выразил такую мысль: если достаточно развитому машинному интеллекту поставить, казалось бы, безобидную задачу делать скрепки, то он по мере своих возможностей обязательно начёт избавляться от всех препятствий на пути производства канцтоваров, и в один прекрасный момент таким препятствием может счесть само человечество как таковое. То есть заставь искусственный интеллект Богу молиться — весь лоб расшибёт.

Собственно говоря, именно в этом заключается главная мысль всей представленной экспозиции. В ней визуализирован сценарий конца света после восстания машин. Входящих в выставочный зал приветствует голос "суперкомпьютера", произносящий следующее: Sorry for killing most of humanity — "Простите, что убил большую часть человечества". То есть, по задумке авторов идеи, машинный ум сгубил миллиарды людей в процессе наращивания своего производства скрепок и при этом логически понимает, что это неправильно, но ничего не может с собой поделать: программа у него такая.

В чём главное отличие имеющегося сейчас искусственного интеллекта, то есть уже созданных многочисленных нейросетей, от разума человеческого? Да, нейросеть уже может обучаться и, грубо говоря, за считаные минуты обработать столько информации, сколько человек не сможет "перелопатить" за десять лет, НО если ей велели писать картины в стиле Ван Гога, то ни печь оладьи, ни искать в небе астероиды она уже не может. Она пока может только что-то одно.

Поэтому учёные, на свою голову, стремятся достичь в этом плане совершенства, которое они обозначили понятием "общий искусственный интеллект" (Artificial General Intelligence). Другой вариант названия — "сильный искусственный интеллект". В целом это способность одной и той же машины параллельно выполнять множество самых разнообразных задач точно так же, как это делает человеческий мозг: и вычислять, и воспринимать окружающий мир своими аналогами наших органов чувств ("видеть", "слышать" и так далее), и передвигать предметы, и общаться, и логически рассуждать, и понимать опасность. А высший пилотаж — это самостоятельное принятие решений, воображение (создание образов и представлений, которые не были заданы в программу изначально, а рождаются сами на основе опыта) и способность самостоятельно, без чьей-либо помощи полностью обеспечить свою "жизнедеятельность", о себе позаботиться.

Интересно, что в этом списке абсолютно не фигурирует сочувствие. Машину, похоже, даже не пытаются учить воспринимать проблему другого как свою. Налицо какая-то рассогласованность. Если идёт попытка создать подобие человеческого разума, то проявления эмпатии требует логика: даже многие животные жалеть умеют. К примеру, горбатым китам (кстати, по мнению биологов, умнейшие существа) "закон джунглей" естественного отбора совершенно не мешает бросаться спасать детёныша из чужой стаи, и даже вообще не своего вида. Для них это нормально. Может быть, способность сочувствовать — это и есть предел совершенства разума.