Старушка или ребёнок — кого предпочтёт убить ваш беспилотный автомобиль?

Старушка или ребёнок — кого предпочтёт убить ваш беспилотный автомобиль?

Коллаж © L!FE  Фото: © Google, flickr/dedree drees/Nick Lee

2379
Лайф поговорил с Эдмондом Авадом (Edmond Awad), сотрудником Массачусетского технологического университета и одним из авторов проекта Moral Machine. В рамках этого проекта пользователи вместо искусственного интеллекта будущих беспилотных машин решают проблему вагонетки и ей подобные задачи. Если смерть пешеходов неизбежна, чья гибель принесёт меньше всего неприятностей обществу и расстройства владельцу автомобиля?

Лайф: Как вы пришли к идее начать это исследование и какова ваша роль в нём?

Эдмонд Авад: Идея появилась в прошлом году, когда наш главный исследователь принёс статью, которую он написал с двумя коллегами. Она была посвящена опросу: что бы люди сделали, оказавшись перед затруднительным выбором? И мы подумали, а почему бы не расширить эту анкету, включить туда больше разнообразных вопросов, которые учитывали бы такие факторы, как возраст, пол или, например, склонность следовать правилам? Однако мы решили немного отложить этот проект, пока не соберём достаточно данных. Ещё одной причиной стало недостаточное обсуждение проблемы в обществе (или, скорее, отсутствие такого обсуждения). Я занимаюсь развитием проекта, а также участвую в создании дизайна платформы.

Мои коллеги — два социолога: Жан Франсуа Бонифан (Jean-Francois Bonnefon) и Азим Чариф (Azime Chariff). Также в нашей команде Сохан Соуза (Sohan Dsouza) и Ияд Рахуан-старший (Iyad Rahwan).

Л.: Что вы собираетесь сделать с результатами исследования?

Э. А.: Как только соберём необходимые данные, мы их проанализируем с академической точки зрения и постараемся отобрать самые интересные примеры.

Нам бы хотелось, чтобы это исследование подтолкнуло к обсуждению темы на глобальном уровне и чтобы его результаты учитывали производители автомобилей. Пусть они заметят чью-то ещё работу, не важно. Главное, чтобы они учитывали поднятую нами проблему при производстве машин. Мы не сотрудничаем с автопроизводителями, поэтому результаты не будут внедрены ни в какое производство. Тем не менее мы сделаем наши результаты доступными для общественности. И если автопроизводители заинтересуются ими, они смогут их использовать.

Л.: Какова география ваших исследований?

Э. А.: Мы собираем данные в разных странах мира. Где-то опрашиваем всего по 30 человек, но мы проводим этот опрос более чем в 100 странах. Это ещё раз показывает, что мы хотим привлечь внимание мировой общественности. Также подобная методика опроса позволяет нам получать наиболее информативные данные и изучать культурные особенности стран. Конечно, есть ещё куда расти. Наш опрос существует пока только на английском языке, поэтому проводится только среди англоговорящих людей. Однако мы планируем перевести анкету и на другие языки, чтобы не-англоговорящие тоже могли принять участие.

Л.: Вопросы были довольно суровыми: кто должен умереть — молодые или старые, полные или худые, женщины или мужчины. Как вы придумали эти вопросы? Каков был процесс?

Э. А.: Дилемма — это всегда непростая ситуация. Часто такие ситуации связаны со смертью. Но насколько бы затруднительным ни был выбор (а таких ситуаций может существовать огромное множество), его последствия часто имеют широкую огласку. Например, недавние инциденты с автопилотом очень широко освещались в прессе. С другой стороны, происходит много других несчастных случаев, о которых никто никогда не узнает. Поэтому мы хотим понять, какими принципами руководствуется человек при принятии сложных морально-этических решений.

В настоящее время водители в современных машинах принимают решения, куда ехать, тормозить или объезжать, за доли секунды. Тут играет роль человеческий фактор. Но нам важны именно принципы, которыми руководствуется принимающий решение. Что касается вопросов, есть весьма специфические, например: худые против толстых или доктора против руководителей. Мы не говорим людям, представителя какой категории они должны выбрать. Мы выступаем как исследовательская платформа. Некоторые понятия уже существуют в социологии. Например, факт, что при выборе человек спасёт скорее худого, чем толстого. И этому есть ряд обоснований. Мы просто пытаемся проверить такие факты. Но это вовсе не означает, что автопроизводители обязаны использовать наши результаты.

Л.: Есть ли предварительные результаты и выводы?

Э. А.: Мы пока детально не изучали результаты исследований. У нас есть примеры, образцы. Бесспорно, люди всегда предпочитают гуманный подход, то есть они хотят спасти как можно больше жизней. Большинство людей, хотя и не абсолютное, выберут спасти законопослушных граждан, а не преступников. Есть люди, которые выбирают спасение молодых, а не пожилых. Мы не можем делать никаких заключений, пока не изучим все результаты должным образом. Кроме того, в ответах также отражаются культурные различия, которые надо принимать во внимание.

Л.: В экстремальной ситуации, жертвой которой станут ребёнок или старушка, допустим, автомобиль выбрал оставить в живых старушку, а пассажиры автомобиля придерживаются другого морального выбора. Не будет ли проблемы расхождения моральных принципов автомобиля и пассажира?

Э. А.: Это очень хороший вопрос, мы хотим развить дискуссию и ради него. Он означает вовлечение самих пассажиров в принятие решений. А многие этого не захотят, потому что не захотят брать на себя ответственность. Давайте представим, что автопроизводители будут выпускать разные модификации машин с разными вариантами решений, и покупателю нужно будет выбрать, какую приобрести. Это значит, что он уже автоматически будет вовлечён в принятие решения и понесёт ответственность за него. Поэтому я не могу пока ответить на ваш вопрос. Будет ли лучше, если будут разные авто или только с одной опцией, но с небольшими вариациями?

Л.: Кто будет нести ответственность при ДТП с участием беспилотного автомобиля, который принимает все решения сам?

Э. А.: Я не очень компетентен в юридической стороне вопроса. Могу говорить о его моральной стороне, а она всё ещё открыта для дискуссии. Ответ на ваш вопрос также зависит от алгоритмов, которым следует автомобиль. Ведь существует несколько беспилотных автомобилей — от Google, Tesla и других производителей. В каждом существующем алгоритме, как и в будущих, вовлечение человека будет разным и ответственность — тоже. Я пока не знаю, какими будут юридические аспекты вождения беспилотных автомобилей, но, безусловно, необходимо будет договорить о распределении ответственности и о юридической стороне вопроса.

Л.: С массовым использованием беспилотных автомобилей безусловно изменятся ПДД, а значит, и правила определения виновных в ДТП и ответственности за них. Как вы себе представляете эти изменения?

Э. А.: Конечно, вся система поменяется. Будут ли нужны автомобилям светофоры? Ведь они смогут сами себя регулировать сенсорами. Так что если, например, дорожные знаки и светофоры останутся, они будут скорее для пешеходов, а не автомобилей. Или, может, автомобили смогут оповещать пешеходов о своих дальнейших действиях для их же безопасности. Я думаю, Google сейчас разрабатывает что-то подобное.

Л.: Когда будут результаты исследования?

Э. А.: Процесс анализа собранной информации занимает больше времени, чем сам сбор, который ещё не окончен. Так что примерно 2—3 месяца мы ещё будем изучать результаты.

Л.: Продолжите ли вы исследование беспилотных автомобилей?

Э. А.: Да, конечно, нам эта тема очень интересна, в ней можно много над чем поработать. Также мы хотели бы провести контролируемые исследования на реальных автомобилях.

Комментарии: 
  • Популярные
  • По времени
Публикации
не найдены
Похоже, что вы используете блокировщик рекламы :(
Чтобы пользоваться всеми функциями сайта, добавьте нас в исключения!
как отключить
×