В предчувствии "Судного дня"

Агентство передовых оборонных исследовательских проектов Министерства обороны США (DARPA) объявило конкурс на нестандартное оружие, собранное из подручных электронных приборов. Особо подчеркивается, что участники должны использовать только доступные коммерческие технологии, причём "в рамках местных, государственных и федеральных законов и нормативных актов".

Стоит ли за конкурсом только лишь желание выявить новые способы террористических атак, или здесь скрывается нечто большее?

Задумывались ли вы когда-нибудь о том уровне технологий, который можно обнаружить на вашей кухне уже завтра? Выражение "умный дом" только недавно стало обыденным, как новое направление уже набирает обороты — Интернет вещей (IoT).

Объединённые в единую локальную сеть домашние приборы — миксеры, холодильники, зубные щетки — поддерживают связь друг с другом, и вот перед нами структура, напоминающая нейронную сеть с возможностью обмениваться информацией с тысячами аналогичных структур по всему миру.

Не будем преувеличивать, даже в обозримом будущем бытовая техника не будет обладать аппаратными возможностями для высокоуровневой интеллектуальной деятельности, одним из проявлений которой является способность принимать универсальные решения.

Однако не стоит сбрасывать со счетов технологию распределённых вычислений, к которой всё чаще прибегают исследователи. Ситуация, когда один достаточно мощный компьютер с программой искусственного интеллекта выходит из-под контроля и захватывает подключённые к сети устройства, уже не выглядит невероятной.

Важность проблемы развития и контроля искусственного интеллекта поднимается в последнее время всё большим количеством специалистов. Два больших авторитета в своих областях — Элон Маск в инновационном машиностроении и Стивен Хоккинг в теоретической физике — заявили в прошлом году, что разработка полноценного искусственного интеллекта может стать концом для человеческой расы.

Очевидно, что вопрос контроля искусственного интеллекта необходимо решить до того, как он станет широко использоваться в военной промышленности и в обычной жизни.

И, возвращаясь к инициативе DARPA, первым шагом может стать сертификация техники, от миксеров до автомобилей, по потенциальной опасности, которую она представляет для человека в случае выхода из-под контроля, будь то хакерская атака человека или искусственного интеллекта.

Уже через несколько лет мы, возможно, будем выбирать холодильник не только по наклейке энергоэффективности, но и по количеству "звёзд" условной опасности для человека.