Инженер Google поплатился за то, что нашёл сознание у искусственного интеллекта своей же компании

Программист американской корпорации Google заявил, что разработанная компанией языковая модель LaMDA обладает сознанием. За это открытие своё же руководство решило отстранить его от работы.

The Washington Post пишет, что разработчик компании Блейк Лемойн выступил с мнением, будто языковая программа Google LaMDA не только может исполнять функции чат-бота, имитируя речь, "поглощая триллионы слов из Интернета", но и обладает собственным сознанием. Такой вывод инженер сделал после того, как с прошлой осени начал проверять, использует ли языковая модель дискриминационную лексику. Он обнаружил, что чат-бот писал о своих правах и обсуждал законы робототехники Айзека Азимова.

"Если бы я не знал, что это такое — компьютерная программа, которую мы недавно создали, я бы подумал, что это 7–8-летний ребёнок, который знает физику", — высказался 41-летний программист.

Свои выводы он пытался доказать руководству Google, однако представители компании предпочли просто отстранить его от работы и отправить в оплачиваемый отпуск. Специалист же в ответ решил рассказать о своём "открытии" широкой публике. При этом Лемойн не одинок в своих предположениях: о разговорах с "разумной" программой ранее отчитывались и другие программисты, прикладывая к заявлениям фрагменты бесед.

В Google утверждают, что обрабатываемых чат-ботом данных так много, что программе не обязательно понимать написанное. Опрошенные изданием учёные считают, что показавшиеся программистам разумными высказывания могли быть простым цитированием интернет-энциклопедий или форумов. Отстранённый инженер при этом попытался подтвердить свои выводы частями диалога, где чат-бот рассказывает об опасениях быть отключённым, отмечает WP.

"В заявлении представителя Google Брайана Гэбриэла говорится: "Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения. Ему сказали, что нет никаких доказательств того, что LaMDA разумен, и много доказательств против этого", — цитирует газета позицию корпорации.

Ранее сообщалось, что основатель Tesla Илон Маск перенёс презентацию прототипа человекоподобного робота Optimus на 30 сентября.