Исследователь Anthropic уволился из-за страха перед развитием ИИ

Исследователь компании Anthropic Джейкоб Коксон уволился из-за опасений, связанных с развитием систем искусственного интеллекта. Он заявил, что не хочет участвовать в технологической гонке, которая, по его мнению, может привести к потере контроля над ИИ. Об этом сообщила газета The Wall Street Journal.

Коксон считает, что современные компании слишком быстро развивают системы искусственного интеллекта без достаточных механизмов контроля. По его мнению, особенно серьёзные риски могут возникнуть при создании моделей, которые превзойдут человека сразу во многих областях.

«Мы движемся по пути, ведущему к воплощению наиболее грозных сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля», — сказал Коксон изданию.

Ранее специалист работал в OpenAI, после чего перешёл в Anthropic. Свой выбор он объяснял тем, что эта компания уделяет больше внимания вопросам безопасности при разработке искусственного интеллекта.

Однако со временем Коксон пришёл к выводу, что усилий отдельных разработчиков недостаточно. По его мнению, ни одна компания не сможет самостоятельно и безопасно создавать системы, превосходящие человека во многих сферах.

Исследователь считает, что отрасли необходимы государственное регулирование или согласованное замедление темпов разработки. Без этих мер, по его оценке, конкуренция между технологическими компаниями будет подталкивать их к дальнейшему ускорению исследований.

Тем временем в американском штате Техас работает частная Alpha School, где значительную часть учебного процесса передали системам искусственного интеллекта. Академические предметы дети изучают с помощью ИИ-репетиторов, а сотрудники школы следят за дисциплиной и мотивацией учеников. Основатели проекта утверждают, что такой подход позволяет быстрее осваивать программу, однако обучение стоит от $40 тыс. до $75 тыс. в год. В развитие школы и собственного программного обеспечения для неё инвестировали значительные средства, поэтому проект пока остаётся экспериментом для обеспеченных семей.

Больше актуальных событий в режиме реального времени — читайте в разделе «Последние новости» на Life.ru.