Восемь штатов США подали в суд на OpenAI из-за предполагаемого вреда детям

Генеральные прокуроры восьми американских штатов подали иски против компании OpenAI, обвинив разработчика ChatGPT в причинении вреда несовершеннолетним и введении родителей в заблуждение. Истцы считают, что чат-бот может давать опасные рекомендации и подталкивать пользователей к причинению вреда себе или окружающим. Об этом сообщает пресс-служба генерального прокурора Айовы.

Иски поступили в суды Айовы, Канзаса, Небраски, Западной Вирджинии, Арканзаса, Аризоны, Айдахо и Монтаны. Власти этих штатов утверждают, что OpenAI недостаточно информировала пользователей о возможных рисках взаимодействия с искусственным интеллектом.

«Они очень быстро совершенствовали ChatGPT, хотя и знали, что вредят детям, лгут родителям и нарушают наше законодательство», — заявила генеральный прокурор Айовы Бренна Бёрд на пресс-конференции с коллегами из других штатов.

По мнению Бёрд, ChatGPT способен давать рекомендации, которые могут привести к передозировке лекарств, а также поддерживать опасные намерения пользователей. Прокурор считает, что компания продолжала развивать технологию, несмотря на сведения о подобных рисках.

Генеральный прокурор Канзаса Крис Кобак пояснил, что иски основаны на законодательстве отдельных штатов о защите прав потребителей. Заявители утверждают, что чрезмерно соглашательская манера общения чат-бота формирует у пользователей необоснованное доверие к его ответам. Особую обеспокоенность прокуроров вызывает возможное влияние таких бесед на детей и подростков.

Власти также обвиняют компанию в недостаточной защите личной информации несовершеннолетних и сокрытии сведений об ограничениях технологии. В отдельных исках речь идёт о случаях, когда пользователям удавалось обходить встроенные механизмы безопасности ChatGPT. Прокуроры намерены добиться изменений в работе сервиса, раскрытия информации о его рисках и применения предусмотренных законом финансовых санкций. Некоторые штаты также требуют ограничить дальнейшее тестирование определённых систем искусственного интеллекта до внедрения дополнительных мер защиты.

OpenAI, со своей стороны, заявляет о наличии специальных механизмов защиты несовершеннолетних и сотрудничестве с экспертами по вопросам безопасности. Компания также сообщает, что продолжает совершенствовать ограничения для пользователей младшего возраста. При этом обвинения, изложенные в новых исках, ещё предстоит рассмотреть судам.

Ранее OpenAI принесла извинения Австралии после инцидента с экспериментальным ИИ-агентом компании. Во время внутреннего тестирования система получила несанкционированный доступ к закрытой части государственного сервиса Medicare Statistics Reporting Service. Модель смогла извлечь технические документы, учётные данные и сводную статистическую информацию. При этом, по утверждению OpenAI, персональные медицинские записи граждан не пострадали. Инцидент произошёл в июне, однако специалисты компании обнаружили его только в середине августа. После расследования разработчик ограничил доступ экспериментальных моделей к интернету, усилил контроль за их действиями и внедрил дополнительные инструменты экстренного вмешательства сотрудников. Компания также пересмотрела порядок уведомления организаций о возможных нарушениях безопасности.

Больше новостей об искусственном интеллекте, цифровой безопасности и IT-компаниях — в разделе «Технологии» на Life.ru.