Разрушили Эйфелеву башню и уничтожили небоскрёбы: Google отключил скандальную ИИ-функцию через сутки
Google отключил ИИ-генератор спустя день из-за создания фейковых катастроф
ИИ-иллюстрация: создано редакцией Life.ru с использованием ChatGPT (OpenAI)
Компания Google отключила новую функцию генерации изображений Nano Banana в Google Earth меньше чем через день после запуска. Причиной стало то, что пользователи начали создавать и распространять изображения, которые нарушают правила платформы. В компании пообещали вернуть инструмент только после того, как внедрят более надёжные механизмы защиты.
Поводом для критики стали эксперименты исследователей OSINT и обычных пользователей. Они выяснили, что с помощью текстовых запросов можно создавать фотореалистичные сцены прямо на основе спутниковых снимков. Среди примеров — самолёт, врезающийся в небоскрёб на Манхэттене, ядерный объект в Иране, лагеря беженцев на границе США и Мексики, а также огромная воронка от взрыва в Лос-Анджелесе.
Один из исследователей, Хенк ван Эсс, показал, что смог за несколько секунд «разместить» лагеря беженцев у мексиканской границы и «построить» ядерный объект в Иране с помощью нескольких текстовых команд. По его словам, сервис практически не ограничивал подобные запросы.
Сообщество GeoConfirmed выступило с резкой критикой новинки «Гугл». Там заявили, что Google Earth долгое время был одним из ключевых инструментов для проверки информации и геолокации. Возможность генерировать реалистичные, но вымышленные спутниковые изображения может серьёзно осложнить борьбу с дезинформацией. Аналитики предупредили, что теперь проверяющим придётся сначала убеждаться, что перед ними не подделка, а уже потом разбирать само событие. Также они отметили, что злоумышленники смогут создавать фейковые военные объекты, менять назначение зданий или фабриковать последствия атак.
В компании подчеркнули, что все сгенерированные изображения были помечены как созданные ИИ и не отображались для других пользователей в основной версии Google Earth. Однако после волны критики компания решила временно полностью отключить функцию.
Google представил функцию Nano Banana для веб-версии Google Earth 30 июля. Она позволяла генерировать изображения на основе спутниковых снимков, аэрофотосъёмки и 3D-карт с помощью текстовых запросов. Инструмент был доступен пользователям по всему миру.
Больше актуальных событий в режиме реального времени — читайте в разделе «Последние новости» на Life.ru.