Google экстренно отключил новую функцию для Google Earth, которая позволяла пользователям генерировать и накладывать фейковые изображения на реальные карты. Инструмент проработал всего один день. Решение принято на фоне критики, что он может способствовать распространению дезинформации.
Функция, о которой идет речь, давала возможность любому желающему создавать изображения с помощью искусственного интеллекта и размещать их поверх существующих карт Google Earth. Это вызвало быструю негативную реакцию. Опасения связаны с тем, что подобные инструменты могут использоваться для создания ложных представлений о местности, исторических событиях или текущей ситуации.
В Google пока не предоставили подробных комментариев о причинах такого скорого сворачивания проекта. Однако, судя по реакции, компания решила действовать превентивно, чтобы избежать потенциального вреда от использования технологии.
Этот инцидент поднимает важные вопросы для индустрии AI, SEO и GEO. Поисковые системы, такие как Google, стремятся предоставлять точную и достоверную информацию. Инструменты, позволяющие легко создавать и распространять сфабрикованный контент, представляют прямую угрозу этому принципу. Для SEO-специалистов и контентных команд это означает, что доверие к визуальной информации, генерируемой AI, может снизиться. Это также может повлиять на разработку будущих AI-продуктов, связанных с картографией и визуализацией данных, заставляя разработчиков уделять больше внимания механизмам верификации и предотвращения злоупотреблений.
Решение Google подчеркивает растущую сложность интеграции генеративного AI в продукты, которые должны опираться на фактическую точность. Балансирование между инновациями и ответственностью становится ключевым вызовом для технологических гигантов.