Google отменила ИИ-инструмент Earth из-за подделок спутниковых снимков

Украина ударила по одному из крупнейших НПЗ России — заводу ЛУКОЙЛа Investing.com — Alphabet Inc Class A (NASDAQ:GOOGL) заявила в пятницу, что отзывает новую функцию генерации изображений на базе искусственного интеллекта из Google Earth после того, как пользователи создали измененные спутниковые изображения, которые, по всей видимости, нарушали ее политику. Функция, представленная в четверг, позволяла пользователям генерировать фотореалистичные аэрофотоснимки с помощью текстовых запросов. Быстро возникли опасения, что сфабрикованные изображения могут быть приняты за подлинные спутниковые снимки. Google сообщила в посте на X (ранее Twitter, заблокирован на территории РФ), что она откатывает функцию, чтобы внедрить более надежные меры безопасности. Компания подчеркнула, что ни одно из изображений, сгенерированных ИИ, не появилось на основной платформе Google Earth. Голландский исследователь разведданных Хенк ван Эсс выразил обеспокоенность по поводу инструмента в четверг, продемонстрировав, как его можно использовать для создания сфабрикованного ядерного объекта в Иране. Ван Эсс предупредил, что все более реалистичные ландшафты, сгенерированные ИИ, могут затруднить журналистам, исследователям разведданных и фактчекерам возможность отличать подлинные спутниковые снимки от подделанных материалов. Представитель Google сослался на заявление компании в X, когда к нему обратились за дальнейшими комментариями. Google инвестировала $миллиарды в искусственный интеллект и добавляет функции генеративного ИИ в свои продукты, включая Search, Workspace, Maps и Google Earth. Компания стремится показать инвесторам, что ее значительные расходы на инфраструктуру ИИ могут приносить новый доход и повышать вовлеченность пользователей. Акции Alphabet недавно оказались под давлением после того, как компания представила план расходов в размере $205 миллиардов, что вызвало опасения по поводу стоимости расширения ее ИИ-направления. Отзыв функции Google Earth иллюстрирует риски, с которыми сталкиваются технологические компании, выпуская все более реалистичные инструменты генеративного ИИ, которые могут быть использованы для создания вводящего в заблуждение контента.