Люди почали створювати вибухи та терористичні акти на супутникових зображеннях: Google призупинив нову можливість.
Нова функція штучного інтелекту в Google Earth стала причиною для створення неймовірно реалістичних фейкових супутникових знімків, що викликало занепокоєння серед фахівців у галузі кібербезпеки та дослідників OSINT. Вони попередили, що ці зображення можуть бути використані для дезінформації, фальсифікації наслідків атак і маніпуляції громадською думкою. У результаті Google прийняла рішення вимкнути цей інструмент менш ніж через добу після його запуску.
У матеріалі видання The Financial Times йдеться, що Google тимчасово відключила нову функцію Nano Banana, інтегровану в Google Earth, після того, як вона продемонструвала потенціал для створення переконливих підроблених супутникових знімків.
Під час презентації компанія заявляла, що інструмент дасть змогу користувачам "переосмислювати" будь-яку точку світу, зокрема додавати до реальних супутникових знімків нові об'єкти або цілі сцени, створені штучним інтелектом. Однак майже відразу після запуску користувачі почали публікувати в соцмережах зображення із вигаданими кратерами від вибухів, пошкодженими будівлями та іншими неіснуючими подіями, які виглядали як справжні супутникові фотографії.
"Невдовзі після старту платформи користувачі X почали активно обмінюватися прикладами використання нової функції. Серед цих прикладів виявилися супутникові зображення вигаданого кратера від вибуху в Газі, атомних електростанцій в Ірані та автомобільної аварії в Амстердамі," — повідомляє FT.
Саме це стало ключовим фактором критики — фахівці з відкритих джерел розвідки (OSINT) підкреслили, що така технологія може значно ускладнити процес перевірки фактів. На їхню думку, підроблені супутникові знімки можуть бути використані для створення неправдивих свідчень щодо наслідків ракетних обстрілів, терористичних актів або інших військових подій. Це, в свою чергу, відкриває нові можливості для маніпуляцій з інформацією.
Особливе занепокоєння викликало те, що генератор зображень був вбудований саме в Google Earth, який протягом багатьох років залишався одним із головних інструментів, за допомогою якого журналісти, аналітики та дослідники перевіряли достовірність фотографій і відео. А інтеграція генеративного ШІ безпосередньо в платформу, на думку експертів, вже підриває довіру до одного з основних джерел верифікації.
Після хвилі критики Google оголосила про тимчасове відключення функції. У компанії пояснили, що працюють над посиленням системи захисту, після чого планують повернути інструмент у Google Earth.
Водночас представники Google підкреслили, що зображення, створені за допомогою штучного інтелекту, не були доступні всім користувачам у звичайному режимі функціонування сервісу і мали спеціальні водяні знаки. Однак, як зазначив аналітик Американського інституту підприємництва Брейді Афрік, на практиці цього заходу недостатньо, оскільки під час перегляду контенту в соціальних мережах більшість користувачів не перевіряє, чи є зображення результатом роботи штучного інтелекту.
"Небагато людей звертають увагу на те, чи є зображення результатом роботи штучного інтелекту, коли переглядають чи діляться ним", -- зазначив він.
Автор статті в Financial Times зазначив, що цей інцидент ще раз підкреслює зростаючу проблему використання генеративного штучного інтелекту для виготовлення фальшивого візуального контенту.
Зокрема, раніше в інтернеті циркулювали підроблені супутникові зображення, які нібито ілюстрували результати нападів на військові цілі в регіоні Близького Сходу.
Нагадаємо, у Львові виник резонанс після того, як мешканець звернувся з проханням про обрізку дерева і отримав у відповідь зображення, яке виявилося створеним за допомогою штучного інтелекту. У міській раді роз'яснили, що це фото було ненавмисно використане як доказ виконаних робіт, хоча насправді обрізка дерев не проводилася.
Фокус також повідомляв, що компанія Apple ініціювала судовий процес проти OpenAI та двох своїх екс-співробітників, звинувачуючи їх у крадіжці конфіденційних даних з метою створення власних пристроїв на основі штучного інтелекту. В OpenAI категорично спростували ці звинувачення, підкресливши, що їхня діяльність не передбачає використання комерційних таємниць інших компаній.
