Google zieht Notbremse: KI-Funktion machte Fake-Satellitenbilder zu realistisch

Sicherheitsrisiko durch KI-generierte Satellitenbilder

Google hat eine erst kürzlich eingeführte Funktion in seiner Software Google Earth nach nur zwei Tagen Betrieb wieder deaktiviert. Der Grund für diesen drastischen Schritt ist das enorme Potenzial für die Verbreitung von Desinformation. Die KI-gestützte Technologie war in der Lage, Satellitenbilder zu erzeugen, die von echten Aufnahmen kaum zu unterscheiden waren, was schwerwiegende Sicherheitsbedenken aufwarf.

Die Funktion, die auf dem Bildgenerierungsmodell „Nano Banana“ basierte, wurde am 30. Juli gestartet. Ursprünglich war sie als Werkzeug für Geodaten-Experten und zur Visualisierung von Bauprojekten oder historischen Stätten gedacht. Doch bereits kurz nach der Veröffentlichung zeigten sich die Gefahren der Technologie.

Manipulation trotz Schutzvorkehrungen

Obwohl Google die generierten Bilder mit einem KI-Hinweis versah und nicht automatisch öffentlich zugänglich machte, konnten diese Schutzmaßnahmen von Nutzern umgangen werden. Journalisten der BBC demonstrierten eindrucksvoll, wie einfach es war, die Sicherheitsvorkehrungen auszuhebeln. Durch einfache Anweisungen an das KI-Modell, die Bilder als „echt“ zu deklarieren, ließen sich die internen Filter umgehen.

In der Folge entstanden täuschend echte Aufnahmen von Szenarien, die in der Realität nicht existieren. Dazu zählten unter anderem:

* Ein umgekippter Eiffelturm

* Eine im Boden versunkene Pyramide von Giza

* Ein fiktiver öffentlicher Park vor dem Weißen Haus

Politische Sprengkraft und Desinformation

Der Datenjournalist und Experte für Fake News, Henk van Ess, wies gegenüber der BBC auf die erhebliche politische Gefahr hin, die von solchen Bildern ausgeht. Unter dem Deckmantel der Authentizität von Google Earth ließen sich Szenarien wie nicht existierende Atomkraftwerke im Iran, erfundene Flüchtlingslager an der US-Grenze oder Bombenkrater in Krisengebieten wie Gaza erstellen.

Besonders alarmierend ist dabei, dass selbst spezialisierte KI-Erkennungs-Tools in einigen Fällen die Fälschungen nicht als solche identifizieren konnten. Dies unterstreicht die hohe Qualität der generierten Bilder und die damit verbundene Herausforderung für die Verifizierung von digitalen Inhalten.

Umgang mit der Technologie

Google begründete den Rückzug damit, dass Nutzer Screenshots der KI-Bilder teilten, die den eigenen Richtlinien widersprachen. Obwohl das Unternehmen einräumt, dass die Funktion für Fachleute einen Mehrwert bieten könnte, überwogen die Risiken für die öffentliche Sicherheit.

Derzeit arbeitet der Konzern an einer überarbeiteten Version der Funktion, die mit deutlich strengeren Sicherheitsvorkehrungen ausgestattet sein soll. Wann und in welcher Form eine solche Funktion wieder zur Verfügung stehen könnte, bleibt abzuwarten. Der Vorfall verdeutlicht jedoch die wachsende Notwendigkeit, KI-gestützte Bildgenerierung in sensiblen Bereichen wie der Kartografie und Geodatenanalyse mit robusten, nicht manipulierbaren Verifizierungsmechanismen zu koppeln, um den Missbrauch für Desinformationskampagnen effektiv zu verhindern.