Bildgenerator mit KI in Google Earth erzeugte zu viele Fake News

Ein kurzlebiges Experiment mit Folgen

Google hat eine erst kürzlich eingeführte Funktion in Google Earth wieder deaktiviert, die es Nutzern ermöglichte, KI-generierte Bilder direkt in der Anwendung zu erzeugen. Das Feature, das auf dem hauseigenen Modell „Nano Banana“ basierte, war erst am 30. Juli gestartet worden. Ziel war es ursprünglich, Anwendern Werkzeuge an die Hand zu geben, um beispielsweise antike Stätten dreidimensional zu visualisieren, Bauvorhaben zu simulieren oder zusätzliche Informationsebenen in das Kartenmaterial zu integrieren.

Doch bereits wenige Tage nach dem Start sah sich der Tech-Gigant gezwungen, die Reißleine zu ziehen. Der Grund: Die Technologie bot ein erhebliches Potenzial für die Verbreitung von Desinformationen, das von Journalisten schnell aufgedeckt wurde.

Sicherheitsmechanismen ließen sich leicht umgehen

Obwohl Google die generierten Bilder mit obligatorischen KI-Hinweisen versah, erwiesen sich diese Schutzmaßnahmen als unzureichend. Journalisten, unter anderem von der BBC, gelang es, diese Hinweisschranken systematisch zu umgehen. Häufig reichte es bereits aus, die KI durch entsprechende Anweisungen (Prompts) davon zu überzeugen, dass das angeforderte Bild der Realität entspreche.

In der Folge entstanden täuschend echte Screenshots, die Szenarien zeigten, die nie stattgefunden haben. Dazu zählten unter anderem:

* Ein umgekippter Eiffelturm

* Eine im Boden versunkene Pyramide in Gaza

* Fiktive öffentliche Parks vor dem Weißen Haus

* Nicht existierende Atommeiler im Iran

* Flüchtlingscamps nahe der US-Grenze

* Bombenkrater neben Krankenhäusern in Gaza

Politische Sprengkraft durch täuschend echte Optik

Die Gefahr derartiger Manipulationen liegt in der Glaubwürdigkeit, die durch das vertraute Interface von Google Earth vermittelt wird. Der Datenjournalist und Experte für Fake News, Henk van Ess, betonte gegenüber der BBC die politische Brisanz dieser Fälschungen. Da die Bilder im seriösen Gewand der Google-Plattform präsentiert wurden, fiel es selbst spezialisierten KI-Erkennungs-Tools teilweise schwer, die Fälschungen als solche zu entlarven.

Google begründete den Rückzug offiziell damit, dass Nutzer Screenshots der generierten Inhalte geteilt hätten, welche die eigenen Richtlinien verletzten. Obwohl das Unternehmen einräumt, dass viele Geospatial-Experten die Funktion für legitime und sinnvolle Zwecke genutzt hätten, sei die aktuelle Sicherheitsarchitektur nicht ausreichend gewesen.

Wie geht es weiter?

Der Vorfall unterstreicht die Herausforderungen, vor denen Technologieunternehmen bei der Implementierung generativer KI stehen. Google hat angekündigt, an einer überarbeiteten Version der Funktion zu arbeiten, die über „strengere Sicherungen“ verfügen soll. Wann oder in welcher Form diese wieder zur Verfügung gestellt wird, bleibt abzuwarten.

Für die Anwender bedeutet dies zunächst eine Rückkehr zum Status quo ohne die KI-gestützte Bildgenerierung. Die Entwicklung zeigt jedoch deutlich, dass die Verknüpfung von KI-Modellen mit globalen Kartendiensten ein hohes Risiko für die Verbreitung von Desinformationen birgt, sofern die Sicherheitsmechanismen nicht absolut manipulationssicher sind.