Zu viele Fake News: Google stoppt KI-Bilder-Funktion in Google Earth

Ein kurzer Test mit weitreichenden Folgen

Google hat eine erst kürzlich eingeführte Funktion in Google Earth, die auf künstlicher Intelligenz basierte, bereits nach zwei Tagen wieder vom Netz genommen. Das Werkzeug, das auf dem hauseigenen KI-Modell „Nano Banana“ beruhte, sollte es Nutzern ermöglichen, visuelle Inhalte direkt in der Anwendung zu generieren. Ursprünglich war das Feature dazu gedacht, archäologische Stätten dreidimensional zu rekonstruieren, geplante Bauprojekte zu visualisieren oder zusätzliche Informationsebenen in die Kartenansicht zu integrieren.

Doch bereits kurz nach dem Start am 30. Juli zeigten sich massive Sicherheitslücken. Obwohl Google die generierten Bilder mit obligatorischen KI-Hinweisen versah, gelang es Anwendern – allen voran Journalisten der BBC –, diese Schutzmechanismen systematisch zu umgehen. Durch einfache Anweisungen an das KI-Modell, die Bilder als „echt“ zu deklarieren, konnten die Warnhinweise unterdrückt werden.

Das Risiko durch täuschend echte Fälschungen

Die Möglichkeiten, die sich durch die Manipulation boten, stießen auf erhebliche Kritik. Experten für Datenjournalismus und Fake News warnten eindringlich vor der politischen Sprengkraft dieser Technologie. Laut Berichten konnten Nutzer täuschend echte Screenshots erstellen, die Szenarien zeigten, die in der Realität niemals stattgefunden haben. Dazu gehörten unter anderem:

* Ein umgekippter Eiffelturm.

* Eine im Boden versunkene Pyramide in Gaza.

* Ein öffentlicher Park direkt vor dem Weißen Haus.

* Fiktive Atomkraftwerke im Iran oder Flüchtlingslager an sensiblen Grenzübergängen.

Die Gefahr für die öffentliche Wahrnehmung ist dabei besonders hoch, da die Fälschungen das vertrauenswürdige Erscheinungsbild von Google Earth nutzten. Selbst spezialisierte KI-Erkennungs-Tools, die von der BBC eingesetzt wurden, fielen in einigen Fällen auf die Manipulationen herein und konnten die Bilder nicht als KI-generiert identifizieren.

Die Reaktion des Herstellers

Google begründete den sofortigen Rückzug der Funktion damit, dass Nutzer begannen, Screenshots der generierten Bilder zu verbreiten, die gegen die eigenen Richtlinien verstießen. Das Unternehmen räumte ein, dass zwar viele Geospatial-Experten das Werkzeug für legitime und sinnvolle Zwecke genutzt hätten, die Missbrauchsgefahr jedoch eine sofortige Maßnahme erforderte.

Wie geht es weiter?

Obwohl die Funktion derzeit deaktiviert ist, deutet Google an, dass die Entwicklung nicht vollständig eingestellt wurde. Das Unternehmen arbeitet nach eigenen Angaben an einer überarbeiteten Version, die mit „strengeren Sicherungen“ ausgestattet sein soll. Wann und in welcher Form eine solche Funktion wieder zur Verfügung stehen könnte, bleibt abzuwarten. Der Vorfall unterstreicht jedoch die Herausforderungen, vor denen Technologiekonzerne stehen, wenn sie generative KI in Plattformen integrieren, die traditionell als verlässliche Informationsquellen für geografische und historische Daten dienen.