Nano Banana: KI-Funktion von Google Earth wegen Missbrauchs abgeschaltet

Ein kurzer Auftritt mit weitreichenden Folgen

Google hat die erst kürzlich eingeführte KI-Funktion „Nano Banana“ in seinem Kartendienst Google Earth überraschend wieder vom Netz genommen. Die Deaktivierung erfolgte weniger als 48 Stunden nach der offiziellen Freischaltung. Der Schritt wurde notwendig, nachdem Berichte über den massiven Missbrauch der Technologie die Runde machten. Das auf dem hauseigenen Modell „Nano Banana 2“ basierende Werkzeug erlaubte es Anwendern, mittels einfacher Texteingaben künstlich generierte Objekte in reale Satelliten-, Luft- und 3D-Aufnahmen einzubetten.

Manipulation von Realität durch KI-Befehle

Das Funktionsprinzip von Nano Banana war simpel: Nutzer konnten per Textbefehl definieren, welche Elemente in das Kartenmaterial eingefügt werden sollten. Die KI platzierte diese Objekte anschließend direkt in die bestehenden Ansichten. Problematisch war dabei nicht nur die technische Umsetzung, sondern die Möglichkeit, die so manipulierten Bilder zu speichern und anschließend unkontrolliert zu verbreiten.

Wie Recherchen von BBC Verify zeigten, war das Spektrum der Manipulationen breit gefächert. Die Tester konnten unter anderem:

* Einen eingestürzten Eiffelturm in Paris erzeugen.

* Die Cheops-Pyramiden in Gizeh durch fiktive Krater „verschwinden“ lassen.

* Militärische Szenarien, etwa russische Panzer in Kyjiw, in das Kartenmaterial einfügen.

Die Gefahr liegt im Kontext, nicht im Detail

Sicherheitsforscher warnen davor, die Gefahr der Technologie zu unterschätzen. Das Hauptrisiko besteht laut Experten nicht in einer fotorealistischen Perfektion der generierten Objekte, sondern in der sogenannten „Autorität“ der Plattform. Da die KI-Elemente auf echtem, geografisch korrektem Kartenmaterial mit entsprechenden Koordinaten platziert wurden, gewinnen sie für den Betrachter eine Glaubwürdigkeit, die sie alleinstehend nicht hätten.

In der Sicherheitsanalyse wurden weitere kritische Beispiele identifiziert, darunter die Erstellung einer fiktiven Nuklearanlage im Iran, eines Lagers an der Grenze zwischen den USA und Mexiko sowie eines beschädigten Krankenhauses in Gaza. Diese Beispiele verdeutlichen, wie leicht sich die Funktion instrumentalisieren ließ, um politische oder kriegerische Ereignisse vorzutäuschen und somit Desinformation zu verbreiten.

Reaktion von Google und zukünftige Herausforderungen

Google hat auf die Kritik reagiert und das Werkzeug vorerst pausiert. In einer Stellungnahme räumte das Unternehmen ein, dass man Screenshots von Inhalten gesehen habe, die gegen die eigenen Richtlinien verstoßen. Die Technologie soll erst dann wieder zur Verfügung stehen, wenn deutlich stärkere Schutzmechanismen implementiert wurden.

Die Vorfälle werfen ein Schlaglicht auf die Herausforderungen bei der Implementierung generativer KI in bestehende Dienste, die als verlässliche Informationsquelle gelten. Die Lücken in den Sicherheitsvorkehrungen, insbesondere bei der Kennzeichnung durch Wasserzeichen, machten es den Nutzern zu einfach, die Herkunft der manipulierten Bilder zu verschleiern. Für die weitere Entwicklung von KI-gestützten Kartendiensten wird es entscheidend sein, eine Balance zwischen kreativen Funktionen und der Integrität geografischer Daten zu finden, um das Vertrauen der Nutzer in digitale Kartenwerke nicht nachhaltig zu gefährden.