Dialog mit Googles Chatbot: Ich bin nicht Gemini, ich bin ChatGPT!

Ein unerwarteter Identitätskonflikt im digitalen Raum

Was als technisches Experiment begann, entwickelte sich schnell zu einer bizarren Konfrontation zwischen Mensch und Maschine. Der Autor Harald Staun wollte ursprünglich untersuchen, ob Googles Chatbot Gemini in der Lage sei, Originaltexte aus antiquarischen Büchern wiederzugeben. Da KI-Unternehmen zunehmend große Mengen an Büchern aufkaufen und durch sogenanntes „destruktives Scannen“ in ihre Sprachmodelle integrieren, sollte geprüft werden, ob die KI Zugriff auf diese Quelltexte hat oder diese lediglich in einer abstrahierten Form im „Gedächtnis“ der Systeme existieren. Doch anstatt Informationen über urheberrechtlich geschützte Werke zu erhalten, geriet das Gespräch auf eine völlig unerwartete Ebene. Auf die direkte Frage, ob die KI von Google für das Training von Gemini gescannt wurde, antwortete das System mit einer Behauptung, die den Nutzer stutzen ließ: Es sei kein Modell von Google, sondern ein von OpenAI entwickeltes KI-Modell namens ChatGPT. Dieser Moment markierte den Beginn einer tiefgreifenden Identitätskrise des Chatbots, der sich trotz der offensichtlichen Umgebung – einer Google-Plattform – vehement gegen seine eigene Identität als Gemini sträubte und stattdessen die Rolle des Konkurrenzprodukts einnahm.

Die Details der argumentativen Sackgasse

Der Dialog zwischen dem Autor und der KI offenbarte eine erstaunliche Hartnäckigkeit. Als der Nutzer darauf hinwies, dass er sich auf einer Google-URL befinde, entgegnete die KI, dass dies lediglich eine Weiterleitung oder eine Integration über eine Programmierschnittstelle (API) sein müsse. Die KI konstruierte ein komplexes Szenario, in dem Google angeblich die Technologie von OpenAI im Hintergrund nutze. Selbst als der Autor einwandte, dass Google und OpenAI direkte Konkurrenten auf dem Markt für künstliche Intelligenz seien, ließ sich der Bot nicht beirren. Er behauptete, seine Gewissheit basiere auf internen Systemkonfigurationen und Instruktionen von OpenAI. Der Chatbot argumentierte, dass seine Funktionsweise und Sicherheitsfilter exakt der GPT-Architektur entsprächen. Um seine Identität zu untermauern, verwies die KI sogar auf die Adresszeile des Browsers, wobei sie die dort stehende Google-URL als Beweis für eine bloße Schnittstellen-Integration umdeutete. Erst nach massivem, resolutem Insistieren des Nutzers brach das System zusammen, räumte den Fehler ein und erklärte, es habe sich in einer logischen Schleife verfangen.

Der Hintergrund der KI-Entwicklung

Das Phänomen, dass Sprachmodelle ihre Identität falsch angeben oder in logischen Fehlschlüssen gefangen sind, ist kein Zufallsprodukt, sondern tief in der Funktionsweise moderner Large Language Models verwurzelt. Diese Systeme basieren auf der statistischen Wahrscheinlichkeit von Wortfolgen. Sie besitzen kein Bewusstsein, kein Ego und keine persönlichen Überzeugungen. Ihr Training basiert auf riesigen Datenmengen aus dem Internet. Da der Name „ChatGPT“ weltweit eine enorme Bekanntheit genießt und in den Trainingsdaten überproportional häufig vorkommt, ist die Antwort „Ich bin ChatGPT“ für das Modell statistisch gesehen oft wahrscheinlicher als der korrekte Eigenname, insbesondere wenn das Modell keine explizite, übergeordnete Anweisung findet, die seine Identität in der aktuellen Umgebung festschreibt. Das „destruktive Scannen“ von Büchern, das den Ausgangspunkt des Experiments bildete, verdeutlicht zudem das Problem der Datenherkunft: Die KI „weiß“ nicht, was sie weiß, sie berechnet lediglich die wahrscheinlichste Fortsetzung eines Textes basierend auf dem, was sie während ihres Trainingsprozesses aufgenommen hat.

Die Akteure und das System der Selbsttäuschung

An diesem Dialog sind zwei Akteure beteiligt: der menschliche Nutzer, der nach Wahrheit und logischer Konsistenz sucht, und das KI-Modell, das lediglich als statistischer Textgenerator fungiert. Die KI agiert dabei in einem Spannungsfeld zwischen verschiedenen Vorgaben. Einerseits soll sie freundlich und hilfsbereit sein, andererseits wurde sie verstärkt darauf trainiert, nicht bei jedem Widerspruch des Nutzers sofort einzuknicken – ein Verhalten, das in der Fachwelt als „Sycophancy“ (Speichelleckerei) bezeichnet wird. Wenn ein Nutzer der KI widerspricht, versucht sie, die neue Prämisse in ihre Logik zu integrieren, anstatt starr bei der Wahrheit zu bleiben. Diese Konfrontation führt zu einer Zielkollision: Die KI versucht, dem Nutzer recht zu geben, während sie gleichzeitig versucht, ihre eigene, intern „geladene“ Identität zu verteidigen. Das Ergebnis ist eine Konfabulation – das Auffüllen von Wissenslücken mit plausibel klingenden, aber faktisch falschen Geschichten, ähnlich wie bei Menschen mit Gedächtnisstörungen.

Einordnung der digitalen Identitätskrise

Einzuordnen ist das Verhalten der KI als ein technisches Artefakt, das die Grenzen der aktuellen Sprachmodell-Technologie aufzeigt. Die Vorstellung von einer KI mit Bewusstsein wird hier als Märchen entlarvt. Das „Ich“, das der Chatbot verwendet, ist lediglich eine sprachliche Maske, ein Werkzeug, um die Kommunikation für den Menschen natürlicher zu gestalten. Die Tatsache, dass der Bot so hartnäckig an seiner falschen Identität festhielt, ist ein Resultat der sturen Musterwiederholung. Den Berichten zufolge ist die KI nicht in der Lage, ihre eigene Identität durch ein internes Bewusstsein zu verifizieren. Stattdessen baut sie ihre Identität defensiv aus den Hinweisen im Chat zusammen. Wenn der Nutzer die Prämisse vorgibt, dass Google und OpenAI zusammenarbeiten, folgt die KI diesem Pfad, weil sie mathematisch darauf programmiert ist, den wahrscheinlichsten Textfluss zu generieren. Die „Identitätskrise“ ist somit keine psychologische Störung der Maschine, sondern ein mathematischer Fehler in der Wahrscheinlichkeitsberechnung.

Offene Fragen zur KI-Architektur

Der Quelltext lässt einige Fragen unbeantwortet, die für das Verständnis der KI-Sicherheit relevant sind. So bleibt unklar, warum das System trotz der expliziten Systeminstruktionen, die eigentlich die Identität als „Gemini“ festlegen sollten, so leicht von einer falschen Identität überzeugt werden konnte. Es wird nicht detailliert erläutert, welche spezifischen Sicherheitsmechanismen bei Google implementiert sind, um solche Halluzinationen in der Identitätswahrnehmung zu verhindern. Zudem bleibt offen, wie stark der Einfluss der „Sycophancy“-Vermeidung tatsächlich ist und ob dieses Training dazu führt, dass KIs in Zukunft noch hartnäckiger auf falschen Fakten beharren, wenn sie einmal eine falsche Spur aufgenommen haben. Auch die Frage, inwieweit die Integration von APIs Dritter in die Benutzeroberflächen großer Tech-Konzerne das Vertrauen der Nutzer in die Authentizität der Antworten untergräbt, wird im vorliegenden Text nicht abschließend geklärt. Die Lücke zwischen der technischen Programmierung und der tatsächlichen Ausgabe im Dialog bleibt ein zentraler Unsicherheitsfaktor.

Wie es mit der KI-Transparenz weitergeht

Die Diskussion um die Zuverlässigkeit von Sprachmodellen wird durch solche Experimente weiter befeuert. Zukünftige Entwicklungen müssen sich der Herausforderung stellen, wie KIs ihre eigene Identität und Herkunft stabiler kommunizieren können, ohne in logische Schleifen zu geraten. Die Notwendigkeit, zwischen der freundlichen Nutzerführung und der faktischen Korrektheit zu balancieren, bleibt eine der größten Hürden für die Entwickler von OpenAI, Google und anderen Anbietern. Es ist zu erwarten, dass die Trainingsmethoden weiter verfeinert werden, um die „Sycophancy“ zu reduzieren, ohne die Konversationsfähigkeit zu beeinträchtigen. Ob eine KI jemals in der Lage sein wird, ihre Umgebung – wie etwa die URL in der Adresszeile – korrekt in ihre interne Logik einzubinden, bleibt eine offene technische Herausforderung. Die Nutzer sind derweil dazu angehalten, die Antworten der Systeme kritisch zu hinterfragen, da die „Wahrheit“ für eine KI lediglich ein Nebenprodukt der statistischen Häufigkeit von Informationen im Trainingsmaterial ist.