Absichtlich schlecht: ChatTJB zeigt, warum du Chatbots nicht blind vertrauen solltest

Ein digitaler Spiegel für die KI-Euphorie

In der aktuellen Technologielandschaft dominieren KI-Tools, die durch Schnelligkeit und eine überzeugende Ausdrucksweise bestechen. Doch ein neues Projekt namens ChatTJB setzt einen bewussten Gegenpunkt. Was auf den ersten Blick wie ein weiteres KI-Startup aus San Francisco wirkt, entpuppt sich bei genauerem Hinsehen als ein öffentliches Kunstprojekt. Hinter der Fassade einer vermeintlich fortschrittlichen Technologie verbirgt sich kein komplexer Algorithmus, sondern ein Mensch: Tucker Bryant, ein ehemaliger Google-Mitarbeiter und Künstler.

Die Website von ChatTJB ist täuschend echt gestaltet und imitiert den Stil moderner KI-Unternehmen. Erst ein Blick in das Kleingedruckte offenbart die Wahrheit: Die Abkürzung „AI“ steht hier nicht für künstliche Intelligenz, sondern für „average individual“. Nutzer, die eine Anfrage stellen, erhalten keine automatisierte Antwort, sondern werden von Bryant persönlich bedient – sofern er wach und motiviert ist.

Die Rückkehr der menschlichen Reibung

Bryant verfolgt mit seinem Projekt ein klares Ziel: Er möchte die „Reibung“ in den digitalen Dialog zurückbringen. In einer Welt, in der Nutzer an die sofortige Verfügbarkeit von KI-generierten Antworten gewöhnt sind, wirkt die bewusste Langsamkeit von ChatTJB wie ein Störfaktor. Der Erfinder betont, dass er kein grundsätzlicher Gegner von KI-Technologien sei. Vielmehr kritisiert er die Art und Weise, wie Menschen heute mit diesen Systemen interagieren.

Die zentrale Beobachtung ist, dass die Gesellschaft verlernt hat, die selbstbewussten und oft brillant formulierten Antworten von Sprachmodellen kritisch zu hinterfragen. Während große Technologiekonzerne um die Vorherrschaft bei KI-Modellen wetteifern, liefert ChatTJB Antworten, die als „biologisch“ und „vollständig interpretierbar“ bezeichnet werden. Fehler, die hier entstehen, sind menschlich und lassen sich direkt auf die Person zurückführen, die sie verfasst hat.

Das Risiko der kognitiven Kapitulation

Der Hintergrund für Bryants satirisches Projekt ist ein ernsthaftes psychologisches Phänomen, das in der Forschung als „kognitive Kapitulation“ bezeichnet wird. Wissenschaftler der Wharton Business School haben diesen Begriff geprägt, um die Tendenz zu beschreiben, kritisches Denken an KI-Systeme auszulagern. Wenn Nutzer dazu neigen, den Ratschlägen von Chatbots blind zu vertrauen, steigt die Gefahr, dass sie selbst dann falsche oder irreführende Informationen akzeptieren, wenn diese offensichtlich fehlerhaft sind.

Dieser Prozess ähnelt dem sogenannten „Deskilling“, einem Effekt, der bereits von Navigationssystemen bekannt ist. Wer sich blind auf die Technik verlässt, verliert die eigene Orientierungsfähigkeit. Eine Studie des MIT unterstreicht diese Problematik: Menschen, die zu stark auf KI vertrauen, verlieren zunehmend die Fähigkeit, Falschinformationen eigenständig zu identifizieren. Die Forscherin Anku Rani warnt in diesem Zusammenhang vor einer unkritischen Begeisterung und erinnert daran, dass KI-Systeme lediglich statistische Vorhersagen treffen, keine Wahrheiten verkünden.

Parallelen zu globalen Protestbewegungen

ChatTJB ist nicht das einzige Projekt, das durch den Einsatz menschlicher Arbeit auf die Grenzen der KI aufmerksam macht. Bereits im Februar 2026 demonstrierten Einwohner der chilenischen Gemeinde Quilicura mit dem Projekt „Quili.ai“ gegen die ökologischen Folgen von Rechenzentren. In einer zwölfstündigen Aktion beantworteten Freiwillige über 25.000 Anfragen von Hand.

Der Hintergrund dieser Aktion war der massive Ressourcenverbrauch durch KI-Infrastruktur. Da die Region unter einer langjährigen Dürre leidet, verdeutlichte das Projekt den direkten Konflikt zwischen dem hohen Wasserbedarf der KI-Kühlung und den lokalen Lebensbedingungen.

Diese Beispiele zeigen, dass die kritische Auseinandersetzung mit KI-Systemen zunehmend auf verschiedenen Ebenen stattfindet: von der psychologischen Abhängigkeit des Nutzers bis hin zu den physischen Auswirkungen auf die Umwelt. Für die Zukunft bleibt die Frage, wie Anwender ihre Urteilsfähigkeit bewahren können, während die Technologie immer nahtloser in den Alltag integriert wird.