KI-Slop bei PwC: GPTZero findet falsche Daten und halluzinierte Quellen

Qualitätsmängel in PwC-Publikationen durch KI-Einsatz

Das Beratungsunternehmen PwC sieht sich mit Vorwürfen konfrontiert, wonach mehrere seiner offiziellen Berichte fehlerhafte Informationen enthalten. Die auf die Erkennung von KI-generierten Texten spezialisierte Plattform GPTZero hat in verschiedenen Publikationen des Unternehmens schwerwiegende Mängel identifiziert. Diese reichen von inhaltlichen Fehlern über erfundene Statistiken bis hin zu Quellenangaben, die in der Realität nicht existieren.

Von halluzinierten Methoden bis zu falschen Statistiken

Ein besonders kritisches Beispiel ist der Bericht "Transforming Governance" aus dem Jahr 2025. Laut der Analyse von GPTZero ist dieses Dokument vollständig KI-generiert. Darin wird eine Methode namens "Citizen Pulse" beschrieben, deren Anwendung durch Regierungen in Ländern wie den USA, Saudi-Arabien, Australien und Dänemark behauptet wird. Die angeführten Belege stützen diese Behauptung jedoch nicht; sie existieren in der genannten Form schlichtweg nicht.

Auch in anderen Themenbereichen wie Mobilität, Cybersicherheit und der Wirtschaftspolitik der Golfstaaten wurden Unstimmigkeiten festgestellt. Ein Beispiel für die fehlerhafte Datenverarbeitung ist die Angabe zur Anzahl der Ladestationen in China: Während der Bericht 13 Millionen Einheiten nennt, liegt die tatsächliche Zahl laut den verfügbaren Daten bei 3,58 Millionen. Zudem wurden Autoren zitiert, deren Forschungsdaten sich als frei erfunden herausstellten.

Technische Spuren der KI-Nutzung

Die Ermittlungen von GPTZero stützen sich nicht nur auf die inhaltliche Prüfung, sondern auch auf technische Indizien. Ein direkter Hinweis auf den Einsatz von ChatGPT fand sich in einem Quelllink, der den Parameter "utm_source=chatgpt.com" enthielt. Dies deutet darauf hin, dass die Inhalte direkt aus einer KI-Sitzung übernommen wurden.

Ein weiteres Indiz für die automatisierte Erstellung sind die verwendeten Quellenbeschreibungen. Anstatt die für den Leser sichtbaren Titel zu verwenden, wurden teilweise die Titel aus den HTML-Metadaten der Quellseiten übernommen. In einem Fall, der den Unterschied zwischen schnellem und logischem Denken thematisierte, wurden ChatGPT-Modelle als Beleg angeführt. Die verlinkte Quelle enthielt jedoch weder die genannten Begriffe noch die Modelle. GPTZero interpretiert dies als Anzeichen dafür, dass die KI ihre eigenen internen Informationen fälschlicherweise in die Quellenbeschreibung integriert hat.

Die Problematik des sogenannten KI-Slop

Neben den faktischen Fehlern kritisieren Beobachter das Auftreten von sogenanntem "KI-Slop". Dabei handelt es sich um Texte, die zwar sprachlich versiert wirken, inhaltlich jedoch leer und hochtrabend sind. Diese Art der automatisierten Textproduktion führt dazu, dass die Substanz von Berichten namhafter Unternehmen zunehmend verwässert wird.

Die Vorfälle werfen ein Schlaglicht auf die Risiken, die mit dem unkritischen Einsatz generativer KI in der professionellen Berichterstattung verbunden sind. Wenn KI-Systeme ohne menschliche Validierung zur Erstellung von Fachpublikationen genutzt werden, droht ein Vertrauensverlust in die Qualität und Verlässlichkeit der Analyseergebnisse. Für Unternehmen wie PwC stellt sich nun die Frage, wie die internen Qualitätssicherungsprozesse angepasst werden müssen, um derartige Halluzinationen in Zukunft zu verhindern und die Integrität ihrer Publikationen zu wahren.