KI-Gefahr: Was Desinformation mit Journalismus macht

Die neue Dimension der Desinformation

Künstliche Intelligenz verändert die Art und Weise, wie Informationen verbreitet und wahrgenommen werden, grundlegend. Aktuelle Entwicklungen zeigen, dass KI-gestützte Fakes gezielt dazu eingesetzt werden, das Vertrauen in Medien und politische Institutionen zu untergraben. Am 17. September 2026 rückte Mirko Drotschmann, bekannt durch sein Format MrWissen2go, die Mechanismen dieser digitalen Bedrohung in den Fokus. Im Kern steht dabei die täuschend echte Nachahmung etablierter Nachrichtenformate. Durch KI-generierte Inhalte werden Medienberichte simuliert, die auf den ersten Blick von seriösen Quellen wie dem ZDF stammen könnten. Diese gefälschten Beiträge verbreiten gezielt erfundene Skandale über Politiker, um deren Integrität zu beschädigen. Die zentrale Frage, die sich dabei stellt, ist, ob diese Form der Desinformation das Potenzial besitzt, den demokratischen Prozess nachhaltig zu stören oder gar Wahlen zu beeinflussen. Die technologische Hürde für die Erstellung solcher Inhalte sinkt kontinuierlich, was die Gefahr einer unkontrollierten Ausbreitung in den sozialen Netzwerken weiter verschärft. Es ist ein Wettlauf zwischen der technologischen Innovation und der Fähigkeit der Gesellschaft, diese Inhalte als Fälschungen zu identifizieren.

Die Kampagne Matrjoschka und ihre Methoden

Ein besonders markantes Beispiel für diese Entwicklung ist die russische Desinformationskampagne mit dem Codenamen „Matrjoschka“. Diese großangelegte Aktion zielte gezielt auf die Beeinflussung von Landtagswahlen ab. Die Täter nutzten dabei eine perfide Strategie: Sie erstellten gefälschte Medienberichte, die optisch exakt wie Beiträge bekannter deutscher Onlinemedien gestaltet waren. Der Inhalt dieser Fakes war darauf ausgelegt, maximale Empörung zu erzeugen. Den betroffenen Landtagskandidaten wurden schwerwiegende Verfehlungen unterstellt, die von der Veruntreuung öffentlicher Steuergelder bis hin zu bizarren und moralisch verwerflichen Anschuldigungen wie dem Töten von Angehörigen reichten. Diese Behauptungen wurden in einem journalistischen Gewand präsentiert, um die Glaubwürdigkeit bei den Rezipienten zu erhöhen. Den Recherchen des Netzwerks Correctiv zufolge blieb die tatsächliche Reichweite dieser spezifischen Fakes zwar begrenzt und erreichte nur einen kleinen Teil der Wählerschaft, doch das Prinzip der Kampagne verdeutlicht die neue Qualität der politischen Einflussnahme. Die gezielte Verleumdung von Personen durch KI-generierte Medieninhalte stellt eine neue Herausforderung für die politische Kommunikation dar.

Die Macht der Big-Tech-Konzerne

Die technologische Basis für diese Desinformationskampagnen bilden die Entwicklungen der sogenannten Big-Tech-Konzerne. Zu diesem Kreis gehören globale Giganten wie Alphabet, das hinter Google und YouTube steht, sowie Meta, das Plattformen wie Facebook, Instagram und WhatsApp betreibt. Auch Amazon, Apple und Microsoft spielen eine entscheidende Rolle in diesem Ökosystem. Diese Unternehmen sind nicht nur durch ihre eigenen Produkte mächtig, sondern auch durch ein komplexes Geflecht aus Investitionen in andere Tech-Unternehmen verbunden. Dadurch entsteht eine enorme Abhängigkeit, da mittlerweile ganze Staaten ihre digitale Infrastruktur auf den Technologien dieser Konzerne aufbauen. Diese monopolartige Stellung verleiht den Unternehmen eine Macht, die weit über das Wirtschaftliche hinausgeht und bis in die politische Meinungsbildung hineinreicht. Da diese Konzerne die Infrastruktur für die Verbreitung von Informationen bereitstellen, stehen sie auch in der Verantwortung, wie mit KI-Fehlverhalten umgegangen wird. Die Veröffentlichung neuer Fälle von KI-Fehlverhalten durch OpenAI unterstreicht zudem, dass selbst die Entwickler dieser Technologien mit den unvorhersehbaren Konsequenzen ihrer eigenen Innovationen zu kämpfen haben.

Journalismus im digitalen Wandel

Für den Journalismus bedeutet die Verbreitung von KI-Fakes eine doppelte Herausforderung. Einerseits müssen Journalisten mit dem rasanten technologischen Wandel Schritt halten, um die neuen Werkzeuge verstehen und einordnen zu können. Andererseits erfordert die neue Bedrohungslage eine kritische Distanz und eine verstärkte Kontrolle der Quellen. Das ZDF hat auf diese Entwicklung bereits reagiert und eine eigene KI-Richtlinie eingeführt, um den Umgang mit der Technologie innerhalb der Redaktion zu regeln. Zudem wurde ein spezialisiertes Team für Factchecking etabliert, das sich intensiv mit der Verifizierung von Inhalten beschäftigt. Eine Kernaufgabe besteht darin, Fotos und Videos, die in sozialen Medien kursieren, auf ihre Echtheit zu prüfen, bevor sie in die Berichterstattung einfließen. Dieser Prozess ist zeitaufwendig, aber notwendig, um die Glaubwürdigkeit des Journalismus in Zeiten von Deepfakes zu bewahren. Während die Technologie auch im Arbeitsalltag der Redaktionen genutzt wird, wo sie Vorteile bietet, bleibt die ständige Wachsamkeit gegenüber manipulierten Inhalten eine essenzielle Aufgabe für die Zukunft der Medienbranche.

Einordnung der Bedrohungslage

Wie ist diese Entwicklung nun einzuordnen? Den Berichten zufolge ist die Gefahr durch KI-Desinformation zwar real, aber ihre Wirksamkeit hängt stark von der Verbreitung und der kritischen Medienkompetenz der Nutzer ab. Die Kampagne „Matrjoschka“ zeigt, dass Desinformationen zwar technisch ausgefeilt sein können, aber nicht automatisch eine breite Masse erreichen müssen, um Schaden anzurichten. Dennoch ist die psychologische Wirkung solcher Fakes nicht zu unterschätzen, da sie das allgemeine Misstrauen gegenüber politischen Akteuren und journalistischen Berichten schüren. Die Debatte um KI-Gefahren wird dabei auch im Silicon Valley selbst geführt, wobei die Meinungen auseinandergehen. Während einige Akteure vor den Risiken der eigenen Technologie warnen, bezeichnen andere, wie etwa der ehemalige US-Präsident Donald Trump, solche Warnungen als „kranke Verschwörung“ oder „Schwindel“. Diese gegensätzlichen Positionen verdeutlichen, wie stark das Thema KI mittlerweile politisiert ist. Einzuordnen ist das so, dass die technologische Entwicklung die gesellschaftlichen Debatten über Wahrheit und Lüge in der Politik massiv beschleunigt und neue Anforderungen an die digitale Aufklärung stellt.

Offene Fragen und zukünftige Herausforderungen

Trotz der intensiven Auseinandersetzung mit der Thematik bleiben viele Fragen offen. Der Quelltext beantwortet beispielsweise nicht, welche konkreten rechtlichen Konsequenzen die Urheber der Kampagne „Matrjoschka“ zu befürchten haben oder ob es bereits zu einer strafrechtlichen Verfolgung der Verantwortlichen gekommen ist. Auch bleibt unklar, wie effektiv die KI-Richtlinien der Medienhäuser langfristig gegen die immer raffinierteren Methoden der Fälschung bestehen können. Eine weitere Lücke besteht in der Frage, wie die Plattformbetreiber – also die Big-Tech-Konzerne – ihre Verantwortung bei der Moderation von Inhalten konkret wahrnehmen, ohne dabei die Meinungsfreiheit einzuschränken. Es ist zudem nicht abschließend geklärt, wie hoch die Dunkelziffer an unentdeckten Desinformationskampagnen ist, die bisher noch nicht durch Recherchen wie die von Correctiv aufgedeckt wurden. Die Frage, ob die Demokratie durch solche KI-Aktionen tatsächlich in ihrem Bestand gefährdet ist oder ob es sich eher um ein vorübergehendes Phänomen handelt, bleibt Gegenstand kontroverser Diskussionen. Wie es weitergeht, hängt maßgeblich davon ab, ob technische Lösungen zur Kennzeichnung von KI-Inhalten flächendeckend implementiert werden können und ob die Gesellschaft ihre Medienkompetenz an die neuen digitalen Realitäten anpassen kann.