KI-Prompts: Wie Hugging Face für pornografische Inhalte genutzt wird

Die Rolle von Hugging Face bei KI-generierten Inhalten

Hugging Face gilt als eine der zentralen Anlaufstellen für die Entwicklung und Bereitstellung von KI-Modellen. Die Plattform ermöglicht es Nutzern, eigene Anwendungen zu hosten und auf eine Vielzahl von Modellen zuzugreifen. Doch genau diese Offenheit zieht auch Akteure an, die die Technologie für die Erstellung pornografischer oder erotischer Inhalte nutzen. Ein aktueller Bericht der europäischen NGO AI Forensics wirft nun ein Schlaglicht auf die Praktiken innerhalb der Community und kritisiert die niedrigen Hürden für den Zugriff auf solche Angebote.

Ergebnisse der Untersuchung: Ein hoher Anteil an expliziten Anfragen

Für die Analyse wählte AI Forensics einen methodischen Ansatz, der auf sogenannten Honeypots basierte. Die Organisation richtete eigene „Spaces“ auf der Plattform ein, um die von Nutzern eingegebenen Prompts zu erfassen. Über einen Zeitraum von einer Woche wurden dabei 1.081 Abfragen registriert. Obwohl die Test-Module selbst keine Bilder generierten, werteten die Forscher die eingegebenen Befehle nacht，um das Nutzerverhalten zu klassifizieren. Hierfür wurde das Sprachmodell Google Gemma 4 32B eingesetzt.

Die Ergebnisse sind bemerkenswert: Rund 73 Prozent der untersuchten Anfragen zielten darauf ab, explizite Inhalte zu erzeugen. Bei der weiteren Auswertung der Prompts zeigte sich zudem eine deutliche geschlechtsspezifische Tendenz: 94 Prozent der generierten Inhalte bezogen sich auf Frauen. Besonders kritisch bewerten die Autoren des Berichts den Umstand, dass etwa 6,7 Prozent der analysierten Prompts darauf abzielten, Minderjährige in expliziten Kontexten darzustellen.

Die Problematik der Altersverifikation

Der Kern der Kritik von AI Forensics richtet sich nicht primär gegen die Existenz von erotischen Inhalten an sich, sondern gegen die technische Umsetzung der Zugangsbeschränkungen. Die Untersuchung zeigt, dass die meisten Module, die für die Erstellung solcher Inhalte genutzt werden, kaum wirksame Schutzmechanismen bieten. Oftmals beschränkt sich die Altersverifikation auf einen einfachen Button-Klick, der vom Nutzer bestätigt werden muss. Eine echte Überprüfung des Alters findet in diesen Fällen nicht statt.

Einfache Auffindbarkeit durch Tags und Suchbegriffe

Die Plattform bietet vielfältige Möglichkeiten, entsprechende Module ausfindig zu machen. Durch die gezielte Suche nach Begriffen wie „NSFW“ (Not Safe For Work) oder anderen Schlagworten lassen sich innerhalb kürzester Zeit über 100 verschiedene Module identifizieren. Diese reichen von der Generierung von Bildern, Comics und Videos bis hin zu Sprachmodellen, die erotische Texte verfassen oder den sogenannten Face-Swap ermöglichen, bei dem Gesichter von Personen ausgetauscht werden können.

Einordnung und Ausblick

Der Bericht von AI Forensics verdeutlicht die Herausforderungen, vor denen Plattformbetreiber im Bereich der generativen KI stehen. Während die Offenheit von Hugging Face einerseits Innovationen fördert, schafft sie andererseits Räume für Inhalte, die ethische und rechtliche Fragen aufwerfen. Die Organisation betont, dass die derzeitigen Sicherheitsvorkehrungen den Missbrauch, insbesondere im Hinblick auf Minderjährige, nicht ausreichend verhindern.

Für die Betreiber der Plattform stellt sich nun die Frage, wie die Balance zwischen dem Anspruch auf eine offene Infrastruktur und der Verantwortung für die Inhalte gewahrt werden kann. Da die Untersuchung bewusst auf die Erfassung von Metadaten wie IP-Adressen oder Nutzerkonten verzichtete, liegt der Fokus der Debatte vorerst auf der systemischen Gestaltung der Plattform und der Notwendigkeit robusterer Verifikationsprozesse.