iMessage-Filter: Hundebäuche im Video unsichtbar gemacht – wegen Kinderschutz

Wenn der Algorithmus den Hund für nackt hält

Apples Sicherheitsfunktionen für iOS, iPadOS und macOS sollen Nutzer vor unerwünschten, expliziten Inhalten schützen. Doch die automatische Erkennung, die seit der Einführung von iOS 17 im Herbst 2023 aktiv ist, zeigt in der Praxis deutliche Schwächen. Wie Berichte aus den USA belegen, stuft die Software harmlose Aufnahmen von Tieren mitunter als „sensiblen Inhalt“ ein. So wurde ein Video, das einen auf dem Rücken liegenden Hund beim Streicheln zeigt, aufgrund der sichtbaren Hautpartien am Bauch blockiert.

Die betroffenen Nutzer erhalten in einem solchen Fall eine Warnmeldung, die den Zugriff auf das Medium zunächst einschränkt. Erst durch eine manuelle Bestätigung („Anzeigen“) lässt sich das Bild oder Video betrachten. Apple hat zudem eine Hilfefunktion integriert, die bei Bedarf weiterführende Unterstützung anbietet.

Lokale Analyse statt Cloud-Überwachung

Ein zentraler Aspekt der Apple-Strategie ist der Datenschutz. Die Analyse der Inhalte erfolgt laut Hersteller vollständig „on device“. Das bedeutet, dass die Erkennung mittels maschinellem Lernen direkt auf dem Endgerät stattfindet. Apple betont in diesem Zusammenhang, dass keine Informationen über die Inhalte an das Unternehmen übertragen werden und kein Zugriff auf die privaten Nachrichten der Nutzer besteht.

Die automatische Zensur beschränkt sich dabei nicht nur auf den Empfang von Dateien. Je nach Konfiguration des Geräts greift der Filter auch beim Versand. Nutzer werden in diesem Fall gefragt, ob sie die Aufnahme tatsächlich verschicken möchten, wenn das System darin potenziell problematische Inhalte erkennt. Neben Hunden sind in der Vergangenheit auch andere Tiere, etwa Rehe auf Wildkamera-Aufnahmen, von der fehlerhaften Klassifizierung betroffen gewesen.

Ausblick: Erweiterung auf Gewalt und Gore

Die Funktion „Warnung vor sensiblen Inhalten“ lässt sich in den Systemeinstellungen unter dem Menüpunkt „Datenschutz & Sicherheit“ steuern. Während die Technologie aktuell primär auf die Erkennung von Nacktdarstellungen ausgelegt ist, plant Apple eine deutliche Ausweitung des Funktionsumfangs. Mit kommenden Versionen wie iOS 27, iPadOS 27 und macOS 27 soll das System zusätzlich in der Lage sein, gewalttätige Inhalte sowie „Gore“ – also explizite blutige Szenen – zu identifizieren.

Für Kinderkonten ist die Sicherheitsfunktion standardmäßig aktiviert, um den Jugendschutz zu forcieren. Ob Apple die Fehlerrate bei der Erkennung von Tierhaut durch Anpassungen der Algorithmen senken wird, bleibt abzuwarten. Auf Anfragen zu den aktuellen Vorfällen hat sich das Unternehmen bisher nicht geäußert.