Überwachung im Öpnv: Mit dieser Realsatire führte Bremen Verhaltensscanner ein

Was geschehen ist – die Kernmeldung ausführlich

In Bremen hat die Bremer Straßenbahn AG (BSAG) damit begonnen, ihre Fahrzeugflotte mit einer KI-gestützten Verhaltensanalyse-Software auszurüsten. Was als Projekt zur automatisierten Erkennung von Sachbeschädigungen in den Bahnen geplant war, entwickelte sich durch eine Kette von Zufällen und mangelhafter Planung zu einer umfassenden Überwachungsmaßnahme. Das Unternehmen „Just Add AI“ (JAAI), an das sich die BSAG ursprünglich mit dem Wunsch nach einer Vandalismus-Erkennung gewandt hatte, lehnte diesen Auftrag mit der Begründung ab, dass eine solche technische Umsetzung nicht ohne Weiteres möglich sei. Stattdessen bot das Unternehmen eine sogenannte „Aggressionserkennung“ an. Trotz der Tatsache, dass das ursprüngliche Ziel des Verkehrsbetriebs damit verfehlt wurde, entschied sich die BSAG zur Implementierung dieser Technologie. Inzwischen ist geplant, 43 Fahrzeuge der Flotte – ein Drittel des gesamten Bestandes – mit dieser Technik auszustatten. Der Prozess wurde durch interne Vermerke der Datenschutzaufsicht sowie durch Unterlagen bekannt, die Matthias Marx vom Chaos Computer Club mittels Informationsfreiheitsgesetz zugänglich gemacht hat. Die Einführung erfolgte ohne ein klares Konzept zur Nutzung der Daten und unter Missachtung grundlegender datenschutzrechtlicher Bedenken, was das Projekt zu einem Beispiel für eine ungeplante und problematische Digitalisierung im öffentlichen Raum macht.

Die Einzelheiten – Zahlen, Namen und Orte

Die technische Aufrüstung betrifft 43 Trams der Bremer Straßenbahn AG. Die Kosten für das Projekt belaufen sich auf über 500.000 Euro, wobei 80 Prozent dieser Summe durch Fördergelder des Bundes für die Digitalisierung im öffentlichen Nahverkehr finanziert werden. Der Prozess nahm seinen Lauf im September 2024, als eine sogenannte „Theaterfahrt“ durchgeführt wurde, bei der das System mit simulierten Übergriffen, Diebstählen und Waffennutzungen konfrontiert wurde. Der offizielle Start des Pilotprojekts erfolgte am 24. März 2025. Die Effektivität des Systems blieb jedoch fragwürdig: In den ersten fünf Monaten des Testbetriebs löste die Software 16 Gefahrenmeldungen aus, von denen lediglich vier mit tatsächlichen Vorfällen aus den Betriebsberichten korrelierten. Die Datenverarbeitung ist komplex, da neben der KI-Analyse unverpixelte Bilder direkt in die Leitstelle der BSAG übertragen und dort für 48 Stunden gespeichert werden. Der Landesdatenschutzbeauftragte Timo Utermark sowie seine Mitarbeitenden begleiteten den Prozess kritisch. Zudem ist das Unternehmen „Just Add AI“ (JAAI) zentraler Akteur, dessen Geschäftsführer auch Verbindungen zu anderen Pilotprojekten in Städten wie Düsseldorf bestätigt hat. Die Organisation „Bremen.AI“, die vom Land Bremen gefördert wird, fungiert als zentrale KI-Anlaufstelle und steht in enger Verbindung mit den beteiligten Firmen.

Hintergrund – Wie es dazu kam

Die Geschichte der Verhaltensüberwachung in Bremen begann mit dem Wunsch der BSAG, den Vandalismus in ihren Fahrzeugen effektiver zu bekämpfen. Da die vor zwei Jahrzehnten installierten Kamerasysteme hierfür nicht ausreichten, suchte man nach einer technologischen Aufrüstung mittels Künstlicher Intelligenz. Dass man dabei bei „Just Add AI“ landete und das ursprüngliche Ziel der Vandalismus-Erkennung zugunsten einer „Aggressionserkennung“ aufgab, ist laut internen Vermerken der Datenschutzaufsicht auf ein opportunistisches Vorgehen zurückzuführen. Es gab Fördergelder des Bundes, die ausgegeben werden mussten, und die Entscheidung für die KI-Lösung fiel offenbar leicht, da die Hardware-Infrastruktur in Form von Kameras bereits vorhanden war. Die BSAG war sich der Tragweite der Persönlichkeitsrechte zu Beginn kaum bewusst. Dies zeigt sich unter anderem darin, dass das Unternehmen zunächst fälschlicherweise annahm, eine Datenschutz-Folgenabschätzung sei aufgrund einer vermeintlichen Anonymisierung durch Verpixelung nicht erforderlich. Erst nach mehrfacher Intervention der Datenschutzaufsicht und fünf Überarbeitungen der Unterlagen wurde der Prozess formalisiert, wobei die inhaltlichen Zweifel der Aufsichtsbehörde an der Notwendigkeit und Verhältnismäßigkeit des Systems bis zuletzt bestehen blieben.

Die Beteiligten – Wer entscheidet und wer ist betroffen

Die Hauptakteure in diesem Vorgang sind die Bremer Straßenbahn AG (BSAG) als Betreiberin, das Softwareunternehmen „Just Add AI“ (JAAI) als Technologieanbieter sowie die Datenschutzaufsicht des Landes Bremen unter der Leitung von Timo Utermark. Auch die Politik ist involviert: Die zuständige SPD-Senatorin sowie das Bundesverkehrsministerium, welches das Projekt finanziell unterstützt, spielen eine Rolle. Matthias Marx vom Chaos Computer Club fungierte als treibende Kraft bei der Transparenzmachung der Vorgänge. Betroffen sind die Fahrgäste der Bremer Trams, deren Verhalten nun automatisiert analysiert wird. Besonders kritisch wird die Situation für obdachlose Menschen gesehen, da das System auch „Schläfervorfälle“ erfasst, was laut Berichten von Hilfsorganisationen wie den Johannitern in eine „Politik der Vertreibung“ passt. Die Organisation „Bremen.AI“ agiert als Schnittstelle zwischen Wirtschaft und Land und berät bei der Implementierung solcher Systeme. Die BSAG selbst hat sich trotz mehrfacher Anfragen von netzpolitik.org über einen Zeitraum von drei Wochen nicht zu den Vorwürfen geäußert, obwohl sie als landeseigenes Unternehmen zur Auskunft verpflichtet wäre.

Einordnung – Was das bedeutet

Den Berichten zufolge ist der Fall Bremen beispielhaft für eine bundesweite Entwicklung, in der KI-Systeme zur Verhaltensüberwachung zunehmend Einzug in den öffentlichen Raum halten. Während in Ländern wie Mannheim, Hamburg, Berlin oder in Städten in Baden-Württemberg der Fokus auf polizeilicher Kontrolle auf Plätzen liegt, nimmt Bremen eine Vorreiterrolle bei der Überwachung durch Verkehrsbetriebe ein. Einzuordnen ist das so: Die Technologie wird oft unter dem Deckmantel der Sicherheit eingeführt, ohne dass eine empirische Notwendigkeit durch steigende Kriminalitätsraten belegt werden kann. Das Bundesverkehrsministerium selbst gibt an, dass die Zahl der Übergriffe im Bremer Nahverkehr im Vergleich zur Zeit vor der Pandemie nicht gestiegen ist. Die Argumentation der BSAG, das System sei zur Sicherheit erforderlich, bleibt daher substanzlos. Die Datenschutzaufsicht bewertet die Verpixelung als unzureichend, da Merkmale wie Tattoos oder Kleidung eine Identifizierung ermöglichen und die technische Umkehrbarkeit der Verpixelung nicht ausgeschlossen werden kann. Die automatisierte Überwachung droht somit, den öffentlichen Raum zu einem Ort ständiger Kontrolle zu machen, ohne dass ein nachweisbarer Sicherheitsgewinn erzielt wird.

Offene Fragen – Was der Quelltext nicht beantwortet

Der Quelltext lässt einige entscheidende Fragen offen, die für die Beurteilung des Projekts wichtig wären. So bleibt unklar, welche konkreten Kriterien die Software genau anwendet, um „Aggression“ oder „Hilfsbedürftigkeit“ zu definieren, da die bisherigen Testergebnisse eine hohe Fehlerquote aufweisen. Ebenso wird nicht beantwortet, warum die BSAG trotz der extrem niedrigen Trefferquote von nur vier korrekten Meldungen bei 16 Alarmen an dem System festhält und die Flotte sogar weiter ausbaut. Es bleibt zudem offen, welche rechtlichen Konsequenzen die BSAG zu befürchten hätte, sollte die Evaluation nach einem Jahr negativ ausfallen. Auch die Frage, wer genau bei „Just Add AI“ die ethischen Leitplanken für die Programmierung der Software setzt, wird nicht detailliert erläutert. Zudem ist unklar, ob und wie die Daten, die in der Leitstelle für 48 Stunden gespeichert werden, tatsächlich gegen unbefugte Zugriffe geschützt sind und ob es bereits Fälle gab, in denen diese Daten für polizeiliche Ermittlungen genutzt wurden. Die genaue vertragliche Ausgestaltung zwischen der BSAG und JAAI bleibt ebenfalls im Dunkeln.

Wie es weitergeht – Angekündigte Schritte

Die Zukunft des Projekts hängt maßgeblich von einer Evaluation ab, die der Landesdatenschutzbeauftragte Timo Utermark für ein Jahr nach der Inbetriebnahme gefordert hat. Die BSAG ist verpflichtet, eine umfassende Auswertung vorzulegen, die die Zahl der erfassten Vorkommnisse mit den offiziellen polizeilichen Straftatenzahlen vergleicht. Sollte sich dabei herausstellen, dass das System zu viele Fehlalarme produziert oder zu wenig tatsächliche Gefahren erkennt, hat Utermark angekündigt, die Datenverarbeitung als unverhältnismäßig einzustufen und zu untersagen. Auf nationaler Ebene ist zudem geplant, dass der Bundestag nach der Sommerpause den Einsatz von Verhaltensscannern an allen deutschen Bahnhöfen ermöglichen soll, was die Bremer Entwicklung in einen größeren Kontext stellt. Die weitere Ausrüstung der 43 Trams soll trotz der bestehenden Kritik und der unklaren Wirksamkeit fortgesetzt werden. Es bleibt abzuwarten, ob die BSAG in der Lage sein wird, den geforderten Nachweis über die Notwendigkeit des Systems zu erbringen, oder ob der Druck durch die Datenschutzaufsicht zu einer Einstellung des Betriebs führen wird.