heise+ | KI-Projekte im Griff: So wird aus gut gemeint auch gut gemacht

Die Gratwanderung zwischen Sicherheit und Überwachung

Künstliche Intelligenz hält Einzug in die Industrie, doch der Einsatz moderner Bilderkennungssysteme wirft grundlegende Fragen auf. Ein anschauliches Beispiel ist die Überwachung von Werkshallen durch Kameras, die mittels KI-Algorithmen erkennen, ob Mitarbeiter vorschriftsmäßig einen Schutzhelm tragen. Einerseits dient diese Technologie dem Arbeitsschutz und kann schwere Unfälle verhindern, indem sie sofort Alarm schlägt, wenn Sicherheitsregeln missachtet werden. Andererseits birgt exakt dieselbe technische Infrastruktur das Potenzial, zur umfassenden Mitarbeiterüberwachung zu werden. Es stellt sich die Frage, wer sich wann und wo im Betrieb aufhält und welche Bewegungsprofile daraus abgeleitet werden können. Laut Experten wie Udo Sglavo, einem erfahrenen Spezialisten für angewandte KI-Modellierung, entscheidet nicht das KI-Modell allein über den Charakter der Anwendung, sondern die architektonische Gestaltung des gesamten Systems. Die Herausforderung besteht darin, den technologischen Nutzen für die Sicherheit konsequent von einer unerwünschten Überwachung abzugrenzen, um sowohl die Produktivität zu steigern als auch die Akzeptanz in der Belegschaft zu wahren.

Expertenwissen aus der Praxis der Datenanalyse

Udo Sglavo, der als Vizepräsident für angewandte KI-Modellierung sowie Forschung und Entwicklung beim Softwareanbieter SAS tätig ist, beleuchtet diese Problematik aus einer fundierten Perspektive. SAS, ein langjähriger Akteur im Bereich Business Intelligence und Datenanalyse, entwickelt heute komplexe KI-Lösungen für den Unternehmenseinsatz. Sglavo ist dabei nicht nur mit der theoretischen Leistungsfähigkeit von KI-Modellen in einer isolierten Testumgebung vertraut, sondern analysiert intensiv, wie sich diese Algorithmen in reale, dynamische Arbeitsabläufe integrieren lassen. Seine Expertise zeigt auf, dass eine erfolgreiche Implementierung weit über die reine Programmierung hinausgeht. Er betont, dass technologische Lösungen wie die Echtzeitvideoanalyse präzise auf den spezifischen Anwendungsfall – etwa die reine Erkennung von Schutzhelmen – begrenzt werden müssen. Zudem unterstreicht er die Notwendigkeit menschlicher Entscheidungsbefugnisse, beispielsweise bei der Geldwäscheprüfung, wo eine KI zwar unterstützen, aber keinesfalls die finale Verantwortung eines Sachbearbeiters ersetzen darf.

Die strategische Lücke vor dem Projektstart

Ein zentrales Problem in vielen Unternehmen ist der überhastete Einstieg in KI-Projekte, ohne dass zuvor eine klare Zielsetzung definiert wurde. Viele Firmen beschäftigen sich intensiv mit der neuen Technik, bevor sie überhaupt geklärt haben, welches konkrete geschäftliche oder operative Problem sie damit eigentlich lösen wollen. Dieser Mangel an einer fundierten Strategie führt häufig dazu, dass technologische Möglichkeiten zwar vorhanden sind, aber keinen echten Mehrwert bieten oder sogar neue Risiken schaffen. Sglavo beobachtet, dass die technische Begeisterung oft den Blick auf die notwendigen Rahmenbedingungen verstellt. Ein KI-Projekt sollte demnach nicht aus einem Selbstzweck heraus gestartet werden, sondern als Antwort auf eine spezifische Herausforderung. Erst wenn das Ziel definiert ist, kann die passende Architektur gewählt werden, die sowohl den Datenschutz als auch die ethischen Standards berücksichtigt. Ohne diesen strategischen Unterbau laufen Unternehmen Gefahr, Ressourcen in Systeme zu investieren, die im Arbeitsalltag entweder nicht akzeptiert werden oder rechtliche Konsequenzen nach sich ziehen.

Die Rolle der Akteure im KI-Implementierungsprozess

Die Umsetzung von KI-Projekten ist ein komplexes Unterfangen, das verschiedene Akteure innerhalb und außerhalb eines Unternehmens einbezieht. Auf der Seite der Technologieanbieter, repräsentiert durch Experten wie Udo Sglavo von SAS, liegt der Fokus auf der Entwicklung robuster und anpassungsfähiger KI-Modelle. Diese müssen so konzipiert sein, dass sie in reale Arbeitsumgebungen integrierbar sind, ohne die Privatsphäre der Mitarbeiter zu verletzen. Auf der anderen Seite stehen die Unternehmen selbst, die als Anwender fungieren und die Verantwortung für den Einsatz der Systeme tragen. Hierbei spielen interne Gremien wie der Betriebsrat eine entscheidende Rolle, wenn es um die Überwachung von Mitarbeitern geht. Die Entscheidung, ob eine KI als Hilfe oder als Instrument zur Totalüberwachung wahrgenommen wird, liegt letztlich in der Hand der Unternehmensführung und der IT-Verantwortlichen. Sie müssen sicherstellen, dass die ethischen Leitplanken bereits in der Designphase des Systems verankert werden, um spätere Konflikte mit der Belegschaft oder den Arbeitnehmervertretern zu vermeiden.

Einordnung: Technologie als Werkzeug, nicht als Lösung

Einzuordnen ist das Thema KI-Einführung als eine grundlegende Herausforderung der digitalen Transformation, bei der technologische Innovation auf menschliche Bedürfnisse und rechtliche Rahmenbedingungen trifft. Den Berichten zufolge ist es ein Trugschluss zu glauben, dass KI-Systeme von sich aus „gut“ oder „böse“ sind. Vielmehr ist die Gestaltung der Implementierung entscheidend. Die Einordnung durch Experten verdeutlicht, dass die technische Machbarkeit oft der gesellschaftlichen und rechtlichen Akzeptanz vorausläuft. Unternehmen, die KI erfolgreich einsetzen wollen, müssen daher eine Kultur etablieren, in der technologische Innovation mit Transparenz einhergeht. Die Bewertung der KI-Systeme hängt maßgeblich davon ab, wie sehr die Privatsphäre der Mitarbeiter geschützt wird. Wenn eine Kamera zur Sicherheit beitragen soll, muss sie technisch so limitiert werden, dass sie eben nur diesen Zweck erfüllt und keine darüber hinausgehenden Daten erhebt. Dies erfordert eine enge Zusammenarbeit zwischen den Entwicklern, den IT-Abteilungen und den Vertretern der Mitarbeiter, um das Vertrauen in die neue Technologie nachhaltig zu sichern.

Offene Fragen zur technologischen Umsetzung

Der aktuelle Kenntnisstand lässt einige Fragen offen, die für Unternehmen in der Praxis von hoher Relevanz sind. Konkret bleibt unklar, welche spezifischen technischen Mechanismen in der Praxis am effektivsten sind, um eine „Zweckbindung“ von KI-Systemen technisch zu erzwingen. Wie lässt sich beispielsweise eine Kamera-KI so hardwareseitig einschränken, dass sie keine personenbezogenen Daten speichert, sondern nur binäre Signale für „Helm erkannt“ oder „Helm nicht erkannt“ ausgibt? Zudem beantwortet der Quelltext nicht, wie Unternehmen mit der ständigen Weiterentwicklung von KI-Modellen umgehen sollen, wenn sich die Fähigkeiten der Systeme im Laufe der Zeit durch Updates verändern. Auch die Frage, wie die rechtliche Haftung bei Fehlentscheidungen der KI – etwa bei einer falsch erkannten Sicherheitslücke – konkret zwischen Softwareanbieter und Anwenderunternehmen aufgeteilt wird, bleibt in der vorliegenden Darstellung unbeantwortet. Diese Lücken zeigen, dass trotz der theoretischen Klarheit über die Notwendigkeit von Strategien noch erheblicher Klärungsbedarf bei der operativen Umsetzung besteht.

Ausblick auf zukünftige Entwicklungen und Entscheidungen

Wie es weitergeht, hängt maßgeblich von der Lernfähigkeit der Unternehmen ab. Die Notwendigkeit, KI-Projekte stärker an den tatsächlichen Problemlösungen auszurichten, wird in den kommenden Monaten und Jahren zunehmen, da der regulatorische Druck steigt. Unternehmen stehen vor der Entscheidung, ob sie weiterhin ad-hoc in KI investieren oder ob sie eine langfristige Strategie entwickeln, die ethische Aspekte von Beginn an integriert. Es ist zu erwarten, dass Anbieter wie SAS ihre Beratungskompetenz ausbauen werden, um nicht nur die Software, sondern auch die methodische Begleitung bei der Einführung anzubieten. Die kommenden Schritte werden darin bestehen, klare Richtlinien für den Einsatz von KI-Agenten und Überwachungssystemen zu definieren, die über rein technische Spezifikationen hinausgehen. Die Entscheidungsträger in den Unternehmen müssen nun den Prozess einleiten, bei dem die Bedürfnisse der Mitarbeiter und die Anforderungen an den Arbeitsschutz in Einklang gebracht werden, um die Potenziale der Künstlichen Intelligenz ohne den Verlust von Vertrauen zu heben.