Per Prompt-Injection: Wie dieser Professor seine Studenten beim Schummeln mit KI erwischte

Ein digitaler Stolperstein für KI-Nutzer

Der Einsatz von Künstlicher Intelligenz im universitären Alltag ist längst zur Normalität geworden. Doch während viele Studierende die Technologie zur Unterstützung beim Lernen nutzen, greifen andere zu den Tools, um sich unzulässige Vorteile in Prüfungen zu verschaffen. Ein Fall von der Alcorn State University in Mississippi zeigt nun, wie kreativ Lehrende auf diese Herausforderung reagieren können. Jason Gibson, Professor für Geschichte, gelang es durch einen gezielten Trick, eine Vielzahl seiner Kursteilnehmer beim Einsatz von KI-Modellen zu überführen.

Der Professor versteckte in der Aufgabenstellung einer Zwischenprüfung einen für Menschen unsichtbaren Text in weißer Schrift. Diese Anweisung war so programmiert, dass sie das KI-Modell bei der Bearbeitung der Aufgabe dazu zwang, inhaltlich völlig zusammenhanglose Informationen über Madagaskar in den Antworttext einzuflechten. Das Ergebnis war eindeutig: Von 35 Kursteilnehmern fielen 32 durch den Test, da sie die Aufgabenstellung offenbar direkt in einen Chatbot kopiert hatten, ohne die generierten Ergebnisse auf ihre inhaltliche Korrektheit zu prüfen.

Die Verbreitung von KI im Studium

Die Vorgehensweise von Gibson verdeutlicht ein weit verbreitetes Phänomen. Laut einer Befragung der Hochschule Darmstadt nutzen in Deutschland bereits über 90 Prozent der Studierenden KI-Tools. Während ein Großteil die Programme für Verständnisfragen oder Übersetzungen einsetzt, nutzt etwa die Hälfte der Befragten die Technologie zur Analyse und Erstellung von Fachtexten. Auch in den USA ist die Nutzung unter College-Studierenden laut OpenAI-Analysen besonders hoch.

Um Entdeckungsmechanismen zu umgehen, entwickeln Studierende zunehmend eigene Strategien. Dazu gehört etwa das bewusste Einbauen von Tippfehlern oder die Verwendung gezielt „einfacher“ Prompts, um die KI-generierten Texte natürlicher und weniger maschinell wirken zu lassen. Diese Entwicklung stellt Bildungseinrichtungen weltweit vor erhebliche Probleme hinsichtlich der akademischen Integrität.

Strategiewechsel an den Hochschulen

Die Reaktion auf diese technologische Entwicklung fällt unterschiedlich aus. Einige Institutionen, wie etwa die University of Chicago Law School, setzen auf drastische Maßnahmen wie ein Laptop-Verbot für Erstsemester, um das eigenständige kritische Denken zu fördern. Der Dekan der Fakultät räumte dabei ein, dass die Lehre teilweise den Anschluss verloren habe, indem Aufgaben gestellt wurden, die von KI-Systemen zu leicht lösbar seien.

Anstatt jedoch auf ein generelles Verbot zu setzen, zeichnet sich ein Trend zur Umgestaltung der Lehrpläne ab. Die Strategien umfassen dabei:

* Laptopfreie Vorlesungsformate zur Förderung der Konzentration.

* Stärker beaufsichtigte Prüfungssituationen.

* Mündliche Verteidigung von Arbeiten, um sicherzustellen, dass die Studierenden die Inhalte tatsächlich durchdrungen haben.

Die Suche nach neuen Standards

Der Fall von Jason Gibson zeigt die Grenzen aktueller Prüfungsformate auf. Der Professor betonte, dass es ihm nicht um die bloße Bestrafung oder Demütigung seiner Studierenden gehe. Vielmehr habe er das Ziel verfolgt, das Bewusstsein für die Problematik zu schärfen. Er bot den betroffenen Studierenden sogar die Möglichkeit an, ihre Note anzufechten, wovon jedoch nur zwei Gebrauch machten.

Die Debatte um den Einsatz von KI im akademischen Raum steht erst am Anfang. Es fehlt derzeit an allgemein anerkannten bewährten Verfahren, die sowohl die technologische Realität berücksichtigen als auch die Qualität der akademischen Ausbildung sichern. Für Lehrende bedeutet dies, dass sie ihre Prüfungsformate kontinuierlich anpassen müssen, um sicherzustellen, dass die erbrachten Leistungen tatsächlich auf eigenständiger geistiger Arbeit basieren.