Mathematiker fordern bewussten Umgang mit KI: ”Don't believe the hype”

Ein neues Regelwerk für die mathematische Forschung

Angesichts des rasanten Fortschritts bei Künstlicher Intelligenz (KI) hat sich die internationale mathematische Gemeinschaft formiert, um den wissenschaftlichen Standard zu sichern. Die neu veröffentlichte „Leiden Declaration on Artificial Intelligence and Mathematics“ dient als Leitfaden für einen verantwortungsbewussten Umgang mit automatisierten Systemen. Die Erklärung wurde im September 2025 während einer Konferenz am Lorentz Center der Universität Leiden initiiert und von einer internationalen Arbeitsgruppe unter der Leitung von Jim Portegies entwickelt. Inzwischen wird das Dokument von der Internationalen Mathematischen Union (IMU) sowie über 3.000 Mathematikern weltweit unterstützt.

Die Bedrohung bewährter wissenschaftlicher Standards

Die Autoren der Erklärung warnen davor, dass der unkritische Einsatz von KI die Grundwerte der Mathematik gefährden könnte. Ein zentrales Problem ist die Fähigkeit moderner KI-Modelle, zwar plausibel klingende, aber inhaltlich falsche oder unzuverlässige Thesen zu generieren. Da diese oft kaum von korrekten mathematischen Beweisen zu unterscheiden sind, droht das etablierte System der wissenschaftlichen Überprüfung und Transparenz zu erodieren. Zudem kritisieren die Mathematiker, dass KI-unterstützte Ergebnisse in der öffentlichen Wahrnehmung häufig zu stark vereinfacht dargestellt werden, wobei der menschliche Beitrag in den Hintergrund rückt.

Ein weiteres Risiko sehen die Unterzeichner in der Abhängigkeit von privatwirtschaftlichen Interessen. Da große Unternehmen massiv in KI investieren und dabei Forschungsaufgaben primär nach deren Eignung für KI-Modelle auswählen, besteht die Gefahr, dass die Autonomie der mathematischen Grundlagenforschung untergraben wird – insbesondere in Zeiten knapper öffentlicher Budgets.

Die Gebote für die mathematische Praxis

Die Leiden Declaration unterteilt ihre Empfehlungen in drei Kategorien, um den Herausforderungen auf verschiedenen Ebenen zu begegnen:

Richtlinien für Mathematiker

Die Forscher werden dazu angehalten, ihre genutzten Werkzeuge transparent offenzulegen und die volle Verantwortung für die Korrektheit ihrer Arbeit zu übernehmen. Zentrale Punkte sind:

• Einhaltung von Open-Science-Prinzipien.
• Klare Kennzeichnung menschlicher Urheberschaft.
• Sorgfältige Quellenarbeit.
• Ethische Evaluierung der eigenen Forschungsergebnisse, insbesondere im Hinblick auf mögliche Anwendungen in Bereichen wie Überwachung oder Kriegsführung.

Anforderungen an Organisationen und Geldgeber

Institutionen und Non-Profit-Geldgeber sollen strategisch Kompetenzen aufbauen und bei der Etablierung von Standards für die Veröffentlichung von Forschungsergebnissen vorangehen. Sie werden aufgefordert, Autorenrechte zu schützen und Rahmenbedingungen für eine gleichberechtigte Zusammenarbeit mit der Privatwirtschaft zu schaffen, die durch professionelle Verhaltenskodizes abgesichert sind.

Appell an die öffentliche Hand

Von der Politik und den Regulierungsbehörden wird ein kritischerer Blick auf den KI-Hype gefordert. Unter dem Motto „Don’t believe the hype“ sollen Entscheidungsträger verstärkt auf Expertenrat hören, die KI-Branche regulieren und gezielt in eine unabhängige öffentliche Rechner-Infrastruktur investieren.

Bedeutung für die Zukunft der Disziplin

Die Initiative unterstreicht, dass der Faktor Mensch in der Mathematik unersetzbar bleibt. Während KI als Werkzeug dienen kann, sind es weiterhin Menschen, die neue Forschungsfragen formulieren und die Verantwortung für die Richtigkeit der Ergebnisse tragen müssen. Die breite Unterstützung durch renommierte Institutionen wie die London Mathematical Society oder die Universität Oxford verdeutlicht, dass die Sorge um die Integrität der Wissenschaft ein globales Anliegen ist. Die kommenden Jahre werden zeigen, inwieweit diese freiwilligen Selbstverpflichtungen ausreichen, um die mathematische Forschung gegen die Risiken einer unkontrollierten KI-Integration zu wappnen.