Hauptausschuss der DFG ermöglicht unter Rahmenbedingungen künftig die Nutzung von KI in der Begutachtung

Der Hauptausschuss der Deutschen Forschungsgemeinschaft (DFG) hat beschlossen, künftig die Nutzung von Künstlicher Intelligenz (KI) in der Begutachtung zu ermöglichen. Der Einsatz darf allerdings nur unter klar definierten Bedingungen erfolgen, die in einer Nutzungs- und Transparenzleitlinie für Wissenschaftler*innen und weitere am Bewertungs- und Entscheidungsprozess beteiligte Personen festgehalten sind.

Die DFG reagiert damit auf die technischen und regulatorischen Entwicklungen der vergangenen beiden Jahre und formuliert Grundsätze für einen verantwortungsvollen Umgang mit KI-Systemen in der Begutachtung.

KI in der Antragstellung weiterhin zulässig

Bereits 2023 hat die DFG in ihrer Stellungnahme zum Einfluss generativer Modelle für die Text- und Bilderstellung auf die Wissenschaften und das Förderhandeln der DFG festgelegt, dass KI bei der Ausarbeitung von Förderanträgen genutzt werden kann, solange dies offengelegt wird. Dies gilt auch weiterhin, beispielsweise bei der Aufbereitung des Forschungsstandes, bei der Entwicklung einer wissenschaftlichen Methode, bei der Auswertung von Daten oder bei der Hypothesengenerierung. Die volle inhaltliche Verantwortung liegt jedoch bei den Antragsteller*innen. 

KI in Begutachtung künftig unter Voraussetzungen möglich

In Fortentwicklung der Stellungnahme wird künftig der Einsatz von KI auch im Rahmen der Begutachtung erlaubt sein. Grundlage hierfür sind folgende vier Prinzipien:

• Vertraulichkeit: Eine Verarbeitung vertraulicher Antragsinhalte im Rahmen der Begutachtung ist nur zulässig, sofern sichergestellt ist, dass die Antragsinhalte von den Anbietern des KI-Systems nicht dauerhaft und über den konkreten Einsatzzweck hinaus gespeichert werden.

• Transparenz: Gutachter*innen müssen die Nutzung von KI unter Nennung der spezifischen Einsatzzwecke offenlegen, damit der weitere Urteilsbildungsprozess (Bewertung und Entscheidung) in Kenntnis dessen erfolgen kann. 

• Qualitätssicherung: Eine kritische Prüfung aller KI-generierten Inhalte ist erforderlich und eine unreflektierte Übernahme von Inhalten verboten.

• Verantwortung: Die inhaltliche Verantwortung für die Gutachten verbleibt vollständig bei den Gutachter*innen.

Diese Prinzipien werden in einer Nutzungs- und Transparenzleitlinie näher erläutert und somit der Einsatz von KI in der Begutachtung detailliert geregelt. Die Leitlinie wird nun in die internen Prozesse implementiert und soll voraussichtlich Ende des ersten Quartals 2026 veröffentlicht werden. Ein Einsatz von KI in der Begutachtung wird ab diesem Zeitpunkt zulässig sein.

Fortlaufende Beobachtung und Weiterentwicklung

Die DFG wird die wissenschaftliche, technische und rechtliche Entwicklung im Bereich KI weiterhin eng begleiten. Relevante Fragen werden in den zuständigen Gremien, darunter der Senatsarbeitsgruppe „Digitaler Wandel“, kontinuierlich beraten. Bei Bedarf werden Regelwerke und Verfahren angepasst, um Transparenz, Verlässlichkeit und wissenschaftliche Integrität dauerhaft zu gewährleisten.

Weiterführende Informationen 

Ansprechpersonen in der DFG-Geschäftsstelle

Dr. Matthias Katerbow, Gruppe Wissenschaftliche Literaturversorgungs- und Informationssysteme, Tel. +49 228 885-2358 

Dr. Michael Lentze, Gruppe Mathematik und Ingenieurwissenschaften 2, Tel. +49 228 885-2449

Martin Steinberger, Gruppe Forschungskultur, Tel. +49 228 885-3204 

E-Mail-Adresse: KI@dfg.de(externer Link)

Datenschutz

Die Deutsche Forschungsgemeinschaft e. V. (DFG) nimmt den Schutz personenbezogener Daten und deren vertrauliche Behandlung sehr ernst. Bitte beachten Sie daher die Datenschutzhinweise der DFG(interner Link). Bitte denken Sie daran, dass Sie Daten Dritter nur übermitteln sollten, wenn die dafür erforderliche datenschutzrechtliche Legitimation besteht. Bevor Sie Daten Dritter an uns weiterleiten, denken Sie bitte auch daran, die Datenschutzhinweise der DFG vorher an die betroffenen Personen weiterzuleiten. Besteht ein berechtigtes Interesse, Personen nicht vorab zu informieren (z. B. aus Gründen der Geheimhaltung, der Nominierung oder eines Wahlvorschlags), dann sollte eine Information spätestens mit der Veröffentlichung erfolgen.