Die menschliche Analyse und wissenschaftliche Einordnung des Antrags ist Kernbestandteil der Begutachtung. Die Nutzung von KI-Systemen bei der Erstellung von Gutachten ist daher ausschließlich im unterstützenden Sinn gestattet. Alle inhaltlichen Positionierungen mit Blick auf die Förderempfehlung obliegen allein den Gutachter*innen.

KI-Systeme dürfen nur zum Einsatz kommen, wenn sichergestellt ist, dass die vertraulichen Inhalte von Förderanträgen nicht unkontrolliert verarbeitet, gespeichert oder für andere Zwecke als die Durchführung der wissenschaftlichen Begutachtung verwendet werden. Die unterstützende Verwendung von KI im Rahmen der Gutachtenerstellung darf nicht zur Preisgabe vertraulicher Antragshinhalte führen. Dies kann durch folgende Systeme gewährleistet werden:

1. Lokal gehostete Systeme ohne Cloud-Computing
2. Systeme, die durch eine vertrauenswürdige Einrichtung (z.B. Hochschule oder öffentliche Forschungseinrichtung) gehostet werden
3. Cloudbasierte (kommerzielle) Systeme mit vertraglicher Lizenzvereinbarung, die Datensicherheit garantiert

Wenn bei der Erstellung des Gutachtens ein KI-System verwendet wird, muss dies unter Nennung der spezifischen Einsatzzwecke offengelegt werden.

Eine unreflektierte Übernahme KI-generierter Textteile ist unzulässig. KI-generierte Texte müssen stets kritisch gewürdigt, angepasst und auf inhaltliche Richtigkeit, Aktualität sowie mögliche Verzerrungen (Bias-Strukturen) hin überprüft werden.

Die inhaltliche Verantwortung für das Gutachten liegt uneingeschränkt bei der Person, die das Gutachten erstellt hat. Dies gilt auch dann, wenn Textteile unter Zuhilfenahme von KI-Systemen generiert worden sind. Eine verantwortliche wissenschaftliche Begutachtung erfordert fachliche Kompetenz und wissenschaftsethische Urteilsfähigkeit, die KI-Systeme systembedingt nicht mitbringen. Die Verantwortung darf daher nicht auf ein KI-System übertragen werden; sie verbleibt bei den Gutachter*innen.

Der digitale Wandel prägt auch das wissenschaftliche Arbeiten, einschließlich seiner Qualitätssicherung. KI-Systeme eröffnen neue Möglichkeiten der Informationsverarbeitung und Textunterstützung, die bei verantwortungsvollem Einsatz zur Entlastung von Arbeitsprozessen beitragen können. Die DFG hat daher entschieden, den Einsatz von KI-Systemen in der Begutachtung unter klar definierten Bedingungen zuzulassen. Maßgeblich sind die Prinzipien Transparenz, Vertraulichkeit, Qualitätssicherung und Verantwortung. Diese sind in einer verbindlichen Leitlinie zur Nutzung von KI in der Begutachtung konkretisiert.

KI-Systeme dürfen ausschließlich unterstützend verwendet werden. Dies umfasst zum Beispiel

• Recherche einschlägiger Fachliteratur
• sprachliche oder strukturelle Überarbeitung eigener Textentwürfe
• Ausformulierung eigener Stichpunkte oder Notizen
• formale Prüfung (z. B. Verständlichkeit, Lesefluss).

Die menschliche Analyse und wissenschaftliche Einordnung des Antrags ist Kernbestandteil der Begutachtung. Die Nutzung von KI-Systemen bei der Erstellung von Gutachten ist daher ausschließlich im unterstützenden Sinn gestattet. Alle inhaltlichen Positionierungen mit Blick auf die Förderempfehlung obliegen allein den Gutachter*innen. Näheres dazu regelt die Leitlinie zur Nutzung von KI in der Begutachtung(interner Link). Unzulässig wäre es beispielsweise, maßgebliche Teile des Gutachtens automatisch und unreflektiert, d.h. ohne eigene fachliche Prüfung generieren zu lassen.

Als Gutachter*in versichern Sie bei der Registrierung in elan, dass Sie für den Fall des Einsatzes von KI in der Begutachtung über ausreichende KI-Kompetenz verfügen. Die DFG verlässt sich hierbei auf Ihre Selbsteinschätzung. Ein absoluter Maßstab hierfür existiert nicht. Wichtige Elemente für KI-Kompetenz sind ein grundlegendes technisches Verständnis für die Funktionslogiken von KI-Systemen, ein Bewusstsein über Schwächen von KI-Systemen wie Halluzinationen und Vorurteile (sog. Bias), Kenntnisse über die Einsatzszenarien von KI-Systemen im Rahmen wissenschaftlicher Begutachtungen sowie damit eng verbunden ein klares Verständnis der eigenen Rolle im epistemischen Bewertungsprozess (siehe auch Leitlinie zur Nutzung von KI in der Begutachtung(interner Link)). Einen guten Überblick zu KI-Kompetenz allgemein gibt das Hinweispapier KI-Kompetenzen nach Artikel 4 KI-Verordnung(externer Link) der Bundesnetzagentur. Vielfältige kostenlose Online-Schulungsangebote finden sich auf den Seiten des KI Campus(externer Link) des Stifterverbands für die Deutsche Wissenschaft e.V.

Sofern die an ein KI-System übermittelten Informationen auch personenbezogene Daten enthalten, findet bei der Nutzung des KI-Systems eine „Datenverarbeitung“ im Sinne der Datenschutzgrundverordnung (DSGVO) statt. Da diese Verarbeitung im Auftrag des Verantwortlichen erfolgt, bedarf es nach Artikel 28 DSGVO des Abschlusses eines AVV. Im Zuge der Lizenzvereinbarung können und müssen solche AVV mit dem jeweiligen Anbieter abgeschlossen werden. Bei der Nutzung eines von Ihrer Universität bzw. Forschungseinrichtung lizenzierten KI-Systems, obliegt dies der Einrichtung. Sofern Sie ein ausschließlich lokal an Ihrer Universität bzw. Forschungseinrichtung gehostetes KI-System nutzen, entfällt die Pflicht zum Abschluss eines AVV, da in diesem Fall kein Auftragsverarbeiter involviert ist.