Der verantwortungsvolle Einsatz von generativer KI setzt ein grundlegendes Verständnis für Chancen, Grenzen und Rahmenbedingungen voraus. Viele der intuitiv nutzbar scheinenden KI-Tools stellen keine neutralen Werkzeuge dar. Ihre Nutzung erfordert – besonders im akademischen Umfeld – ein hohes Maß an Verantwortung, insbesondere im Hinblick auf Datenschutz, Transparenz und wissenschaftliche Integrität. Im Folgenden werden zentrale Grundprinzipien und Hinweise zusammengefasst, die unabhängig vom konkreten Einsatzbereich gelten.
Bevor KI in Studium, Lehre oder Arbeitskontexten eingesetzt wird, stellt sich eine grundlegende Frage:
Wann ist der Einsatz von generativer KI sinnvoll und verantwortbar?
Die Entscheidungs-Matrix des UNESCO International Institute for Higher Education bietet eine erste Orientierung (siehe Abbildung 1). Sie basiert auf dem Beispiel von ChatGPT, lässt sich aber auf alle generativen KI-Systeme anwenden – egal ob Texte, Bilder, Code oder Sprache erzeugt werden. Zentrale Überlegungen für den Einsatz generativer KI sind dabei:
- Ist es wichtig, dass der Inhalt korrekt ist?
- Bin ich in der Lage, die Richtigkeit selbst zu überprüfen?
- Gibt es rechtliche oder ethische Gründe (insbesondere im Hinblick auf Datenschutz und Urheberrecht), die gegen eine Nutzung von KI im konkreten Anwendungsfall sprechen
- Verfüge ich über die notwendige fachliche Expertise, um die inhaltliche Richtigkeit der KI-Ergebnisse beurteilen zu können?
- Bin ich bereit, die Verantwortung für eventuelle Fehler zu übernehmen?
Je nach Kontext ergeben sich dadurch die drei unterschiedliche Nutzungsbereiche NB1 bis NB3:
Nutzungsbereich 1
NB1. „Unkritisch einsetzbar“ ist generative KI z. B. zur Unterstützung kreativer Arbeiten und zur Ideengenerierung – also überall dort, wo initiale Entwürfe erstellt und diese anschließend manuell weiterentwickelt werden. Deshalb haben Fehler keine gravierenden Folgen.
Dazu zählen etwa1:
- Brainstorming und Ideenentwicklung für Projekte oder Präsentationen,
- Unterstützung bei der Entwicklung neuer Konzepte oder Stärkung bestehender Ideen,
- Erstellung von Templates für Quizfragen/Lehrmaterialien, die weiterbearbeitet werden,
- Initiale Übersetzungen von Lehrtexten oder Kommunikationsmaterialien in verschiedene Sprachen; Korrektur von Rechtschreibung und Grammatik.
1 Obwohl der Einsatz der KI hier grundsätzlich als unkritisch bewertet wird, kann dieser je nach Kontext jedoch auch ausgeschlossen sein. So können bspw. initiale Übersetzungen vom Prüfenden oder das KI-gestützte Brainstorming im Rahmen einer wissenschaftlichen Publikation durch die Konferenzorganisatoren grundsätzlich nicht erlaubt sein. Deshalb sollte für jeden Einzelfall geprüft werden, ob übergeordnete Vorgaben oder Richtlinien gelten, die den Einsatz von KI einschränken oder untersagen.
Nutzungsbereich 2
NB2. „Unter Vorbehalt möglich“ ist die Nutzung, wenn die Nutzenden aufgrund ihrer Expertise in der Lage sind, die Ergebnisse prüfen sowie diese auch verantworten zu können. Um die Ergebnisse verantworten zu können, ist insbesondere auszuschließen, dass sie gegen persönlichkeitsrechtliche, datenschutzrechtliche, lizenz- und urheberrechtliche oder strafrechtliche Bestimmungen verstoßen.
Hierbei gilt es stets zu beachten, dass bereits die Bereitstellung von Daten (z. B. durch das Hochladen in ein KI-System) auf Servern, die nicht hinreichend datenschutz- oder urheberrechtlich abgesichert sind, eine Verletzung geltender rechtlicher Vorgaben darstellen kann (vgl. Einhaltung des Datenschutzes und Einhaltung von Urheberrecht).
Typische Anwendungsbeispiele sind:
- Zusammenfassen von Artikeln für einen ersten inhaltlichen bzw. strukturellen Überblick,
- Analyse von Texten oder Daten, z. B., um Muster oder Zusammenhänge zu erkennen,
- Vorschläge für Formulierungen,
- Feedback zu Stil und Struktur für eine bessere Lesbarkeit,
- Individualisierung von Materialien für spezifische Lernbedürfnisse,
- Feedback zu oder Vereinfachung von Programmier- und statistischem Auswertungscode.
Nutzungsbereich 3
NB3. „Nicht geeignet“ ist die Nutzung von generativer KI in Bereichen, in denen die Ergebnisse nicht eigenständig auf Richtigkeit und Angemessenheit geprüft werden oder wenn die Verletzung (datenschutz- bzw. urheber-)rechtlicher oder ethischer Anforderungen nicht ausgeschlossen werden kann. Da die generative KI kein normatives Urteilsvermögen besitzt – kann sie moralische, rechtliche oder institutionelle Vorgaben nicht eigenständig berücksichtigen. Zudem fehlt es aufgrund des Black-Box-Charakters aktuell verfügbarer KI-Lösungen an Transparenz bzw. Nachvollziehbarkeit bei der Herleitung der Ergebnisse.
Dadurch können verzerrte oder diskriminierende Ergebnisse entstehen und unerkannt bleiben, die in Entscheidungen einfließen, z. B. durch die Reproduktion bestehender Vorurteile in Trainingsdaten oder die Benachteiligung bestimmter Gruppen. In diesem Fall können Nutzende weder die Richtigkeit und Angemessenheit der Ergebnisse prüfen, noch die Verantwortung übernehmen.
Typische Anwendungsbeispiele, in denen deshalb auf den Einsatz von generativer KI verzichtet werden muss, sind z. B.:
- Automatisierte KI-basierte Bewertungen von Prüfungsleistungen ohne menschliche Überprüfung (z. B. automatische Benotung von Seminar- oder Abschlussarbeiten),
- Verarbeitung personenbezogener, vertraulicher oder urheberrechtlich geschützter Daten (z. B. Nutzung von generativer KI zur Analyse nicht freigegebener, urheberrechtlich geschützter Lehrmaterialien),
- Automatisierte Entscheidungen in Auswahlprozessen (z. B. Bewerbungen, Stipendien).