¾ÅÉ«ÊÓƵ

Die KI-Richtlinie befasst sich mit dem Einsatz von Künstlicher Intelligenz (KI) in der Lehre an der Leibniz Universität Hannover (LUH) und hat verbindlichen Charakter.

Ziel der Richtlinie ist, die sich aus der zum 01.08.2024 in Kraft getretenen (im Folgenden: KI-VO) resultierenden Anforderungen im Bereich der Lehre umzusetzen sowie eine fachgerechte Nutzung von KI-Systemen an der LUH zu gewährleisten.

Die LUH ist durch die Bereitstellung zentraler KI-Systeme Betreiberin i.S.v. Art. 3 Nr. 4 KI-VO. Die Themenbereiche umfassen Verantwortlichkeiten (§2), Vermittlung von KI-Kompetenz (s. §3), Einsatz von KI (s. §4-§5), rechtliche und daraus abgeleitete Rahmenbedingungen (s. §6-§10).

Als Betreiberin von KI-Systemen stellt die LUH sicher, dass die Anwendenden zur Nutzung von KI-Systemen ausreichend geschult werden und ihre KI-Kompetenz gefördert wird (Art. 4 KI-VO). Die Teilnahme an einer entsprechenden Schulung wird dokumentiert.

Die LUH stellt zentral entsprechende Schulungsmaterialien bereit, die insbesondere die mit dem Einsatz von KI-Systemen einhergehenden Risiken und Anforderungen darstellen. Soll ein KI-System in einer Lehrveranstaltung eingesetzt werden, sind die lehrenden Personen verpflichtet, die Anwendenden entsprechend zu schulen bzw. die Schulungsmaterialien in die Veranstaltung zu integrieren.

Zu (2) Der verpflichtende Einsatz dezentraler KI-Systeme in Lehrveranstaltungen bedarf der Zustimmung des KI-Rats der LUH und ist nur dann zulässig, wenn keine personenbezogenen Daten verarbeitet werden.

Sollen dezentrale Dienste genutzt werden, geben und eine erste Einschätzungshilfe. Verpflichtend in der Lehre ist der Einsatz dezentraler Dienste nur nach Zustimmung durch den KI-Rat möglich. Dies gilt insbesondere für im Rahmen von Hochschulkooperationen bereitgestellte KI-Systeme.

Möchte eine lehrende Person – nach sorgfältiger Prüfung – weitere KI-Systeme einsetzen, kann dies erfolgen, sofern der Einsatz der KI-VO und dieser Richtlinie nicht widerspricht, Studierende diese freiwillig nutzen und der Einsatz nicht zwingend zum Erreichen von Lernzielen oder Studienleistungen ist.

Zu (3) Einsätze dezentraler Systeme sind zu dokumentieren und soweit keine Zustimmung des KI-Rats erforderlich ist, diesem anzuzeigen.

Die lehrende Person ist für die Einhaltung der Anforderungen verantwortlich und hat diese zu dokumentieren sowie den Einsatz dem KI-Rat anzuzeigen. Im Rahmen des Zugangs (Registrierungs- und Anmeldedaten) und des Einsatzes dezentraler Dienste dürfen keine personenbezogenen Daten der Anwendenden verarbeitet werden. Bei solchen Einsätzen sind Lehrende verpflichtet, Studierende selbst über den Dienst aufzuklären, da sie auf keine bereitstehenden zentralen Schulungsmaterialien zurückgreifen können.

Zu (1) Die Verarbeitung personenbezogener Daten in KI-Systemen ist ohne ausdrückliche Genehmigung des KI-Rats unzulässig.

Dies beugt vor, durch eine Übernahme von KI-generierten Ergebnissen eine real existierende Person in ihren Persönlichkeitsrechten zu verletzen, indem falsche Attribute, Eigenschaften oder Aussagen wiedergegeben werden.

Zu (2) Die Eingabe von Geschäftsgeheimnissen und sensiblen Forschungsdaten in KI-Systeme ist untersagt, um die unzulässige Nutzung oder Offenlegung solcher Geheimnisse zu vermeiden.

Die Eingabe von Geheimnissen im Sinne von § 2 Abs. 1 Gesetz zum Schutz von Geschäfts­geheim­nissen (GeschGehG) kann eine unerlaubte Nutzung oder Offenlegung im Sinne von §4 Abs. 2, 3 GeschGehG darstellen. Dies könnte zum Beispiel der Fall sein, wenn betrieblich begleitete Abschlussarbeiten oder Praktikumsberichte in KI-Systeme eingegeben oder wenn Forschungs­ergebnisse von einem KI-System ausgewertet werden sollen. Im Rahmen der Nutzung von KI-Systemen ist auf die Eingabe von Geschäftsgeheimnissen und sensiblen Forschungsinformationen zu verzichten. Die unerlaubte Nutzung oder Offenlegung von Geschäftsgeheimnissen kann zivil-, arbeits- oder strafrechtliche Konsequenzen haben.

Beim Urheberrecht kann zwischen der aktiven Eingabe beim Prompten oder im Verlauf des Chats sowie der Nutzung der Ergebnisse unterschieden werden. Werden Texte zur Analyse oder für Bearbeitungen hineinkopiert, handelt es sich um eine Vervielfältigung.

Zu (1) Bei der Eingabe urheberrechtlich geschützter Texte in KI-Systeme sind die geltenden Urheberrechtsbestimmungen zu beachten.

• Eigene Texte können hochgeladen werden.
• Texte Anderer können mit persönlicher Einwilligung oder im Falle gemeinfreier Texte vervielfältigt werden, sofern eine Lizenz dies erlaubt oder per Gesetz eine Erlaubnis erteilt wird.

Sofern der Input nicht zum Training der KI verwendet wird und der Verlauf nicht gespeichert wird, dürfte es sich um eine vorübergehende Vervielfältigung im Sinne des § 44a UrhG handeln und damit eine privilegierte Nutzung darstellen. Sofern die Eingabe aber zu einer Änderung des Werkes führt, bedarf die Nutzung laut EuGH (2012) weiterhin der Erlaubnis des Urhebers bzw. der Urheberin.

Zu (2) Ergebnisse von KI-Systemen gelten als gemeinfrei, es sei denn, sie wurden durch ein signifikantes Maß an geistiger Eigenleistung des Anwendenden weiterentwickelt.

Für den Schutz durch das Urheberrecht ist eine persönliche geistige Schöpfung eines Menschen notwendig. Da Maschinen dies nicht erlangen können, gelten die generierten Ergebnisse in der Regel als nicht urheberrechtlich geschützt und daher als gemeinfrei. Eine Urheberschaft durch Nutzer*innen dieser Inhalte kann nur dann beansprucht werden, wenn die KI-generierten Ergebnisse durch ein signifikantes Maß an geistiger Eigenleistung bearbeitet, weiterentwickelt etc. werden, die KI also nur als Hilfsmittel für die eigene Leistung verwendet wird.

Da es bei der Verwendung KI-generierter Inhalte trotzdem (ungewollt) zu Urheberrechtsverletzungen kommen kann, z. B. durch starke Ähnlichkeiten der KI-generierten Inhalte mit bereits bestehenden urheberrechtlich geschützten Werken, ist dringend anzuraten, die generierten Ergebnisse zu überprüfen (z. B. durch Rückwärtssuche o. ä. im Internet).

Im Bereich der Prüfungen geht es um drei wesentliche Aspekte: Die Erstellung des zu prüfenden Ergebnisses, die Dokumentation sowie Abgabe als eigene Leistung und die Bewertung. Art und Umfang der von den Prüflingen vorzunehmenden Dokumentation des Einsatzes von KI-Systemen in Prüfungen (Zitierweise etc.) müssen vorab transparent gemacht werden.

Zu (2) Die Prüfungsform muss den Grundsatz der Chancengleichheit wahren und mit der Prüfungsordnung vereinbar sein.

Eine für den KI-Einsatz geeignete Prüfungsform ist zu wählen. Insbesondere dürfen durch den Einsatz keine Nachteile auf den Grundsatz der Chancengleichheit zu erwarten sein. Lehrende sind dafür verantwortlich, die Prüfungsform entsprechend auszugestalten und vorab zu prüfen, ob der Einsatz im Einklang mit der jeweiligen Prüfungsordnung steht.

Zu (3) Prüfungsleistungen sind individuell zu bewerten; eine automatisierte Korrektur ist unzulässig.

Prüfungsleistungen dürfen weder ohne Einwilligung in KI-Systeme geladen werden, noch durch dieselben allein korrigiert werden. Studierende haben Anspruch auf eine individuelle (menschliche) Bewertung, sodass alle Ausarbeitungen von den Prüfenden persönlich gesichtet und benotet werden müssen.

Inwieweit der Einsatz von KI-Systemen in Prüfungen zu besonderen Regelungen in den Prüfungsordnungen und ggf. in der Musterprüfungsordnung (MPO) führt, wird aktuell in einer LUH-interne Diskussion (AG Lehre und Studium, VPL) erörtert. Die Novelle der MPO wird Ende 2025 im Senat verabschiedet und bildet dann die Grundlage für alle Prüfungsordnungen.

• EuGH Beschluss vom 17. Januar 2012, Infopaq II, C-302/10, ECLI:EU:C:2012:16, Rn. 54
   
• Graupe, S., Horstmann, J. & Pfeiffenbring, J. (3 Aufl. 2024). Datenschutzrechtliche Informationen zur Durchführung von Forschungsvorhaben an der Leibniz Universität Hannover.
   
• Hofmann, F. (2024). Retten Schranken Geschäftsmodelle generativer KI-Systeme, ZUM 2024, 166-173.
   
• Maamar, N. (2023). Urheberrechtliche Fragen beim Einsatz von generativen KI-Systemen. ZUM 2023, (7) 481-491
   
• Salden, P. & Leschke, J. (2023). Didaktische und rechtliche Perspektiven auf KI-gestütztes Schreiben in der Hochschulbildung. Ruhr-Universität Bochum. .

KI-Anwendungen, die nicht von der LUH bereitgestellt werden

Ein "Anbieter" nach Artikel 3 Nr. 3 der KI-Verordnung ist jemand, der eine KI-Anwendung, die unter die Verordnung fällt, auf den Markt bringt oder in Betrieb nimmt. Das kann eine einzelne Person oder ein Unternehmen sein. Ein Anbieter ist verantwortlich dafür, dass die KI-Anwendung den Regeln der Verordnung entspricht, bevor sie anderen zur Verfügung gestellt wird, sei es durch Verkauf oder Bereitstellung zur Nutzung.

Ein „Betreiber“ im Sinne von Artikel 3 Nummer 4 der KI-Verordnung ist eine Person oder ein Unternehmen, das eine KI-Anwendung nutzt. Das bedeutet, dass der Betreiber die Verantwortung dafür trägt, wie diese KI-Anwendung tatsächlich eingesetzt wird. Im Gegensatz zum „Anbieter“, der die KI-Anwendung auf den Markt bringt, ist der Betreiber derjenige, der die KI-Anwendung für bestimmte Zwecke oder in bestimmten Situationen verwendet. Auch der Betreiber muss sicherstellen, dass die Nutzung der KI-Anwendung den Regeln und Anforderungen der Verordnung entspricht.

Hinweis: Lehrende, die verpflichtend Tools einsetzen, die nicht von der Hochschule bereitgestellt werden, wechseln dadurch ihre Rolle. Von Nutzenden werden sie zu Betreibenden einer KI-Anwendung – mit allen rechtlichen Pflichten und Konsequenzen, die daraus entstehen.

Ein Entscheidungsgremium zur Beurteilung des Einsatzes von KI-Systemen, die nicht von der LUH betrieben werden. Darüber hinaus behält es die Umsetzung der KI-VO und Aktualisierungen der KI-Richtlinie und anderer begleitender Maßnahmen im Blick. Es setzt sich zusammen aus VPB, CIO, DS und je einem Vertreter oder einer Vertreterin für die technische und die juristische Perspektive sowie die Lehre und wird durch den CIO koordiniert.

Der Begriff der personenbezogenen Daten wird in Art. 4 Nr. 1 DSGVO definiert. Hiernach sind personenbezogene Daten alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person (im Folgenden „betroffene Person“) beziehen. Als identifizierbar wird eine natürliche Person angesehen, die direkt oder indirekt, insbesondere mittels Zuordnung zu einer Kennung wie einem Namen, zu einer Kennnummer, zu Standortdaten, zu einer Online-Kennung oder zu einem oder mehreren besonderen Merkmalen identifiziert werden kann, die Ausdruck der physischen, physiologischen, genetischen, psychischen, wirtschaftlichen, kulturellen oder sozialen Identität dieser natürlichen Person sind. Der Personenbezug kann sich also aus unterschiedlichen identitätsbezogenen Merkmalen direkt oder indirekt (etwa durch Verknüpfung verschiedener Datensätze, Eliminierungsverfahren) ergeben. (Graupe, Horstmann & Pfeiffenbring, 2024)

Beispiele sind

• Name
• Matrikelnummer
• andere individuelle Kennungen (LUH-ID/WebSSO-Nummer)
• personenbezogene E-Mailadressen
• Fotos
• Video- und Tonaufnahmen

Durch die KI-VO sollen bestimmte Praktiken, die als zu gefährlich oder unethisch anzusehen sind, verboten werden. Diese werden in Artikel 5 der Verordnung beschrieben. Verbotene Praktiken sind solche, die ein unannehmbares Risiko darstellen. Dazu gehören zum Beispiel KI-Systeme, die Menschen manipulieren, um ihr Verhalten auf schädliche Weise zu beeinflussen, oder Systeme, die es erlauben, Menschen ohne deren Wissen stark zu überwachen. Ebenfalls verboten sind KI-Anwendungen, die Menschen aufgrund ihrer Merkmale, wie Aussehen oder Stimme, in Gruppen einteilen, was zu Diskriminierung führen könnte.

KI-Anwendungen, welche von der LUH bereitgestellt werden.

• Graupe, S., Horstmann, J. & Pfeiffenbring, J. (3 Aufl. 2024). Datenschutzrechtliche Informationen zur Durchführung von Forschungsvorhaben an der Leibniz Universität Hannover.