Humboldt-Universität zu Berlin - Künstliche Intelligenz an der HU

Einführung

Generative künstliche Intelligenz[1] wie OpenAI, ChatGPT oder Google Gemini erleben eine rasante Entwicklung und finden zunehmend für immer mehr Aufgabenbereiche Anwendung – auch im beruflichen Kontext der Beschäftigten der Humboldt-Universität zu Berlin. Obwohl Nutzen, Folgen und Risiken dieser KI-Tools erst in Teilen absehbar sind, können wir davon ausgehen, dass die Entwicklungsgeschwindigkeit im Bereich der KI in Zukunft weiter zunehmen wird.

Die HU fördert den Einsatz von KI in Forschung, Lehre und Verwaltung. Wie bei jeder neuen Technologie, verfolgen wir als Universität den Anspruch, uns mit diesen Entwicklungen konstruktiv auseinanderzusetzen und sie sicher in unseren Arbeitsalltag zu integrieren. Um dabei als Universität selbstbestimmt agieren zu können, entwickelt und hostet der Computer- und Medienservice (CMS) eigene KI-Infrastruktur auf der Basis von Open-Source-Produkten. Diese bietet den Vorteil eines niedrigschwelligen und datenschutzkonformen Einsatzes. Zur freien Nutzung für alle HU-Angehörigen steht derzeit ein Angebot von Sprachmodellen, den sogenannten Large Language Models, für unterschiedliche Zwecke zur Verfügung.[2] Dabei werden, anders als bei kommerziellen Produkten, weder die Eingaben der Nutzenden („Prompts“) noch die Ausgaben des Systems gespeichert oder nachgehalten.

Der vorliegende Leitfaden weist auf rechtliche Randbedingungen und Sicherheitsaspekte im Zusammenhang mit dem Einsatz künstlicher Intelligenz in den verschiedenen Bereichen der Universität hin. Weitere aktuelle Informationen zu den Einsatzmöglichkeiten und Nutzungsszenarien der HU-eigenen KI-Anwendungen werden auf der begleitenden Website² zu diesem Leitfaden angeboten. Er wird regelmäßig fortgeschrieben und aktualisiert, um den neuesten Erkenntnissen zum Einsatz von KI-Werkzeugen gerecht zu werden. Weiterhin soll der Leitfaden zukünftig zu einer KI-Policy ausgebaut werden

Für den Bereich Studium und Lehre beachten Sie bitte auch die „Empfehlungen zur Nutzung von Künstlicher Intelligenz in Studienleistungen und Prüfungen an der HU“[3]. Hinweise zur Zitierung von KI-generierten Inhalten, finden sich in den Empfehlungen von Berlin University Publishing[5].

Nutzung der durch KI erzeugten Ergebnisse

Durch generative KI erzeugte Ergebnisse können sehr genau und präzise, aber auch völlig frei erfunden und fehlerhaft sein. Es ist daher wichtig, den vom KI-Werkzeug produzierten Output jeweils kritisch auf Korrektheit zu prüfen und sich nicht ausschließlich darauf zu verlassen. Die Verantwortung für die weitere Nutzung liegt bei Ihnen. Bitte verwenden Sie die Ergebnisse generativer KI daher nur dann, wenn Sie sicher sind, deren Qualität auch selbst beurteilen zu können.

Datenschutz und Geheimnisschutz

Informationen, die mit generativen KI-Tools geteilt werden, sind ab diesem Zeitpunkt meist nicht mehr geschützt und können von den Anbietern für eigene Zwecke verwendet werden. Unter diesen Bedingungen können grundsätzliche Datenschutzanforderungen zur Verarbeitung (Zweckbindung, Art. 5 der DSGVO, Vertraulichkeit) und zur Transparenz (Umsetzung Betroffenenrechte, Art. 15, 16, 17, 18 und 21 der DSGVO, Informationspflichten nach Art. 13 und 14 DSGVO) nicht mehr ausreichend gewährleistet werden.

Zudem nutzen viele KI-Systeme fremde IT-Systeme („Cloud“), die sich oft in Ländern außerhalb der EU befinden. Da in diesen sogenannten Drittländern teilweise deutlich niedrigere Schutzstandards gelten, kann die Verarbeitung von personenbezogenen Daten in solchen Systemen unzulässig sein. Es ist daher wichtig, darauf zu achten, dass geschützte oder sensible Informationen auf diese Weise nicht in die Hände von Unbefugten gelangen.

Daraus leiten sich für die Beschäftigten der HU folgende Handlungsanleitungen ab:

• Schützen Sie vertrauliche Daten: Geben Sie keinesfalls vertraulich eingestufte Daten oder nicht-öffentliche Forschungsdaten in öffentlich zugängliche, generative KI-Werkzeuge ein.
• Wenn es sich nicht um vertraulich eingestufte Daten handelt, müssen personenbezogene Daten vor der Weitergabe entfernt bzw. anonymisiert werden. Sie können diese bei Bedarf nachträglich wieder einfügen.
• Bei der Nutzung der HU-internen KI-Angebote des CMS entfallen die oben genannten Einschränkungen bzgl. des Datenschutz, da das System so konfiguriert ist, dass alle Datenschutzanforderungen erfüllt sind.

Urheberrecht und Patentrecht

Bei der Nutzung von KI können neben personenbezogenen Daten auch geistig geschützte Inhalte Dritten zugänglich gemacht werden. Bestehende Schutzrechte können infolgedessen unterlaufen oder noch nicht errichtete Schutzrechte (z. B. zur Patentierung vorgesehene Inhalte) ggf. durch Dritte ausgenutzt werden.

Daraus leitet sich für die Beschäftigten der HU folgende Handlungsanleitung ab:

• Bitten achten Sie darauf, kein geistig geschütztes Eigentum an öffentlich zugängliche KI-Werkzeuge zu übermitteln. Insbesondere bei der Verwendung generativer KI-Werkzeuge sollten Sie sicherstellen, keine bestehenden bzw. noch nicht etablierten Schutzrechte zu gefährden.
• Bei der Nutzung der HU-internen KI-Angebote des CMS entfallen die oben genannten Einschränkungen bzgl. Urheberrecht und Patentrecht, da das System so konfiguriert ist, dass keine Ihrer Eingaben an Zweite innerhalb der HU oder Dritte außerhalb der Institution abfließen können.

IT-Sicherheit

Generative KI erleichtert es böswilligen Akteuren, ausgeklügelte Täuschungen in weitaus größerem Umfang zu entwickeln. Zukünftig sind daher neuartige und kreative Cyberkriminalitätskampagnen zu erwarten.

Daraus ergibt sich für die Beschäftigten der HU folgende Handlungsanleitung:

• Seien Sie bitte vorsichtig bei KI-gestütztem Phishing. Leider wird E-Mail-Phishing mit den verwendeten Formulierungen immer raffinierter. Auch menschliche Stimmen können täuschend echt imitiert werden und sind am Telefon kaum mehr von der Sprache eines Menschen zu unterscheiden. Zudem eröffnen KI-basierte Bild- und Videomanipulationen weitere Möglichkeiten für kreatives Phishing. Bitte prüfen Sie eingehende Mails oder sonstige Nachrichten sorgfältig, ehe Sie darauf antworten. Dies gilt insbesondere dann, wenn vertrauliche oder potentiell gefährdende Informationen übermittelt werden sollen.
• Befolgen Sie weiterhin bewährte Sicherheitspraktiken[4] und befassen Sie sich mit den Möglichkeiten der Cyberkriminalität durch generative KI. Wenn Sie unsicher sind oder verdächtige Nachrichten melden möchten, wenden Sie sich bitte an die Benutzerberatung des CMS: cms-benutzerberatung@hu-berlin.de.

Beschaffungen

Unter Beschaffungen sollen an dieser Stelle auch Cloud-Lösungen, Abonnements, Subskriptionen und Verträge für den Bezug von IT-Leistungen gefasst werden. Der Markt für gener­ative KI-Tools ist sehr unübersichtlich und bei vielen Anbietern ist die weitere Verwendung der eingegebenen Daten nicht klar ersichtlich.

• Bevor Sie generative KI-Tools verwenden, sollten Sie diese auf Risiken in Bezug auf Daten­schutz und IT-Sicherheit prüfen. Wenn Sie unsicher sind, empfehlen wir Ihnen, auf eine Nutzung zu verzichten oder sich an etablierten Tools zu orientieren.
• Erwägen Sie, vor der Beschaffung von KI-Tools eine Vorabprüfung vorzunehmen bzw. vornehmen zu lassen. So können Sie sicherstellen, dass die Software für die beabsichtigten Anwendungsbereiche eingesetzt werden kann sowie unter welchen fachlichen und rechtlichen Bedingungen dies möglich ist. Die Vorabprüfung kann gemeinsam mit dem CMS, den IT-Sicherheitsbeauftragten und Datenschutzbeauftragten durchgeführt werden.

Wenn mit der vorgesehenen KI-Software personenbezogene Daten verarbeitet werden sollen, können mit einer Vorprüfung grundlegende Risiken schon vor der Entscheidung zur Beschaffung identifiziert und bearbeitet werden. Dennoch müssen unter Umständen zusätzlich zur Vorprüfung die datenschutzrechtliche Zulässigkeit des zu beschaffenden Tools für den konkreten Einsatz geprüft und durch den oder die Datenschutzbeauftragte:n genehmigt werden.

[1] Unter Künstlicher Intelligenz (KI) werden Algorithmen und Tools verstanden, mit denen menschliche Fähigkeiten und menschliches Verhalten nachgeahmt werden können. Generative KI bezieht sich in diesem Sinne auf den Einsatz von KI für die Analyse von Mustern und Strukturen in vorhandenen Daten, um neue Inhalte verschiedener Formate wie z. B. Text, Musik, Computercode, Bilder oder Videos zu erzeugen.

[2] https://ki.cms.hu-berlin.de

[3] https://www.hu-berlin.de/de/studium/pservice/empfehlungen_ki_in_pruefungen_hu_2023-09-18.pdf

[4] https://informationssicherheit.hu-berlin.de/de/Phishing

[5] https://www.berlin-universities-publishing.de/ueber-uns/policies/ki-leitlinie/ki-handreichung/index.html