Allgemeines
Neben den unbestreitbaren Vorteilen, die generative KI mit sich bringt, stellt sie uns auch vor neue Herausforderungen, die es zu beleuchten und zu bewältigen gilt.
Nach anfänglicher Euphorie über die neue Technologie mehren sich kritische Stimmen, die auf die Risiken des Einsatzes sog. generativer KI (bspw. ChatGPT, Dall-E) hinweisen. Einigkeit besteht in der Diskussion insoweit, als ein Innehalten, ein Reflektieren der positiven wie negativen Auswirkungen sowie die Schaffung eines Regelwerkes zur Nutzung dieser Technologie gefordert wird (bspw. der offene Brief von Experten aus Forschung, Wissenschaft und der Tech-Branche vom 29.3.2023 sowie die sehr umfangreiche Stellungnahme des Deutschen Ethikrats vom 20.3.2023.
Das Rektorat der Universität Rostock hat sich bislang (noch) nicht verbindlich zu diesem Thema geäußert. Damit ist nicht geklärt, ob generative KI an der Universität überhaupt eingesetzt werden darf und falls ja, zu welchen Zwecken und unter welchen Voraussetzungen. Solange diese Ungewissheit besteht, sollte auf die dienstliche Beschaffung von Lizenzen für generative KI verzichtet werden.
ChatGPT
(Auch) aus datenschutzfachlicher Sicht rate ich aktuell davon ab, ChatGPT bzw. die Weiterentwicklung GPT-4 in der derzeit verfügbaren Ausgestaltung einzusetzen. Um seine Algorithmen zu trainieren, sammelt und speichert ChatGPT massenhaft personenbezogene Informationen seiner Nutzer, ohne dass dafür eine Rechtsgrundlage existiert. Auch wird den Nutzern vom Anbieter nicht bzw. nicht in ausreichendem Maße mitgeteilt, welche Informationen von ihnen gespeichert werden. U.a. wegen dieser Verstöße gegen die Datenschutzgrundverordnung (DSGVO) hat die italienische Datenschutzaufsichtsbehörde dem Unternehmen OpenAI am 31.3.2023 mit sofortiger Wirkung verboten, Informationen italienischer Nutzer zu verarbeiten und Nachbesserungen gefordert. Seit Kurzem steht ChatGPT auch in Deutschland auf dem Prüfstand. Die sog. Datenschutzkonferenz, ein Zusammenschluss des Bundesdatenschutzbeauftragten sowie aller Datenschutzaufsichtsbehörden der Bundesländer, eroriert, ob und wie ChatGPT datenschutzkonform eingesetzt werden kann. Ich empfehle, das Ergebnis dieser Prüfung abzuwarten.
Solange ChatGPT nicht mit geltendem Datenschutzrecht vereinbar ist, kann eine Verwendung an der UR nicht empfohlen werden.