KI bleibt
Künstliche Intelligenz spielt inzwischen eine unverzichtbare Rolle in unserem täglichen Leben. Manchmal ist das sichtbar, manchmal sind wir uns dessen gar nicht bewusst. Die Entwicklungen schreiten rasant voran. „KI wird von Organisationen in großem Umfang genutzt, weil sie viele Vorteile bietet. In der Praxis ist der Einsatz von KI jedoch nicht ohne Risiken“, sagen Sharinne Ibrahim und Caspar Bottemanne, tätig bei Boels Zanders. Beide sind advocaat und gehören unter anderem zum spezialisierten Sektorenteam Bildungswesen.
EU-Verordnung
Sharinne: „Auch die Gesetzgebung und Regulierung rund um KI entwickelt sich mit hoher Geschwindigkeit. Der AI Act ist ab 2025 schrittweise in Kraft getreten, mit der Erwartung einer vollständigen Anwendung im Jahr 2026. Die Verordnung enthält Regelungen zur Nutzung von KI und teilt KI-Systeme nach ihrem Einfluss und Risiko ein. Diese Regeln gelten unmittelbar. Je größer das Risiko, Schäden für Bürger oder die Gesellschaft insgesamt zu verursachen, desto strenger sind die Regeln. Bei unvertretbaren Risiken gilt sogar ein vollständiges Verbot der Nutzung von KI-Systemen. Die unmittelbare Wirkung des AI Acts in den Niederlanden bedeutet, dass unter anderem KMU und Bildungseinrichtungen Maßnahmen ergreifen müssen. Organisationen bekommen Zeit, sich vorzubereiten, spezifische Richtlinien zu entwickeln und Anweisungen für Mitarbeiter auszuarbeiten.“
„Es ist wichtig, die Kontrolle darüber zu behalten, was Studierende, Praktikantinnen und Praktikanten sowie Mitarbeitende mit KI tun dürfen.“
Caspar: „Auch das Bildungswesen kann sich KI nicht länger entziehen. Derzeit liegt ein großer Fokus auf der Vermeidung von Betrug mit KI. Bekannt ist der Verdacht, dass Schüler und Studierende in großem Umfang Texte wie Essays von KI schreiben lassen. Es gibt sogar den Verdacht, dass Studierende Zertifikate für Praxiserfahrungen von KI haben erstellen lassen, wodurch Kenntnisse und Fähigkeiten vorgetäuscht werden, die sie nicht besitzen. Persönlich sehe ich den Einsatz von KI-Systemen jedoch als Chance für das Bildungswesen, vorausgesetzt, die Bildungseinrichtungen setzen sich mit KI auseinander und führen eine klare Politik. Für künftige Generationen wird der Einsatz von KI immer normaler. KI ist für sie Bibliothek, Texter, Sparringspartner und Layout-Experte in einem. Schließlich wird KI für Schülerinnen, Schüler und Studierende Teil der Lehrpläne.“
„Es ist wichtig, die Kontrolle darüber zu behalten, was Studierende, Praktikantinnen und Praktikanten sowie Mitarbeitende mit KI tun dürfen.“
KI-Kompetenz
Innerhalb des durch den AI Act gegebenen Rahmens haben Organisationen einen gewissen Spielraum, wie sie diesen umsetzen möchten. Sharinne: „Ein Bestandteil des AI Acts ist die sogenannte KI-Kompetenz. Die Verordnung verpflichtet die Verantwortlichen für den Einsatz von KI-Systemen, das Wissen der Nutzer über KI zu fördern.“ Die KI-Kompetenz konzentriert sich auf das Bewusstsein für den Einsatz von KI und die Konsequenzen der Nutzung und der daraus resultierenden Ergebnisse. „Wir empfehlen Organisationen, von Anfang an transparent zu sein. Für alle Mitarbeitenden muss auf einen Blick klar sein, was in Bezug auf KI erlaubt ist und was nicht. Wissen über KI ist notwendig, um verantwortungsvoll damit umgehen zu können.“ Caspar ergänzt: „Jeder, der KI nutzt, muss KI zunächst verstehen. Nur dann kann man entscheiden, welche Anwendungen und Ergebnisse der KI brauchbar sind und welche nicht.“
„Ein verantwortungsvoller Umgang mit KI muss innerhalb der Organisation sichergestellt sein.“
Sharinne: „Jede verantwortliche Person für KI muss die Anforderungen an die KI-Kompetenz erfüllen. Organisationen benötigen klare Nutzungsanweisungen für bestimmte KI-Tools. Ein verantwortungsvoller Umgang mit KI muss also innerhalb der Organisation garantiert sein. Dies gilt ebenso für das Bildungswesen, die Wirtschaft und Praktikumsbetriebe. Bei Praktika sind sowohl das Praktikumsunternehmen als auch die Bildungseinrichtung gefragt. Es ist wichtig, die Kontrolle darüber zu behalten, was Studierende, Praktikantinnen und Praktikanten sowie Mitarbeitende mit KI tun dürfen. Klare Richtlinien sind dabei unerlässlich, auch aus der Perspektive des Datenschutzes und des geistigen Eigentums.“
Caspar: „Im Bildungswesen wird KI immer wichtiger. Bildungseinrichtungen nutzen zum Beispiel selbst digitale Proctoring-Tools und Plagiatscanner. Studierende nutzen KI-Tools zur Unterstützung bei der Recherche und beim (Über-)Schreiben von Texten.“ Laut Caspar sind Bildungseinrichtungen dabei noch auf der Suche nach dem richtigen Umgang. Studierende werden immer häufiger dazu aufgefordert, Rechenschaft über ihren KI-Einsatz abzulegen. Caspar weiter: „Es kann zu Betrugsanfälligkeit kommen, aber auch zu effektivem Lernen durch den Einsatz von KI. Das schafft ein Spannungsfeld, das Aufmerksamkeit erfordert. Die Bildungseinrichtung muss sich überlegen, was sie von Studierenden erwartet. Vorbeugen ist besser als heilen: Wenn eine Bildungs- oder Praktikumseinrichtung erst am Ende der Ausbildung oder des Praktikums feststellt, dass der Schüler oder die Schülerin nicht die erwarteten Kompetenzen besitzt, beginnt ein schwieriger Prozess. Eine Wiederholung zu verlangen oder ein Diplom zu verweigern, sind einschneidende Entscheidungen. Konkrete Beschlüsse über den Einsatz von KI oder Sanktionen müssen daher rechtssicher sein. Auch die Gesellschaft wird Verantwortung und Rechenschaft fordern: Bildungseinrichtung, können wir auf das Wissen und die Fähigkeiten der von Ihnen ausgebildeten Fachkräfte vertrauen?“
Eine klare Vision auf KI ist notwendig
„Eine klare Vision für den Einsatz von KI ist unerlässlich“, so Sharinne. „Wenn die Richtlinien zum Einsatz von KI nicht in Ordnung sind, können Datenschutzgesetze und Rechte an geistigem Eigentum innerhalb der Organisation ebenfalls nicht gewährleistet werden. KI muss daher auf die Agenda des Managements. Dies wird ein kontinuierlicher Prozess, ähnlich wie bei der Umsetzung der DSGVO. Denken Sie gemeinsam über die Rolle nach, die KI in der Organisation spielt. Besprechen Sie, wie Risiken vermieden und Mitarbeitende sowie Praktikantinnen und Praktikanten geschützt werden können. KI-Kompetenz muss strukturell integriert werden und die Rahmenbedingungen müssen klar sein, damit alle lernen, sich in einer von KI geprägten Gesellschaft zurechtzufinden. Unser Rat lautet daher: Beginnen Sie so früh wie möglich mit der Integration der KI-Gesetzgebung.“
