EU AI Act

Die Verordnung über Künstliche Intelligenz (Regulation (EU) 2024/1689), kurz EU AI Act, stellt den umfassenden Rechtsrahmen für die Entwicklung, den Einsatz und die Vermarktung von KI-Systemen dar. Damit verfolgt die Europäische Union das Ziel, Chancen von KI nutzbar zu machen, gleichzeitig aber Risiken für Grundrechte, Sicherheit und Demokratie wirksam einzudämmen. Der EU AI Act gilt unmittelbar in allen Mitgliedstaaten und bildet den verbindlichen Rahmen, an dem sich auch Schulen und Bildungseinrichtungen orientieren müssen.

Die Verordnung verfolgt mehrere zentrale Leitlinien, die auf den Schutz und die verantwortungsvolle Nutzung von KI abzielen:

• Schutz der Grundrechte: Besonders die Privatsphäre, der Schutz personenbezogener Daten sowie die Wahrung demokratischer Werte stehen im Zentrum.

• Transparenz und Nachvollziehbarkeit: KI-Systeme sollen so gestaltet sein, dass ihre Funktionsweise überprüfbar ist und Nutzerinnen und Nutzer informiert werden, wenn sie mit KI interagieren.

• Förderung von Innovation: Der Rechtsrahmen soll Innovationen ermöglichen, indem er klare Regeln schafft, ohne die Entwicklung neuer Technologien unnötig zu hemmen.

• Sicherheit und Zuverlässigkeit: Der Einsatz von KI darf keine unkontrollierbaren Risiken bergen.

Der EU AI Act unterscheidet verschiedene Risikokategorien von KI-Systemen, je nachdem, wie stark sie potenzielle Schäden verursachen können. 

• Verbotene Praktiken: Systeme, die ein unannehmbares Risiko darstellen, z. B. Social Scoring mithilfe biometrischer Merkmale, Manipulation durch subliminale Techniken etc.

• Hochrisiko-KI: Systeme, die in sensiblen Bereichen eingesetzt werden . Diese unterliegen strengen Anforderungen wie Risikobewertung, Transparenz, Überwachung und Robustheit. Auch diese Systeme sind derzeit nicht in Schulen verwendbar. 

• KI-Systeme mit allgemeinem Verwendungszweck (General Purpose AI, GPAI): Modelle wie GPT oder andere Sprachmodelle, die für vielfältige Zwecke einsetzbar sind und damit ebenfalls reguliert werden. 

• Begrenztes oder minimales Risiko: Anwendungen, die weniger riskant sind und nur geringeren Anforderungen unterliegen.
  
  

Für Schulen ergeben sich konkrete Implikationen:

• Lehrkräfte und Schulen als Betreiber von KI-Systemen müssen prüfen, in welcher Risiko-Bewertung sich Systeme verorten. Die beiden höchsten Risikostufen sind in Schule nicht einsetzbar

• Es besteht eine Pflicht zur Information: Schulen müssen wissen und offenlegen können, welche KI-Systeme sie nutzen, welche Daten verarbeitet werden, wie robust und sicher die Modelle sind.

• Lehrkräfte sollten sich frühzeitig mit dem AI Act vertraut machen, um digitale Werkzeuge datenschutz- und rechtskonform einzusetzen und zu reflektieren, welche KI-Anwendungen im Unterricht sinnvoll und rechtlich zulässig sind. 

• Fortbildungspflicht für Lehrkräfte, etwa der KI-Grundlagenkurs des NLQ
  
  

Perspektive und Ausblick

Mit dem EU AI Act setzt Europa international Maßstäbe für die Regulierung von KI. Für Schulen bedeutet dies, dass der Umgang mit digitalen Werkzeugen nicht nur didaktisch, sondern auch rechtlich reflektiert werden muss. Damit soll sichergestellt werden, dass KI verantwortungsvoll, transparent und im Sinne der Lernenden genutzt wird.

Weiterführende Links

• Das EU-Gesetz zur künstlichen Intelligenz. Aktuelle Entwicklungen und Analysen des EU KI-Gesetzes.
• KI-Gesetz: erste Regulierung der künstlichen Intelligenz
  (Europäisches Parlament. 20.02.2025)
• Künstliche Intelligenz – Fragen und Antworten
  (Europäische Kommission. 01.08.2024)