Was soll man zur KI‑Verordnung schulen?

Die KI-Verordnung äußert sich nicht zu konkreten Inhalten. Wir schon - abgestimmt mit Fachbereichen, Lernexperten, KI-Experten und Anwälten.

Der Art. 4 des EU AI Act sagt erst mal nur, dass 

„Maßnahmen ergriffen werden müssen, damit Personen hinreichend kompetent im Umgang mit KI sind“. 

Und 

„die Schulung muss angepasst sein an Rolle, Vorwissen, Art der KI-Systeme und Nutzungskontext“. 

(Vergleiche offizieller Gesetzestext des EU AI Act) 

Das ist schon sehr allgemein gehalten. Was soll man denn jetzt schulen?
Diese Frage haben wir uns als Security-, Regulatorik- und Lernexperte auch gestellt - und uns deshalb mit KI-Experten, Fachbereichen unserer Kunden, Juristen und Lernexperten zusammengesetzt und gemeinsam die Inhalte einer "KI-Kompetenzschulung" definiert.
 

KI-Grundlagen für die AI Act Schulung

Das ist der Low-Brainer. Wer KI benutzt, sollte die Magie dahinter verstehen:

• Wie funktioniert KI eigentlich?
• Wie lernt eine KI?
• Was ist Grounding bzw. Reasoning?
• Was ist der Unterschied zwischen einem Public LLM und einer Unternehmens-KI?
• Was sind Halluzinationen und warum ist eine KI oftmals voreingenommen?

Botschaften sollten hier sein: KI liefert Wahrscheinlichkeiten, keine Wahrheiten. Bei Public Systemen können deine Inputdaten zu Trainingszwecken verwendet werden. Und du solltest KI-System nie ungeprüft übernehmen. Der „Human-in-the-loop“ bleibt entscheidend.

Die KI-Verordnung & Schulungspflichten nach AI Act

Alle Experten waren sich schnell einig, dass eine Schulung zur KI-Kompetenz auch das Wesen der EU KI-Verordnung erklären sollte:

• Warum gibt es sie?
• Was bedeuten die Risikoklassen?
• Welche Pflichten bringt die EU KI-Verordnung mit sich?

Für normale Anwender ist dieses Kapitel eher informativ. Sie sollten die Klassen und die Transparenzpflichten kennen. Und dass sie immer selbst für das Ergebnis verantwortlich sind und dafür einstehen.

„Das war die KI“ 

ist keine Entschuldigung. 

Themen wie Ethik, Fairness, Vermeidung von Bias, Datenschutz und Datensicherheit empfinden wir als so wichtig, dass wir sie in eigenen Kapiteln behandeln.

KI und Cyber Security / Datenschutz

Dieses Kapitel haben wir in zwei große Blöcke aufgeteilt. 
Zum einen, wie Angreifer KI nutzen (Phishing, Social Engineering, Deepfakes): KI ist eine Superkraft – für Angreifer und für Verteidiger. Phishing-Mails werden raffinierter, Deepfakes sind quasi nicht mehr zu erkennen. Aber man kann sich trotzdem relativ einfach schützen, nämlich durch verfizieren, verifizieren und noch mal verifizieren.

Der andere Block behandelt die „Incidents“, die man mit KI verursachen kann - auch aus Versehen - wenn man die falsche KI mit sensiblen Informationen füttert. Hierunter fällt sowohl Cyber Security als auch Datenschutz, weil personenbezogene Daten auch nichts anderes als sensible Informationen sind. Botschaften sind hier: lade keine sensiblen Informationen in public KIs, zur Not pseudonymisiere sie vorher. 
 

KI-Systeme im Arbeitsalltag: Was Mitarbeiter lernen müssen

Von unseren Kunden kam häufig die Anforderung:

 „Wir müssen unsere konkreten Anwendungsfälle und Tools in der Schulung wiederfinden“. 

Deshalb ist dieses Kapitel entstanden:

• Zu welchem Zweck nutze ich welche KI?
• Wie unterscheiden sich integrierte Systeme wie Gemini oder Copilot von ChatGPT oder Claude?
• Welche KI ist im Unternehmen freigegeben? 

Die Botschaften lauten hier: nutze KI! Sie wird bzw. ist schon integraler Bestandteil der Arbeitswelt. Aber schalte dabei immer das Hirn ein. KI ist ein Werkzeug, kein Entscheider. Du bist und bleibst die verantwortliche Person.

Praktische Tipps zur Anwendung von KI

Abschließend geben wir die Teilnehmer noch praktische Tipps für den Arbeitsalltag auf den Weg, beispielweise verschiedene KIs ausprobieren, gerne auch in verschiedenen Sprachen. Oder wie sich das „Garbage in, Garbage out“ Problem vermeiden lässt. Schließlich ist der richtige Prompt elementar für die Qualität des Ergebnisses: Rolle, Aufgabe, Format und vor allem Kontext. 

Außerdem erläutern wir den richtigen Umgang mit Urheberrecht. Können KI-Inhalte urheberrechtsgeschützt sein? Können sie gegen Urheberrecht verstoßen? Darf man KI-generierte Bilder einfach so verwenden?

Und vermitteln noch einmal nachdrücklich den „Human-in-the-Loop“, also dass KI-Ergebnisse nicht ungeprüft übernommen werden sollten. 

Wir sind davon überzeugt, mit diesen 5 Kapiteln in ca. 30-40 Minuten nicht nur Artikel 4  der EU KI-Verordnung vollumfänglich zu bedienen, sondern alle relevanten Themen für die Zielgruppe „Anwender von KI-Systemen“ zu adressieren - kurz und knackig, leicht verständlich, mit Videos und vielen praktischen Tipps. 

Die Schulung ist übrigens im unternehmenseigenen LMS nutzbar (Zauberwort „Scorm“) oder in unserer DSGVO-konformen Schulungsplattform, selbstverständlich mit Test und Zertifikat.

Rollenspezifische Inhalte für KI Schulungen 

Laut KI-Verordnung sollten die Schulungen an die jeweiligen Rollen (z.B. HR, IT oder Management) angepasst sein. Da für die meisten Personen das Thema noch recht neu ist, schulen die meisten Unternehmen erst mal den „Rundumschlag“. 
Große Unternehmen können oftmals auch gar nicht verschieden Schulungen an verschiedene Zielgruppen zuordnen. Wir schon. Wir können in unsere Schulungen Abfragen integrieren á la „arbeiten Sie in HR?“ und für diese Personen spezielle Inhalte ausliefern.

Auffrischung & Test Out nach Anforderungen des AI Act 

Laut KI-Verordnung sollte auch der Kenntnisstand des Lernenden berücksichtigt werden. Das ist gar nicht so einfach mit einem „one size fits all“ E-Learning - aber machbar! 
Wir bieten Auffrischungspfade, die bestehendes Wissen wiederholen, bis hin zu Test-Out-Optionen für Profis: „Du kennst dich aus? Beweise es in einen Vorabtest. Wenn du die Fragen zu einem Kapitel bestehst, musst du dieses Kapitel nicht mehr absolvieren. Und wenn du sie nicht bestehst, hast du gerade bewiesen, dass du das Kapitel noch mal absolvieren solltest.“
Teilnehmer lieben Auffrischungspfade und Test-Out, insbesondere wenn sie Inhalt schon aus dem letzten Jahr kennen. 
Und Unternehmer lieben sie auch, weil nicht sinnlos wertvolle Produktivität vergeudet wird, sondern von der Organisation nur so viel Zeit wie nötig beansprucht wird.