KI-System vs. klassische Software: Für welche Tools die KI-Schulungspflicht gilt
Die Schulungspflicht nach Art. 4 der KI-Verordnung (KI-Kompetenz) gilt nur für Anbieter und Betreiber von KI-Systemen. Das führt in vielen Unternehmen zu der zentralen Frage, ob die genutzte Software überhaupt ein „KI-System“ ist oder lediglich ein klassisches Programm.
Wer lediglich traditionelle, regelbasierte Software betreibt, muss keine KI-Kompetenz nachweisen. Die Abgrenzung ist rechtlich in Art. 3 Nr. 1 des AI Act verankert und entscheidet darüber, ob Beschäftigte geschult werden müssen. Aufbauend auf der Erklärung, wer von der Pflicht betroffen ist, klärt dieser Artikel, wann ein Tool den Schwellenwert zur Künstlichen Intelligenz überschreitet.
Was ist ein KI-System nach Art. 3 Nr. 1?
Ein KI-System ist rechtlich definiert als maschinengestütztes System, das für einen autonomen Betrieb ausgelegt ist, nach seiner Einführung anpassungsfähig sein kann und aus Eingaben ableitet, wie Ausgaben generiert werden. Das entscheidende Merkmal ist die Fähigkeit zur Ableitung (Infering) im Gegensatz zur reinen Ausführung fest einprogrammierter Regeln.
Erwägungsgrund 12 der KI-Verordnung stellt klar, dass KI-Systeme über einfache traditionelle Softwaresysteme hinausgehen: Sie beruhen auf Modellen oder Algorithmen, die in der Lage sind, Muster zu erlernen, zu schlussfolgern oder verborgene Strukturen in Daten zu erkennen, um Vorhersagen, Empfehlungen oder Entscheidungen zu generieren.
Entscheidungstabelle: KI-System vs. klassische Software
Die folgende Gegenüberstellung verdeutlicht, wann eine Software als KI-System gilt und somit die Schulungspflicht nach Art. 4 auslöst (sofern sie beruflich eingesetzt wird).
| Merkmal | Klassische Software | KI-System (nach Art. 3 Nr. 1) |
|---|---|---|
| Betriebsweise | Folgt deterministischen, von Menschen festgelegten Wenn-Dann-Regeln (Hardcoded). | Leitet selbstständig ab (Infering), wie das Ziel durch Vorhersagen, Inhalte oder Entscheidungen erreicht wird. |
| Anpassungsfähigkeit | Statisch, ändert ihr Verhalten nur durch Updates des Codes. | Kann nach der Einführung anpassungsfähig sein (Lernfähigkeit) oder ist für autonomen Betrieb ausgelegt. |
| Praxisbeispiel Kundenservice | Chatbot mit festem Klick-Menü und festgelegten Antwort-Bausteinen. | Chatbot mit Large Language Model (z.B. ChatGPT), der Antworten dynamisch generiert. |
| Praxisbeispiel Auswertung | Excel-Makro, das Zellen nach einer festen Formel aufsummiert. | Ein Modell, das unstrukturierte Texte analysiert und daraus eigenständig Stimmungen (Sentiment Analysis) ableitet. |
| Rechtsfolge (Art. 4) | Keine KI-Kompetenz-Schulung gesetzlich vorgeschrieben. | Betreiber (Arbeitgeber) muss ein ausreichendes Maß an KI-Kompetenz beim Personal sicherstellen. |
Gilt die Pflicht auch für integrierte KI-Funktionen?
Ja, auch integrierte KI-Module in bestehender Standardsoftware fallen unter die Regelungen, wenn sie die Kriterien aus Art. 3 Nr. 1 erfüllen. Wer eine klassische Textverarbeitung nutzt, betreibt noch kein KI-System. Sobald jedoch ein auf einem Sprachmodell basierender KI-Assistent in diese Textverarbeitung integriert wird und vom Personal genutzt werden soll, wird das Unternehmen in Bezug auf diese Funktion zum Betreiber eines KI-Systems.
Das bedeutet für die Praxis: Die reine Nutzung von Standard-Tools ohne autonome Ableitungsfunktionen löst keine Schulungspflicht aus. Der Einsatz generativer KI (etwa zur Texterstellung oder Code-Generierung) im beruflichen Alltag macht jedoch die Vermittlung von KI-Kompetenz nach Art. 4 zur Pflichtaufgabe des Arbeitgebers.
Häufige Fragen
Was ist ein KI-System nach dem AI Act?
Ein KI-System ist nach Art. 3 Nr. 1 der KI-Verordnung ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Einführung anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben (wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen) generiert werden, die physische oder virtuelle Umgebungen beeinflussen können.
Gilt Microsoft Excel als KI-System?
Einfache Tabellenkalkulationen und Formeln in Excel gelten nicht als KI-System, da sie rein auf vordefinierten Regeln basieren, die von Menschen programmiert wurden. Wenn jedoch neue KI-Features wie Microsoft Copilot in Excel genutzt werden (die auf Sprachmodellen basieren und selbstständig ableiten), handelt es sich bei diesen spezifischen Funktionen um ein KI-System.
Fällt ein klassischer Chatbot unter die KI-Schulungspflicht?
Ein klassischer Chatbot, der nur einem festen Entscheidungsbaum folgt (regelbasiert), ist kein KI-System. Ein Chatbot, der auf Large Language Models (LLM) wie ChatGPT basiert, erfüllt hingegen die Definition des KI-Systems, womit bei dessen beruflichem Einsatz durch Beschäftigte die Schulungspflicht für KI-Kompetenz nach Art. 4 greift.
Rechtsgrundlagen und Quellen
Dieser Kurs unterstützt bei der Erfüllung der KI-Kompetenz-Pflicht nach Art. 4 EU AI Act. Er stellt keine Rechtsberatung dar und garantiert keine Compliance im Einzelfall.