KI-Verordnung (EU) 2024/1689

Die Verordnung (EU) 2024/1689 unterscheidet vor allem zwischen Anbietern und Betreibern. Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet, ausgenommen die rein private Nutzung. Eine Servicefirma, die ein Sprachmodell für Berichte, ein Prognosewerkzeug für Verschleiß oder ein Tool zur Dokumentenanalyse einsetzt, ist Betreiber. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, auch unentgeltlich. Wer eine eigene Diagnose-Software an Kunden vertreibt, ist Anbieter.

Welche Pflichten daraus folgen, hängt von der Risikoklasse ab. Verboten sind bestimmte Praktiken seit dem 2. Februar 2025. Die meisten Werkzeuge in Service und Instandhaltung, etwa Dokumentenanalyse, Ticket-Einordnung oder Verschleißprognose, sind in der Regel keine Hochrisiko-Systeme. Für sie gelten die Pflicht zur Förderung der KI-Kompetenz und, wo einschlägig, die Transparenzregeln. Hochrisiko-Pflichten betreffen nur KI, die als Sicherheitsbauteil eines regulierten Produkts oder in den Bereichen des Anhangs III eingesetzt wird.

Für die Einstufung zählt daher der Einsatzzweck und nicht die Technik. Eine Liste der KI-Anwendungen im Betrieb mit Zweck, Anbieter und Einsatzort ist die Grundlage für alles Weitere. vi selbst unterstützt Menschen bei Dokumenten und trifft keine Sicherheitsentscheidungen an Anlagen.

Zwei Regeln sind bereits in Kraft. Die erste ist die KI-Kompetenz nach Artikel 4, sie gilt seit dem 2. Februar 2025. Die Digital-Omnibus-Verordnung hat sie im Juli 2026 neu gefasst. Anbieter und Betreiber müssen jetzt Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit KI-Systemen umgehen. Dabei berücksichtigen sie technische Kenntnisse, Erfahrung und Ausbildung sowie den Einsatzkontext. Ein bestimmtes Kompetenzniveau müssen sie niemandem garantieren. Das lässt sich etwa über Schulungen und interne Leitlinien erfüllen, die Kommission soll auf einer zentralen Plattform praktische Beispiele veröffentlichen.

Die zweite sind die Transparenzpflichten nach Artikel 50, die seit dem 2. August 2026 gelten. Nach Absatz 1 müssen Anbieter sicherstellen, dass Systeme, die direkt mit Menschen interagieren, diese informieren, dass sie mit einer KI sprechen, außer es ist offensichtlich. Nach Absatz 2 müssen Anbieter synthetische Inhalte maschinenlesbar kennzeichnen. Für Systeme, die vor dem 2. August 2026 in Verkehr kamen, gilt für die Kennzeichnung nach Absatz 2 eine Übergangsfrist bis zum 2. Dezember 2026. Wer einen Chatbot für Kundenanfragen betreibt, ist dafür in der Regel auf den Anbieter angewiesen und sollte prüfen, ob der Hinweis auf die KI-Interaktion vorhanden ist.

Es gibt zwei Wege. Nach Artikel 6 Absatz 1 gilt ein KI-System als hochriskant, wenn es als Sicherheitsbauteil eines Produkts verwendet werden soll, das unter die in Anhang I aufgeführten Harmonisierungsvorschriften fällt, und dieses Produkt eine Konformitätsbewertung durch Dritte durchlaufen muss. Dazu gehören etwa Aufzüge oder Druckgeräte, Maschinen seit dem Digital Omnibus nicht mehr (siehe nächste Frage). Nach Artikel 6 Absatz 2 gelten außerdem die Systeme aus Anhang III als hochriskant. Für Anlagen ist vor allem Nummer 2 relevant: KI als Sicherheitsbauteil im Betrieb kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme- oder Stromversorgung.

Es kommt auf den Begriff des Sicherheitsbauteils an. Der Digital Omnibus hat ihn präzisiert. KI-Systeme, die ausschließlich für nicht sicherheitsrelevante Aspekte wie Nutzerunterstützung, Leistungsoptimierung, Effizienz, Automatisierung oder Qualitätskontrolle verwendet werden, sind keine Sicherheitsbauteile. Dagegen gelten KI-Systeme, deren Ausfall oder Fehlfunktion Gesundheit und Sicherheit gefährden würde, als Sicherheitsbauteile.

Daraus folgt für typische Werkzeuge im Service: Eine Prognose, wann ein Lager verschleißt, oder die Auswertung von Serviceberichten dient der Wartungsplanung und ist kein Sicherheitsbauteil. Eine kamerabasierte Personenerkennung, die eine Presse stoppt, ist eines. Die Einstufung nimmt der Anbieter vor, Betreiber sollten sich das Ergebnis in den Unterlagen zeigen lassen.

Ursprünglich sollten die Hochrisiko-Pflichten für KI-Systeme nach Anhang III ab dem 2. August 2026 gelten und für KI in Produkten nach Anhang I ab dem 2. August 2027. Mit der Verordnung (EU) 2026/1744 vom 8. Juli 2026, veröffentlicht am 24. Juli und seit dem 27. Juli in Kraft, hat sich das verschoben. Kapitel III Abschnitte 1 bis 3 gelten nun ab dem 2. Dezember 2027 für Systeme nach Artikel 6 Absatz 2 und Anhang III und ab dem 2. August 2028 für Systeme nach Artikel 6 Absatz 1 und Anhang I. Das Parlament hatte am 16. Juni 2026 zugestimmt, der Rat am 29. Juni 2026.

Für Maschinen kommt eine zweite Änderung hinzu. Die Maschinenverordnung wandert in Anhang I der KI-Verordnung von Abschnitt A in Abschnitt B. Für KI-Systeme in solchen Produkten gelten dann nur noch Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112. Die Anforderungen an KI als Sicherheitsbauteil von Maschinen sollen stattdessen über delegierte Rechtsakte in die Maschinenverordnung kommen, ab dem 2. August 2028.

Für Betreiber heißt das: Wer jetzt Anlagen mit KI-Sicherheitsfunktionen beschafft, findet die Anforderungen daran in der Maschinenverordnung und nicht in den Hochrisiko-Pflichten der KI-Verordnung. Im Kaufvertrag sollte stehen, welche Nachweise der Hersteller dafür liefert und wann die später kommenden KI-Anforderungen erfüllt werden.

Artikel 26 legt sie fest, sie gelten für Hochrisiko-Systeme ab den genannten Stichtagen. Betreiber müssen geeignete technische und organisatorische Maßnahmen treffen, um das System entsprechend der Betriebsanleitung zu verwenden. Sie übertragen die menschliche Aufsicht natürlichen Personen, die über die nötige Kompetenz, Ausbildung und Befugnis verfügen, und geben ihnen die erforderliche Unterstützung. Soweit die Eingabedaten ihrer Kontrolle unterliegen, sorgen sie dafür, dass diese der Zweckbestimmung entsprechen und ausreichend repräsentativ sind.

Dazu kommt die Überwachung im Betrieb. Betreiber überwachen das System anhand der Betriebsanleitung und informieren gegebenenfalls den Anbieter. Haben sie Grund zur Annahme, dass die Verwendung nach der Anleitung ein Risiko im Sinne der Verordnung birgt, informieren sie unverzüglich Anbieter oder Händler und die Marktüberwachungsbehörde und setzen die Verwendung aus. Bei einem schwerwiegenden Vorfall melden sie diesen unverzüglich, zuerst dem Anbieter. Die automatisch erzeugten Protokolle bewahren sie, soweit sie ihrer Kontrolle unterliegen, mindestens sechs Monate auf.

Für die Praxis lässt sich daraus eine Checkliste ableiten: Betriebsanleitung aufbewahren, Zuständigkeiten für die Aufsicht benennen, Protokolle sichern und einen Meldeweg zum Anbieter festlegen. Wer das als Teil des Servicevertrags regelt, schafft Klarheit, wenn die Hochrisiko-Pflichten für Anlagen mit KI-Funktionen ab Dezember 2027 und August 2028 greifen.

Nach Artikel 25 Absatz 1 gelten Händler, Einführer, Betreiber und sonstige Dritte als Anbieter eines Hochrisiko-KI-Systems und unterliegen den Anbieterpflichten, wenn einer von drei Fällen eintritt. Sie versehen ein bereits in Verkehr gebrachtes Hochrisiko-System mit ihrem Namen oder ihrer Marke, wobei vertragliche Vereinbarungen eine andere Aufteilung der Pflichten vorsehen können. Sie nehmen an einem bereits in Verkehr gebrachten Hochrisiko-System eine wesentliche Veränderung vor, sodass es ein Hochrisiko-System bleibt. Oder sie ändern die Zweckbestimmung eines nicht als hochriskant eingestuften KI-Systems so, dass es hochriskant wird.

Für Servicefirmen ist der dritte Fall wichtig. Wer ein Auswertungswerkzeug so umwidmet, dass es künftig Sicherheitsfunktionen steuert, kann dadurch selbst zum Anbieter werden. Bei Sicherheitsbauteilen von Produkten nach Anhang I Abschnitt A, etwa Aufzügen, gilt zusätzlich Artikel 25 Absatz 3: Der Produkthersteller gilt dann als Anbieter.

Vertraglich lohnt sich zweierlei. Erstens eine Klausel, die den Zweck des Systems festlegt und ausschließt, dass Betreiber es für sicherheitsrelevante Funktionen umwidmen, ohne den Anbieter zu beteiligen. Zweitens, wenn Dritte KI-Komponenten in ein Hochrisiko-System liefern: Der Anbieter und der Zulieferer müssen nach Artikel 25 Absatz 4 in einer schriftlichen Vereinbarung festlegen, welche Informationen, technischen Zugänge und Unterstützung der Anbieter für seine Pflichten braucht.