Ein geänderter Termin zeigt nicht, ob eine KI-gestützte Freigabe veraltete Nachweise verwendete, den falschen Genehmiger erreichte oder ihre Befugnis überschritt. Solche Fehler können Produktionsentscheidungen schon heute beeinträchtigen.
Am 7. Mai erzielten die Ratspräsidentschaft und die Verhandlungsführer des Europäischen Parlaments eine vorläufige Einigung über geänderte Anwendungstermine für Teile des EU AI Acts. Vorgeschlagen sind der 2. Dezember 2027 für eigenständige Hochrisiko-KI-Systeme und der 2. August 2028 für Hochrisiko-KI-Systeme in regulierten Produkten. Zum Veröffentlichungsdatum dieses Artikels am 12. Mai stehen Zustimmung und förmliche Annahme noch aus. Die bestehenden Anwendungstermine gelten weiter. (Europäisches Parlament, 7. Mai 2026)
Für die rechtliche Planung schafft das Unsicherheit. Für technische Führungskräfte stellt sich unmittelbar eine andere Frage: Kann jeder Produktionsablauf eine folgenreiche Entscheidung innerhalb festgelegter Grenzen für Nachweise, Richtlinien und Befugnisse treffen?
Die Einigung Ändert Den Zeitplan, Nicht Die Exposition
Regulatorische Termine und operative Exposition folgen unterschiedlichen Uhren. Sobald eine Systemausgabe eine Handlung beeinflusst oder auslöst, warten deren Folgen nicht auf einen Compliance-Termin.
Der ursprüngliche Wortlaut des AI Acts bildet diesen operativen Charakter ab. Zu den Anforderungen für Hochrisikosysteme gehören ein Risikomanagement über den Lebenszyklus, automatische Ereignisprotokollierung, menschliche Aufsicht sowie Vorgaben zu Genauigkeit und Cybersicherheit. (Verordnung (EU) 2024/1689, Artikel 9 bis 15) Das Gesetz weist Pflichten nach der Rolle einer Organisation und der Klassifizierung des Systems zu; die konkrete Anwendung sollte daher rechtlich geprüft werden. Der technische Nutzen dieser Kontrollen beschränkt sich jedoch nicht auf regulierte Systeme.
Nehmen wir einen KI-gestützten Ablauf, der eine Freigabe für privilegierten Zugriff auf einen Produktionsdienst empfiehlt. Die Empfehlung kann plausibel sein, während der Ablauf trotzdem versagt: Er nutzt veraltete Nachweise, leitet die Freigabe an jemanden ohne passende Befugnis oder ruft ein Werkzeug mit zu weit reichenden Rechten auf. Geänderte Fristen verändern diese Fehlerarten nicht.
Ein Richtliniendokument Kann Den Ablauf Nicht Steuern
Inventare, Risikoklassifizierungen und Richtliniendokumente sind notwendige Grundlagen. Sie setzen eine Entscheidung zur Laufzeit nicht durch. Verlangt eine Richtlinie eine menschliche Prüfung, muss der aktive Ablauf weiterhin den berechtigten Prüfer bestimmen, die zugrunde liegenden Nachweise vorlegen, die Genehmigung erfassen und anhalten, falls niemand reagiert.
Operative Kontrolle verbindet fünf Elemente:
- Nachweise: Welche Quellen stützen die Entscheidung, und sind sie für deren Folge verlässlich, aktuell und vollständig genug?
- Richtlinie: Welche Regel, welcher Schwellenwert oder welche Einschränkung erlaubt den nächsten Schritt?
- Befugnis: Wer oder was darf die Handlung empfehlen, genehmigen, ausführen oder stoppen?
- Handlung: Was hat das System in welcher Umgebung und unter welcher Identität getan?
- Ergebnis: Was geschah danach, und lässt sich die Handlung eindämmen, rückgängig machen oder korrigieren?
Evodant nennt die technische Gestaltung dieses Pfads Entscheidungsengineering. Die operative Entscheidung bildet dabei die Entwurfseinheit. Zu einem solchen System gehören Modell, Identität, Quelldaten, Richtlinienprüfung, Werkzeugrechte, menschliche Genehmigung, Beobachtbarkeit und Wiederherstellung.
Eine Model Card kann das vorgesehene Verhalten beschreiben, eine Kontrollmatrix kann Zuständigkeiten zuweisen. Keine von beiden zeigt, dass eine konkrete Produktionsentscheidung die richtige Quelle verwendete, die aktuelle Richtlinie erfüllte, eine gültige Genehmigung erhielt und innerhalb ihrer Handlungsgrenze blieb. Dafür muss der Ablauf während der Ausführung ein Entscheidungsprotokoll erzeugen.
Mit Einer Entscheidungsgrenze Beginnen
Ein unternehmensweites Kontrollprogramm kann monatelang Systeme katalogisieren, ohne das Verhalten eines einzigen aktiven Ablaufs zu ändern. Wählen Sie stattdessen eine folgenreiche Entscheidung mit benanntem Eigentümer und messbarem Ergebnis, und definieren Sie dann ihre Grenze.
Die Entscheidung Und Ihre Folge Benennen
Formulieren Sie die Entscheidung als Handlung, nicht als Fähigkeit. „Eine Dienstausnahme genehmigen“ ist klarer als „KI für den Servicebetrieb nutzen“. Benennen Sie, wer die Folgen trägt, wenn die Entscheidung falsch, verspätet oder unbelegt ist.
Anforderungen An Nachweise Festlegen
Listen Sie die Quellen auf, die der Ablauf verwenden darf. Definieren Sie zulässige Herkunft, Aktualität, Qualität und den Umgang mit Widersprüchen. Fehlen erforderliche Nachweise oder sind sie veraltet, muss der Ablauf stoppen oder eskalieren, statt zu improvisieren.
Empfehlung Und Befugnis Trennen
Legen Sie fest, ob das System einen Menschen unterstützt, eine begrenzte Empfehlung abgibt oder eine Handlung ausführt. Zugriff auf ein Werkzeug bedeutet nicht, dass es in jedem Fall eingesetzt werden darf. Binden Sie Rechte an die Entscheidung, den Richtlinienstatus, die Benutzer- oder Dienstidentität und den genehmigten Umfang.
Stopp- Und Wiederherstellungsbedingungen Definieren
Bestimmen Sie, was bei niedriger Sicherheit, widersprüchlichen Quellen, einem nicht erreichbaren Genehmiger, einer ausgefallenen Abhängigkeit oder einem unerwarteten Handlungsergebnis geschieht. Wiederherstellung ist keine allgemeine Rollback-Anweisung. Sie braucht einen Eigentümer, ein geprüftes Verfahren und genügend Telemetrie, um die Veränderung zu bestimmen.
Ein Entscheidungsprotokoll Erfassen
Erfassen Sie Nachweisreferenzen, Richtlinienversion, Modell und Konfiguration, Identität, Genehmigung, Handlung und beobachtetes Ergebnis. Umfang und Aufbewahrung müssen zur Entscheidung und den geltenden Vorgaben passen. Ziel ist die Rekonstruktion des Handlungsgrundes, nicht unbegrenztes Datensammeln.
Kontrollen Unter Repräsentativen Bedingungen Prüfen
Eine Kontrollprüfung darf nicht enden, sobald jede geforderte Kontrolle in einem Architekturdiagramm auftaucht. Teams müssen den vollständigen Entscheidungsweg unter produktionsnahen Bedingungen testen.
Erstellen Sie einen Bewertungssatz aus Routinefällen, schwierigen Fällen und bekannten Ausnahmen. Führen Sie veraltete und widersprüchliche Nachweise zu. Ändern Sie Modell- oder Promptversion, entfernen Sie eine Integration, machen Sie einen Genehmiger unerreichbar und versuchen Sie eine Handlung außerhalb des erlaubten Umfangs. Beobachten Sie dann, ob der Ablauf wie vorgesehen fortfährt, nachfragt, eskaliert, ablehnt oder sich erholt.
Messen Sie neben der Modellqualität das operative Ergebnis. Geeignete Kennzahlen können die Quote unbelegter Entscheidungen, Eskalationsquote, Freigabedauer, Kosten je abgeschlossenem Fall, Zahl der Richtlinienausnahmen und Wiederherstellungszeit umfassen. Wählen Sie Messgrößen, die Folgen und Einschränkungen der Entscheidung sichtbar machen. Eine durchschnittliche Genauigkeit zeigt nicht, ob der Ablauf innerhalb seiner Befugnis blieb.
Repräsentative Bewertung hilft außerdem, die passende Automatisierungsstufe festzulegen. Bleiben Sie bei Entscheidungsunterstützung, wenn ein Mensch umstrittene Nachweise auslegen muss. Nutzen Sie Entscheidungserweiterung, wenn das System eine begrenzte Empfehlung geben kann, aber eine befugte Person entscheidet. Begrenzte Automatisierung passt erst, wenn Handlung, Nachweisschwelle, Berechtigung, Überwachung und Wiederherstellungsweg ausdrücklich feststehen.
Die Zusätzliche Zeit Für Operative Nachweise Nutzen
Wird die vorläufige Einigung Gesetz, sollte die zusätzliche Zeit operative Nachweise hervorbringen und nicht nur ein weiteres Kontrollinventar. Wählen Sie einen folgenreichen Ablauf und prüfen Sie unter repräsentativen Bedingungen, ob Nachweisregeln, Befugnisgrenzen, Stoppbedingungen und Wiederherstellungsverfahren funktionieren.
Die daraus entstehenden Entscheidungsprotokolle können die rechtliche Vorbereitung stützen und zugleich eine unmittelbarere Managementfrage beantworten: Kann die Organisation erklären, vertreten und verbessern, wie dieses System heute Entscheidungen trifft?
Die vorgeschlagene Verschiebung ist auch kein Grund, jeden KI-Anwendungsfall zu beschleunigen. Sie schafft Raum, den Umfang zu verkleinern, schwache Grenzen zu korrigieren und Abweichungen vom Normalablauf zu testen. Ein kleinerer, gesteuerter Ablauf ist nützlicher als ein breiter Einsatz, dessen Entscheidungen sich nicht rekonstruieren lassen.
Diese Fragen werden zur Ingenieursarbeit, wenn ihre Antworten in verschiedenen Systemen und Teams liegen. Aktualität der Nachweise, Genehmigungsbefugnis, Werkzeugrechte und Wiederherstellungsbedingungen müssen während der Ausführung zusammenpassen; eine Checkliste kann diese Übereinstimmung nicht erzwingen.
Möchten Sie Kontrollen des AI Acts in operative Kontrollen übersetzen? Vereinbaren Sie ein Beratungsgespräch.