Von Vorbereitung Zu Rechenschaft
Am 2. August 2025 begannen die Pflichten des EU AI Act für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck zu gelten. Dazu gehören technische Dokumentation und Informationen für nachgelagerte Systemanbieter; für Modelle mit systemischem Risiko gelten weitere Vorgaben. Die Hinweise der Europäischen Kommission unterscheiden auch bereits vermarktete Modelle und erläutern den Zeitplan der Durchsetzung.
Dokumentation auf Modellebene macht eine einzelne betriebliche Entscheidung nicht automatisch auditierbar. Soll ein Finanzinstitut erklären, warum es eine Transaktion vor sechs Monaten gesperrt hat, braucht es die damaligen Nachweise, Modell- und Prompt-Version, angewandte Richtlinie, Genehmigungsbefugnis und ausgeführte Handlung. Ein Wahrscheinlichkeitswert oder eine erzeugte Erklärung ersetzt keine fehlenden Aufzeichnungen.
Das Black-Box-Problem
Große Sprachmodelle erzeugen Ausgaben aus gelernten statistischen Beziehungen. Ihr Verhalten hängt außerdem von Version, Konfiguration, Prompt, abgerufenem Kontext, Werkzeugen und Sampling-Einstellungen ab.
Fragt man ein Modell, warum es eine frühere Ausgabe erzeugt hat, ist die Antwort eine neue generierte Ausgabe und kein ausführbares Protokoll der früheren Berechnung. Prüfung von Trainingsdaten, Evaluationswerten oder Erklärverfahren beantwortet nützliche Fragen zur Modell-Governance, zeigt aber nicht, welche Nachweise und Befugnisse eine bestimmte Handlung zu einem bestimmten Zeitpunkt erlaubten. Auditierbarkeit auf Entscheidungsebene muss in den Ablauf eingebaut werden.
Die „Glass Box“ Als Architekturmuster
Ein nützliches Muster trennt probabilistische Wahrnehmung von ausdrücklichen Richtlinien und Handlungskontrollen. Eine neurosymbolische Architektur kann diese Trennung schaffen, braucht aber weiterhin Nachweisverwaltung, Identität, Autorisierung, Beobachtbarkeit und Wiederherstellung.
1. Neuronale Netze Als Wahrnehmungsschicht
Neuronale Systeme können Informationen aus Dokumenten, Sensordaten, Bildern oder Audio extrahieren. Behandeln Sie Klassifikationen und extrahierte Fakten als Nachweise mit Herkunft und Unsicherheit, nicht als selbstautorisierende Schlüsse.
2. Symbolisches Schließen Als Explizite Logik
Explizite Regeln können fachliche Einschränkungen, Schwellenwerte und Ausnahmen anwenden. Bei gleichen aufgezeichneten Eingaben und gleicher Regelversion kann diese Schicht ihr Ergebnis reproduzieren. Regeln müssen trotzdem verwaltet und bei geändertem Kontext geprüft werden.
3. Kontrollschichten Für Richtlinie, Unsicherheit Und Befugnis
- Richtlinienauswertung bestimmt, welche Regeln im jeweiligen Kontext gelten.
- Umgang mit Unsicherheit kennzeichnet oder eskaliert mehrdeutige Eingaben.
- Autorisierung legt fest, wer empfehlen, genehmigen, ausführen, delegieren oder stoppen darf.
Die Ausführungsschicht muss ablehnen oder eskalieren, wenn Nachweis, Richtlinie oder Befugnis fehlen. Deterministische Logik gleicht weder unzuverlässige Nachweise noch falsche Regeln aus; eine repräsentative Bewertung muss daher beides abdecken.
4. Entscheidungsprotokolle Für Erklärung Und Ausführung
Erfassen Sie Nachweise, Versionen von Modell, Prompt, Werkzeug, Regel und Richtlinie, den Autorisierungszustand sowie Handlung, Ergebnis, Ausnahme und Wiederherstellung. Das schafft ein prüfbares Betriebsprotokoll. Formale Verifikation kann für einzelne Regeln oder Komponenten sinnvoll sein; beanspruchen Sie sie nicht für den gesamten Ablauf, solange Annahmen und Umfang nicht definiert sind.
Der Aufwand ist real: Domänenmodellierung, Regelverwaltung, Aufbewahrung von Nachweisen und Wiederholungstests brauchen dauerhafte Verantwortung.
Auf Dem Weg Zur Verifizierung
Der praktische Test besteht nicht darin, jede interne Modelloperation zu rekonstruieren. Die Organisation muss die operative Entscheidung wiederherstellen können: vorgelegte Nachweise, Modell- und Richtlinienversionen, geltende Befugnis, erlaubte Handlung und Ergebnis.
Beginnen Sie mit einem folgenreichen Ablauf. Prüfen Sie Routinefälle, veraltete Nachweise, widersprüchliche Eingaben, fehlende Genehmigung, Modelländerungen und gescheiterte Wiederherstellung. Bleiben Sie bei Entscheidungsunterstützung oder genehmigungspflichtigen Empfehlungen, bis die Nachweise eine engere Automatisierungsgrenze rechtfertigen.
Wenn eine KI-gestützte Entscheidung nur durch eine nachträglich erzeugte Erzählung erklärt werden kann, vereinbaren Sie ein Beratungsgespräch, um Entscheidungsprotokoll und Kontrollgrenze zu definieren.