• neu

    • Release 2026.06 - Data Observability direkt in Ihren Code bringen

  • neu

    • Tragen Sie zur Zukunft der KI- und Dateninnovation bei

Machine Learning Governance: Ein Praxisleitfaden für 2026

|

7

min. Lesezeit

Der gängige Rat lautet, Machine Learning Governance beginne mit einer Richtlinie. Dieser Rat ist verkehrt herum. Wenn 75 % der Unternehmen angaben, Richtlinien zur KI-Nutzung zu haben, aber weit weniger Produktionsmonitoring oder Incident-Playbooks betrieben, liegt das Problem nicht im Design der Richtlinie, sondern in der Lücke zwischen schriftlicher Absicht und operativem Nachweis Umfragedaten zur Lücke zwischen Richtlinie und Praxis.

Machine Learning Governance ist keine Dokumentensammlung. Sie ist die tägliche Disziplin, Nachweise dafür zu erbringen, dass ein Modell, seine Daten und die umgebenden Kontrollen auch nach dem Launch noch funktionieren: nach einer Schemaänderung, nach einer Verzögerung im Upstream und nachdem ein Business Owner die Nutzung des Systems verändert hat. Deshalb sind Frameworks wie das NIST AI Risk Management Framework, der EU AI Act und ISO/IEC 42001 wichtig, aber nur dann, wenn Teams sie in Monitoring, Eskalation und prüffähige Aufzeichnungen übersetzen NIST AI RMF 1.0, Pressemitteilung zum EU AI Act, Überblick zu ISO/IEC 42001.

An infographic showing why ML governance programs often fail in production due to the policy-to-practice gap.

Inhaltsverzeichnis

Warum die meisten ML-Governance-Programme in der Produktion scheitern

Der häufigste Fehler besteht darin, Governance als Freigabeereignis zu behandeln. Eine Richtlinie wird unterschrieben, ein Gremium tagt, ein Modell erhält seinen Stempel, und alle gehen davon aus, dass die Arbeit erledigt ist. In der Produktion beginnt der eigentliche Test jedoch erst, denn Modelle verarbeiten laufend sich verändernde Daten, und Kontrollen, die sich nicht beobachten lassen, sind keine Kontrollen mehr.

Die Umfragedaten machen die Lücke schwer zu ignorieren. Dieselbe Umfrage ergab, dass 75 % der Unternehmen KI-Richtlinien hatten, aber nur 54 % über Incident-Response-Playbooks verfügten, 59 % eigene Governance-Rollen besetzt hatten und 48 % produktive KI-Systeme auf Genauigkeit, Drift und Missbrauch überwachten Umfragedaten zur Lücke zwischen Richtlinie und Praxis. Sie zeigte außerdem, dass das Monitoring bei kleinen Unternehmen auf 9 % fiel. Das passt zu dem Muster, das viele Teams aus der Praxis kennen: Die Richtlinie existiert auf dem Papier, während die operativen Prüfungen hinterherhinken.

A diagram illustrating the three key pillars of machine learning governance: accountability, standards, and verification processes.

Praxisregel: Wenn eine Kontrolle nicht jeden Tag Nachweise liefert, ist sie keine Kontrolle, sondern eine Hoffnung.

Deshalb sollte Governance als fortlaufender Strom prüffähiger Nachweise definiert werden, nicht als Ordner voller Richtlinien. Wenn Aufsichtsbehörden, Prüfer oder interne Risikoteams fragen, ob ein Modell kontrolliert ist, genügt ihnen die Richtlinie allein nicht. Sie wollen Belege für Verantwortlichkeiten, überwachtes Verhalten, den Umgang mit Vorfällen und eine Aufzeichnung dessen, was passiert ist, als sich die Umgebung verändert hat.

Die Lücke entsteht meist im Upstream. Ein Modell kann gesund wirken, während die Pipeline, die es speist, driftet, sich verzögert oder durch eine Schemaänderung umgebaut wird. Data Observability schließt diese Lücke, indem sie die Signale prüft, die Governance real machen, darunter In-Database-Checks, Aktualität und Schema-Tracking. Wer einen praktischen Blick auf diese Frühwarnzeichen werfen möchte, erfährt hier, warum Datenpipelines in der Produktion scheitern und wie sich Probleme früh erkennen lassen.

Für regulierte Unternehmen ist das mehr als ein theoretisches Problem. Mit dem EU AI Act werden Kontrollen zu durchsetzbaren Pflichten mit festem Zeitplan, nicht nur zu guten Absichten Pressemitteilung zum EU AI Act. Im NIST AI RMF ist Governance ein kontinuierlicher Prozess, der Design, Deployment, Monitoring und Außerbetriebnahme umfasst Überblick zum NIST AI RMF. Die nächste Frage ist einfach: Welche Nachweise erzeugt Ihr Programm, wenn das System unter Druck steht?

Was Machine Learning Governance wirklich bedeutet

Machine Learning Governance beantwortet drei Fragen: Wer ist verantwortlich, welche Nachweise belegen, dass das System vertrauenswürdig ist, und wie prüfen wir diese Nachweise nach dem Deployment weiter? Wenn ein Modell einer risikoreichen Industriemaschine gleicht, dann ist Governance der Inspektionsplan, das Wartungsprotokoll und das Vorgehen bei Störungen, nicht die Bedienungsanleitung.

Die drei Dinge, die Governance liefern muss

Erstens muss sie Verantwortlichkeit herstellen. Jemand verantwortet die Entscheidung zum Deployment, jemand die Daten, die das Modell speisen, und jemand die umgebende Plattform. Ohne benannte Verantwortliche wandern Probleme zwischen Teams hin und her, bis ein Vorfall die Frage erzwingt.

Zweitens muss sie Standards festlegen. Diese Standards beschreiben, wie akzeptables Verhalten aussieht, welche Daten zulässig sind, welche Schwellenwerte eine Überprüfung auslösen und welche Änderungen eine Freigabe erfordern. So werden vage Prinzipien zu operativen Grenzen.

Drittens muss sie Verifizierung betreiben. Die Verifizierung ist der Teil, der Nachweise erzeugt: das Testen, Überwachen, Protokollieren und Berichten, das zeigt, dass sich das Modell weiterhin so verhält, wie das Unternehmen es erwartet. Es geht nicht darum, dem Modell blind zu vertrauen, sondern immer wieder zu belegen, dass das Vertrauen noch gerechtfertigt ist.

Governance ohne Verifizierung ist nur ein Versprechen.

Die Unterscheidung zwischen Model Governance, Data Governance und Platform Governance hilft Teams, Verwirrung zu vermeiden. Model Governance betrifft Leistung, Einsatzbereich und zulässige Nutzung des Modells. Data Governance umfasst Lineage, Qualität und Eignung der Eingangsdaten. Platform Governance deckt die Pipelines, Warehouses, Berechtigungen und Deployment-Systeme ab, die das Modell erst möglich machen.

Diese Aufteilung ist wichtig, weil Fehler selten in einer Schublade bleiben. Ein sauberes Modell kann scheitern, wenn sich die Upstream-Daten ändern. Ein gut geführter Datensatz kann trotzdem Risiken erzeugen, wenn die Zugriffskontrollen schwach sind. Und ein perfekter Freigabeprozess versagt trotzdem, wenn niemand den Produktionspfad überwacht.

Das wiederkehrende Betriebsmuster in NIST AI RMF, ISO/IEC 42001 und dem EU AI Act ist leicht zu merken: steuern, abbilden, messen, managen (govern, map, measure, manage). NIST verwendet diese vier Funktionen direkt Kernfunktionen des NIST AI RMF, ISO/IEC 42001 rahmt sie in einen Managementsystem-Zyklus ein Überblick zu ISO/IEC 42001, und der EU AI Act macht daraus risikobasierte Pflichten mit Fristen und Nachweiserwartungen Pressemitteilung zum EU AI Act. Sobald ein Team diese vier Verben in Rollen, Kontrollen und Protokolle übersetzen kann, verlieren die Details der Frameworks deutlich an Gewicht.

Der Modelllebenszyklus und wo Kontrollen ansetzen

Governance funktioniert, wenn Kontrollen am Lebenszyklus ansetzen, nicht wenn sie am Ende einer Checkliste stehen. Das Risiko eines Modells verändert sich vom Design bis zur Außerbetriebnahme, also müssen sich auch die Nachweise verändern. Deshalb behandelt ein ernsthaftes Programm jede Phase als eigenen Kontrollpunkt mit eigenem Verantwortlichen und eigener Dokumentation.

Design und Entwicklung brauchen nachvollziehbare Absichten

Im Design sollte das Team die Problemdefinition, den vorgesehenen Einsatzzweck, die Risikobewertung und die Freigabe der Ausrichtung festhalten. In der Entwicklung sollten die Nachweise zeigen, woher die Trainingsdaten stammen, welche Transformationen angewendet wurden, welche Annahmen getroffen wurden und wie das Modell intern getestet wurde. Wenn diese Aufzeichnungen nicht früh entstehen, lassen sie sich später kaum noch rekonstruieren.

Validierung, Deployment und Außerbetriebnahme brauchen eigene Nachweise

Die Validierung braucht eine unabhängige Prüfspur, nicht nur einen weiteren Durchgang durch denselben Engineer, der das Modell gebaut hat. Dazu gehören Evaluierungsberichte, Versionen der Testdatensätze und eine klare Erklärung, was gemessen wurde und warum das Ergebnis akzeptabel war. Das Deployment braucht dann Freigabedokumente, Rollout-Pläne und einen benannten Verantwortlichen für das Live-System.

Ein praktisches Beispiel ist ein Team, das das Erkennen von Lkw mit Computer Vision als Teil eines operativen Workflows einsetzt. Die interessante Governance-Frage ist nicht nur, ob das Modell in einer Demo funktioniert, sondern ob das Team belegen kann, mit welchen Daten es trainiert wurde, welche Fehlermodi evaluiert wurden und wer reagiert, wenn sich die Bedingungen vor Ort ändern.

Monitoring ist die Phase, die sich am schwersten vortäuschen lässt, weil das Modell in der Produktion jeden Tag auf die Realität trifft. Hier brauchen Teams laufende Leistungskennzahlen, Drift-Signale, Aktualitätsprüfungen und Incident-Protokolle. Auch die Außerbetriebnahme zählt, denn Stilllegungsdokumente zeigen, wann ein Modell nicht mehr genutzt wurde, was es ersetzt hat und wie mit verbleibenden Zugriffen umgegangen wurde.

Lebenszyklusphase

Kontrollnachweis

Typischer Verantwortlicher

Design

Risikobewertung, vorgesehener Einsatzzweck

Model Owner

Entwicklung

Data Lineage, Testnachweise

Data und ML Engineers

Validierung

Unabhängiger Evaluierungsbericht

Validierungs- oder Risikoverantwortlicher

Deployment

Freigabe- und Rollout-Dokumentation

Platform Owner

Monitoring

Produktionskennzahlen und Alerts

Operations oder MLOps

Außerbetriebnahme

Stilllegungsdokument

Model Owner und Platform Owner

Der Sinn dieser Struktur ist keine Bürokratie. Er besteht darin, das Unternehmen in jedem Schritt auskunftsfähig zu machen, damit später niemand raten muss, ob das Modell gesteuert oder bloß freigegeben wurde.

Datenqualität, Drift, Schema und Aktualität als Governance-Signale

Mit Data Observability wird Governance überprüfbar. Wenn sich die Daten verschieben, verschiebt sich das Modell mit, und wenn die Plattform diese Verschiebung nicht früh erkennt, fliegt das Team im Blindflug. Die praktische Kontrollebene besteht aus vier Signalfamilien, die zeigen, wo sich Risiken aufbauen.

Qualität, Drift, Schema und Aktualität decken jeweils einen anderen Fehler auf

Datenqualität erkennt Probleme auf Datensatzebene wie fehlende Werte, verletzte Geschäftsregeln, Duplikate oder falsche Labels, bevor sie Training oder Inferenz verunreinigen. Drift zeigt, wann sich die Verteilung eines Features oder ein Ausgabemuster so weit von der Baseline entfernt hat, dass Annahmen nicht mehr gelten. Schemaänderungen machen strukturelle Brüche sichtbar, etwa neue oder entfernte Spalten oder geänderte Datentypen, die nachgelagerte Konsumenten beschädigen. Aktualität erkennt verspätete, fehlende oder in falscher Reihenfolge eintreffende Daten, und genau das entscheidet oft zwischen einer nützlichen und einer veralteten Vorhersage.

Das ist die praktische Auslegung von Artikel 10 des EU AI Act, der von Hochrisikosystemen verlangt, relevante, repräsentative, vollständige und geeignete Datensätze zu verwenden, und zwar über Designentscheidungen, Datenherkunft, Labeling, Bereinigung, Aktualisierung und Anreicherung hinweg Artikel 10 des EU AI Act. Erst kontinuierliche Prüfungen nach dem Deployment machen diese Pflicht real, denn die Repräsentativität kann nach dem Launch nachlassen, selbst wenn der Trainingsdatensatz am ersten Tag perfekt war.

Ein brauchbarer Observability-Eintrag sollte die betroffene Tabelle oder Partition, die Kennzahl, den Schwellenwert oder die gelernte Baseline, den Zeitstempel, den Verantwortlichen, den Behebungsstatus und die Auswirkung auf nachgelagerte Modelle festhalten. Diese Spur macht aus einem Alert einen Nachweis.

Wenn Sie nicht zeigen können, was sich geändert hat, wann es sich geändert hat und wer sich darum gekümmert hat, haben Sie keinen Governance-Nachweis, sondern nur Rauschen.

Wer tiefer in Verteilungsverschiebungen einsteigen möchte, findet in wie Drift Detection im Datenbetrieb funktioniert einen guten Zugang zur Mechanik. Und wenn es darum geht, wie sich Observability in einen größeren Produktions-Stack einfügt, hilft der Überblick von Capgo dazu, wie Observability im Softwarebetrieb eingesetzt wird, zu verstehen, warum Messung kontinuierlich und nicht punktuell sein muss.

Hier kommt es auch auf die Ausführung in der Datenbank an. Wenn Prüfungen innerhalb der Umgebung des Kunden laufen, reduzieren Teams unnötige Datenbewegungen und halten Zugriffsgrenzen enger, und genau diese Kontrollhaltung brauchen regulierte Unternehmen. Für Organisationen, die Plattformen wie digna nutzen, bedeutet das: Validierung auf Datensatzebene, Schema-Tracking, Aktualitätsmonitoring und Anomalieerkennung auf Basis von Baselines können alle in eine prüffähige Nachweisspur einfließen, ohne dass sensible Daten anderswohin übertragen werden.

NIST, ISO und den EU AI Act auf ein Betriebsmodell abbilden

Diese Frameworks werden einfacher nutzbar, sobald sie dieselbe operative Sprache sprechen. Das NIST AI RMF liefert die Verben, ISO/IEC 42001 den Managementsystem-Zyklus, und der EU AI Act macht aus der Risikoklassifizierung durchsetzbare Pflichten Kernfunktionen des NIST AI RMF, Überblick zu ISO/IEC 42001, Pressemitteilung zum EU AI Act.

Eine Checkliste kann alle drei erfüllen

Ein praktisches Betriebsmodell beginnt mit einer KI-Richtlinie und ergänzt dann ein Risikoregister, Data Lineage, Monitoring-Kennzahlen und Incident-Protokolle. NIST verlangt von Organisationen, Risiken über den gesamten Lebenszyklus zu managen, einschließlich Kennzahlen für Vertrauenswürdigkeitsmerkmale und Mensch-KI-Konfigurationen Ressourcen zum NIST AI RMF. ISO/IEC 42001 treibt Führung, Ziele, Bewertung und kontinuierliche Verbesserung über einen Managementsystem-Ansatz voran. Der EU AI Act übersetzt diese Ideen in kategorisierte Pflichten für Hochrisikosysteme und KI-Modelle mit allgemeinem Verwendungszweck zu festen Terminen Zeitplan des EU AI Act.

Der Kalender zählt. Laut dem EU AI Act Service Desk gelten die Governance-Regeln für KI-Modelle mit allgemeinem Verwendungszweck seit dem 2. August 2025, während die Hochrisiko-Pflichten nach Anhang III derzeit für den 2. Dezember 2027 vorgesehen sind und Hochrisiko-KI-Systeme, die in regulierte Produkte nach Anhang I eingebettet sind, derzeit für den 2. August 2028 Zeitplan des EU AI Act. Frühere Leitlinien der Kommission sahen zudem einen gestaffelten Weg vor: Verbote nach sechs Monaten, Bestimmungen für KI mit allgemeinem Verwendungszweck nach 12 Monaten und die meisten Regeln ab dem 2. August 2026 Pressemitteilung zum EU AI Act.

Für multinationale Teams ist die Entscheidung einfach. Ein einheitliches Kontrollmodell lässt sich leichter verteidigen als verschiedene lokale Varianten, weil gemeinsame Plattformen, Lieferanten und interne Risikoteams eine Nachweisspur brauchen, keinen Flickenteppich aus Ausnahmen.

Die Checkliste wird erst nützlich, wenn sie die Richtlinie mit der Produktion verbindet. Eine Governance-Seite allein kann nicht belegen, dass Datenprüfungen gelaufen sind, dass Schemaänderungen erfasst wurden oder dass veraltete Eingaben vor einer Modellentscheidung abgefangen wurden. Die in digna AI Governance Compliance beschriebene Kontrollebene schließt genau diese Lücke, indem sie Validierung, Aktualitätsmonitoring, Schema-Tracking und Anomalieerkennung mit prüffähigen Aufzeichnungen innerhalb der Kundenumgebung verknüpft. Genau das macht aus Governance statt einer Dokumentensammlung einen operativen Nachweis.

Ein Praxisbeispiel: Wie Governance ein Drift-Ereignis erkennt

Ein Team bei einem Finanzdienstleister führt ein Betrugserkennungsmodell ein, das von Warehouse-Tabellen abhängt, die im Laufe des Tages aktualisiert werden. Die Freigaben liegen vor, das Risikoregister ist aktuell, und der Verantwortliche hält das System für stabil. Dann fügt eine Upstream-Quelle ein neues Feld hinzu, ein geplanter Ladevorgang kommt verspätet an, und die Verteilung eines Features beginnt sich vor dem nächsten Evaluierungszyklus zu verschieben.

A professional analyzing model drift and data pipeline metrics on a computer monitor in an office setting.

Was die Alerts zeigen

Der Schema-Tracker meldet das neue Feld zuerst, weil sich die Struktur geändert hat, bevor jemand ein sichtbares Problem am Modell bemerkt hat. Das Aktualitätsmonitoring zeigt dann den verspäteten Ladevorgang, was erklärt, warum das Modell Entscheidungen auf Basis veralteter Eingaben trifft. Danach hebt die Anomalieerkennung auf Basis der Baseline eine Verschiebung in einem wichtigen Feature hervor, sodass das Team erkennt, dass es nicht nur um fehlende Daten geht, sondern um verändertes Verhalten.

Der Platform Engineer prüft die Alert-Spur und sieht die betroffene Tabelle, den Zeitstempel, die gelernte Baseline, den Verantwortlichen und den Namen des nachgelagerten Modells. Der Data Steward bestätigt, dass das Quellsystem sein Exportformat geändert hat. Der Model Owner stoppt den Rollout und fordert vor dem nächsten Geschäftszyklus eine neue Evaluierung an.

Ein guter Alert sagt nicht nur, dass etwas nicht stimmt. Er weist schnell genug auf die wahrscheinliche Ursache hin, um zu verhindern, dass sich die falsche Entscheidung ausbreitet.

Für den Prüfer zählt die Spur, nicht die Dramatik. Das Team kann den Validierungsfehler, die Aktualitätslücke, die Schemaänderung, das betroffene Modell und den Behebungsstatus in einem einzigen Datensatz zeigen. So wird Governance von einer Absichtserklärung zu einer operativen Historie.

Für Teams, die die Datenseite dieses Workflows formalisieren möchten, sind Data-Profiling-Techniken für zuverlässige Pipelines eine sinnvolle Ergänzung zum Alerting. Die Lehre ist einfach: Governance in der Produktion funktioniert, wenn die Observability-Ebene erklären kann, warum sich ein Modell verändert hat, und nicht nur, dass es sich verändert hat.

Rollen, Verantwortlichkeit und ein Betriebsmodell, das trägt

Governance hat Bestand, wenn die Verantwortung klar ist. Sie scheitert, wenn sich alle einig sind, dass etwas wichtig ist, aber niemand zuständig ist, wenn der Alert auslöst. Deshalb braucht das Betriebsmodell klar getrennte Rollen mit eigenen Zuständigkeiten, auch wenn in kleineren Organisationen eine Person mehr als eine Rolle übernimmt.

Wer wofür verantwortlich ist

Der Model Owner verantwortet Leistung und zulässige Nutzung. Der Data Steward ist für Qualität und Lineage zuständig. Der Platform Owner verantwortet Pipelines, Zugriffe und Deployment-Kontrollen. Der Risk- und Compliance-Verantwortliche ordnet die Pflichten aus den Frameworks internen Kontrollen zu. Der Incident-Response-Verantwortliche übernimmt die Eskalation, wenn das Monitoring einen Schwellenwert überschreitet.

Ein Warnsignal ist ein Programm, das auf handgestrickten Ausnahmen beruht, die niemand pflegen kann. Langlebige Regelwerke und Kontrolllogik brechen zusammen, wenn die Zuständigkeit unklar ist, weil niemand weiß, welche Alerts nachjustiert, welche eskaliert und welche abgeschaltet werden sollten. Die einzige dauerhafte Antwort ist, jede Kontrolle an eine Person, einen Prozess und eine Nachweisquelle zu binden.

Für Organisationen, die diese Zuständigkeiten formalisieren, sind Rollen und Verantwortlichkeiten in der Data Governance ein nützlicher Bezugspunkt, weil sie das Gespräch auf Verantwortlichkeit statt nur auf Tools lenken. Das ist besonders wichtig in regulierten Unternehmen, in denen Plattform-, Risiko- und Fachteams alle mit demselben Modell arbeiten.

Ein Modell sollte nie ohne diese vier Dinge live gehen:

  • Telemetrie: Logs, Kennzahlen und Alerts, die zeigen, wie sich das Modell und seine Eingaben verhalten.

  • Verantwortlicher: eine namentlich benannte Person, die für Entscheidungen und Eskalation zuständig ist.

  • Eskalationspfad: ein klarer Weg für Überprüfung, Rollback oder menschliches Eingreifen.

  • Nachweise: Aufzeichnungen, die belegen, was wann und von wem geprüft wurde.

Der Praxistest ist schonungslos. Wenn sich ein Modell verändert: Kann die richtige Person erklären, warum? Kann die Plattform zeigen, welche Daten sich geändert haben? Und kann das Risikoteam verifizieren, dass die Reaktion rechtzeitig erfolgt ist? Lautet die Antwort ja, ist Governance operativ. Lautet sie nein, hat das Unternehmen Dokumentation, aber keine Kontrolle.

digna hilft Teams, diese Kontrollen in Nachweise zu verwandeln, indem es Datenqualität, Aktualität, Schemaänderungen und Anomalien direkt in der eigenen Umgebung des Kunden überwacht. Wenn Sie eine Machine Learning Governance aufbauen, die in der Produktion bestehen muss, besuchen Sie digna und erfahren Sie, wie Data Observability die Kontrollen, Aufzeichnungen und Alerts unterstützen kann, die Ihr Programm braucht.

Das modellseitige Gegenstück zum oben beschriebenen Drift-Ereignis, also wie man erkennt, wann sich die Vorhersagen selbst verschlechtern, finden Sie in unserem Leitfaden zur Erkennung von Model Drift.

Häufig gestellte Fragen

Was ist Machine Learning Governance?

Machine Learning Governance ist die fortlaufende Disziplin, Nachweise dafür zu erbringen, dass ein Modell, seine Daten und seine Kontrollen auch nach dem Launch funktionieren. Sie legt Verantwortlichkeiten fest, definiert Standards und verifiziert durch Tests, Monitoring, Protokollierung und Berichte, sodass das Vertrauen in das Modell immer wieder belegt statt vorausgesetzt wird.

Warum scheitern ML-Governance-Programme in der Produktion?

Die meisten scheitern, weil sie Governance als einmalige Freigabe statt als kontinuierlichen Nachweis behandeln. Laut einer Umfrage hatten 75 % der Unternehmen KI-Richtlinien, aber nur 48 % überwachten produktive KI-Systeme auf Genauigkeit, Drift und Missbrauch, und nur 54 % hatten Incident-Response-Playbooks. Die schriftliche Absicht erreichte den Betrieb also selten.

Wie passen NIST AI RMF, ISO/IEC 42001 und der EU AI Act zusammen?

Sie teilen ein Betriebsmuster: steuern, abbilden, messen, managen. NIST liefert diese vier Funktionen, ISO/IEC 42001 rahmt sie in einen Managementsystem-Zyklus ein, und der EU AI Act macht daraus risikobasierte Pflichten mit Fristen. Eine Checkliste aus Richtlinie, Risikoregister, Lineage, Monitoring-Kennzahlen und Incident-Protokollen kann alle drei abdecken.

Wann gelten die Hochrisiko-Pflichten des EU AI Act?

Laut dem EU AI Act Service Desk sind die Hochrisiko-Pflichten nach Anhang III derzeit für den 2. Dezember 2027 vorgesehen, und für Hochrisikosysteme in regulierten Produkten nach Anhang I für den 2. August 2028. Die Governance-Regeln für KI-Modelle mit allgemeinem Verwendungszweck gelten bereits seit dem 2. August 2025.

Welche Datensignale sollte Machine Learning Governance überwachen?

Vier Signalfamilien zählen am meisten: Datenqualität, Drift, Schema und Aktualität. Qualität erkennt fehlende Werte und verletzte Geschäftsregeln, Drift zeigt Verteilungen, die sich von der Baseline entfernen, Schema macht hinzugefügte oder entfernte Spalten und Typänderungen sichtbar, und Aktualität erkennt verspätete oder fehlende Ladevorgänge, die ein Modell mit veralteten Eingaben entscheiden lassen.

✦ Mit künstlicher Intelligenz erstellt

Teilen auf X
Teilen auf X
Auf Facebook teilen
Auf Facebook teilen
Auf LinkedIn teilen
Auf LinkedIn teilen

Lerne das Team hinter der Plattform kennen

Ein Wiener Team aus KI-, Daten- und Software-Expertinnen und -Experten, gestützt

auf akademische Exzellenz und Enterprise-Erfahrung.

Lerne das Team hinter der Plattform kennen

Ein Wiener Team aus KI-, Daten- und Software-Expertinnen und -Experten, gestützt auf akademische Exzellenz und Enterprise-Erfahrung.

Produkt

Integrationen

Ressourcen

Unternehmen

INDEXED BYIndexerNow