Wer in der regulierten Produktion arbeitet, denkt in Versionen. Ein System wird spezifiziert, getestet, freigegeben, und jede spätere Änderung läuft durch den Änderungsprozess. Dieses Denken hat sich bewährt. Bei KI stößt es an eine Grenze.
Was sich bei KI ändern kann
Ein KI-Modell ist das Ergebnis aus Code, Trainingsdaten und Einstellungen. Ändert sich einer dieser drei Teile, ändert sich das Verhalten. Hinzu kommt ein vierter Faktor, der in klassischen Systemen keine Rolle spielt: die Daten im Betrieb. Wenn sich Rohstoffe, Anlagen oder Abläufe verändern, kann ein Modell, das bei der Freigabe gut war, schleichend schlechter werden. Fachleute nennen das Drift.
Für die Validierung heißt das: Die Freigabe beschreibt einen Zustand, der nicht von selbst stabil bleibt.
Drei Arten von Änderung
Für ein KI-System in einer geprüften Umgebung lohnt es sich, drei Arten von Änderung zu unterscheiden:
- Geplante Änderung am Modell. Ein Modell wird neu trainiert, erweitert oder gegen ein anderes getauscht. Das ist eine Änderung wie jede andere und gehört in den Änderungsprozess, mit Bewertung, Test und Freigabe.
- Änderung beim Anbieter. Steckt die KI in zugekaufter Software oder in einem Cloud-Dienst, kann der Anbieter das Modell austauschen. Ob und wie er darüber informiert, gehört in den Vertrag und in die Lieferantenbewertung.
- Schleichende Veränderung im Betrieb. Niemand ändert etwas, aber die Ergebnisse verschieben sich. Diese Art ist die gefährlichste, weil kein Änderungsantrag sie auslöst.
Überwachung statt einmaliger Abnahme
Die Antwort auf die dritte Art ist eine laufende Überwachung. Vor der Freigabe wird festgelegt, woran sich die Güte des Modells messen lässt und ab welcher Abweichung gehandelt wird. Im Betrieb wird diese Kennzahl regelmäßig geprüft. Überschreitet sie die Grenze, ist das ein Ereignis mit einem festgelegten Ablauf: bewerten, gegebenenfalls zurück auf die letzte freigegebene Fassung, neu trainieren, neu freigeben.
Das ist kein Fremdkörper in der Validierung. Es ist die konsequente Übertragung der periodischen Überprüfung auf ein System, das sich im Betrieb verändern kann. Auch die einschlägigen Leitfäden der Branche behandeln KI und maschinelles Lernen inzwischen ausdrücklich.
Wo ein KI-Managementsystem hilft
ISO/IEC 42001 betrachtet KI über ihren gesamten Lebenszyklus: von der Zweckbestimmung über Daten und Entwicklung bis zu Betrieb, Überwachung und Außerbetriebnahme. Wer die Validierung damit verbindet, bekommt beides: die Strenge der GxP-Welt und eine Struktur, die mit der Beweglichkeit von KI umgehen kann.
Was daraus folgt
- Modelle versionieren wie Software, einschließlich Trainingsdaten und Einstellungen.
- Vor der Freigabe festlegen, woran Güte gemessen wird und ab welcher Abweichung gehandelt wird.
- Lieferanten verpflichten, Modellwechsel anzukündigen.
- Eine Rückfallebene definieren: die letzte freigegebene Fassung oder ein Ablauf ohne KI.
Eine Freigabe ist bei KI kein Endpunkt. Sie ist der Beginn einer Beobachtung.