Muster: frei erfundenes Beispiel, kein Kundenfall.

Prüfstand der Rechtsgrundlagen 06.11.2026. Fachliche Einordnung, keine Rechtsberatung.

1 System und Rolle

System
KI-Sichtprüfung an der Verpackungslinie
Unternehmen
Lebensmittelhersteller im Mittelstand
Zweck
Eine Kamera mit KI prüft Etiketten und Verschlüsse und sortiert fehlerhafte Packungen aus. Über die Freigabe der Ware entscheidet weiterhin der Mensch.
Rolle
Das Unternehmen betreibt das System. Das Modell liefert der Anlagenhersteller, er ist Anbieter.
Grenze
Nur die Prüfstation an dieser Linie. Warenfreigabe und andere Linien gehören nicht dazu.

2 Einstufung mit Begründung

PrüfschrittBefundBegründung
KI-SystemJaDas Modell leitet aus Kamerabildern ab, ob eine Packung aussortiert wird.
RolleBetreiberZweck und Modell bleiben so, wie der Hersteller sie liefert. Ändert sich das, wird neu eingestuft.
Verbotene PraktikenKeineDie Anwendung bewertet Packungen und keine Menschen.
KI in regulierten ProduktenNicht einschlägigDie KI übernimmt keine Sicherheitsfunktion der Maschine.
Anwendungsbereiche mit hohem RisikoKeiner berührtDie Prüfung betrifft keine Beschäftigten und keine Entscheidungen über Personen.
TransparenzKeine besonderen PflichtenDie KI spricht nicht mit Menschen und erzeugt keine Inhalte.
LebensmittelsicherheitJaDie Prüfung ist Teil der Kontrollen im HACCP-Konzept. Änderungen laufen über das Änderungswesen.

Kein Hochrisiko-System nach dem EU AI Act. Es gilt die Pflicht zur KI-Kompetenz nach Art. 4.

Kein Hochrisiko heißt noch nicht, dass alles andere geklärt ist. Deshalb steht die Vorprüfung weiterer Rechtsgebiete gleich darunter.

3 Pflichten

Aus dem AI Act

  • Maßnahmen, die die Entwicklung der KI-Kompetenz der Bediener, der Schichtleitung und der Qualitätssicherung unterstützen (Art. 4 in der Fassung der Verordnung (EU) 2026/1744).

Aus dem HACCP-Konzept

  • Eine Regel, was bei Modellupdates des Herstellers passiert. Jedes Update wird vor dem Einsatz bewertet und wo nötig erneut getestet.

Empfohlen

  • Stichproben der aussortierten Teile, um Fehlalarme und übersehene Fehler zu erkennen.
  • Ein Testprotokoll bei Inbetriebnahme mit [Erkennungsrate laut Testprotokoll].

Entfällt mit Begründung

  • Alles, was der AI Act nur für Hochrisiko-Systeme verlangt, weil die Anwendung keines ist. Die Begründung wird festgehalten und bei jeder Änderung überprüft.

4 Vorprüfung weiterer Rechtsgebiete

Zehn Fragen je KI-Anwendung, beantwortet mit ja, nein oder unklar. Daraus folgt das Ergebnis je Gebiet.

RechtsgebietErgebnisAnmerkung
Datenschutzoffen, erst klärenOb Beschäftigte ins Kamerabild kommen, etwa Hände oder Gesichter, ist vor Ort zu prüfen.
Betriebsverfassungoffen, erst klärenHängt an derselben Frage. Wenn Personen im Bild sind, kann die Technik zur Überwachung geeignet sein.
Geschäftsgeheimnisseoffen, erst klärenZu klären, ob Prüfbilder zur Modellpflege an den Hersteller gehen.
Gleichbehandlungnicht berührtDie KI bewertet keine Personen.
Urheberrecht, Markenrecht, Wettbewerbsrechtnicht berührtKeine fremden Werke als Eingabe, keine Veröffentlichung von Ergebnissen.
Persönlichkeitsrechtnicht berührtDie KI zeigt keine realen Personen, Stimmen oder Namen.
Cyber Resilience Act, Produkthaftungnicht berührtDie KI steckt in keinem Produkt, das verkauft wird.

Unklare Antworten bleiben offene Punkte, bis sie geklärt sind. Ist ein Gebiet berührt und die Rechtslage nicht eindeutig, geht es an die Rechtsberatung.

5 Offene Punkte

  • Erfasst die Kamera Beschäftigte? Mit Produktionsleitung und Datenschutz klären.
  • Falls ja, den Betriebsrat rechtzeitig unterrichten und die Mitbestimmung prüfen.
  • Gehen Prüfbilder an den Hersteller? Vertrag und Angaben des Herstellers prüfen.
  • [Erkennungsrate laut Testprotokoll] liegt noch nicht vor.

6 Nächste Schritte

  1. Offene Punkte klären und die Vorprüfung ergänzen.
  2. Konzept zur KI-Kompetenz für Bediener, Schichtleitung und Qualitätssicherung festlegen.
  3. Regel für Modellupdates in das Änderungswesen aufnehmen.
  4. Testprotokoll bei Inbetriebnahme, danach Freigabe durch die Produktionsleitung.
  5. Einstufung bei neuem Modell, neuem Zweck oder neuen Daten erneut prüfen, sonst jährlich.

Vorbehalt

Dieses Muster ist eine fachliche Einordnung und keine Rechtsberatung. Prüfstand der Rechtsgrundlagen ist der 06.11.2026. Pflichten für Hochrisiko-Systeme nach Anhang III gelten ab dem 02.12.2027, nach Anhang I ab dem 02.08.2028. Datennutzung vernetzter Produkte, Datenvermittlung, Plattformrecht und Sektorrecht sind nicht Teil der Vorprüfung.

Muster: frei erfundenes Beispiel, kein Kundenfall.

Wie sähe das für Ihre KI aus?

Erstgespräch buchen

30 Minuten, vertraulich, unverbindlich