Die EU will künstliche Intelligenz mit dem AI Act stärker kontrollieren, während der TÜV Prüfverfahren für Hochrisiko-Systeme vorbereitet. Der neue Rechtsrahmen soll Anbieter zu Tests, Dokumentation und Nachweisen zwingen. Firmen sollen KI zertifizieren, wenn sie Medizin, Verkehr, Verwaltung, kritische Infrastruktur oder Grundrechte berührt. Der entscheidende Konflikt liegt jedoch tiefer. Wenn KI menschliche Fähigkeiten übertrifft, kann ein menschliches Prüfverfahren nur begrenzte Sicherheit liefern.
Wer KI zertifizieren will, prüft keine gewöhnliche Maschine
Der TÜV kennt die Prüfung technischer Anlagen sehr genau. Bei Kabeln, Druckbehältern oder Fahrzeugteilen messen Experten Material, Belastung und Ausfallgrenzen. Bei KI funktioniert dieses Prinzip jedoch nur teilweise. Ein Modell entscheidet nicht wie ein Bauteil, sondern erzeugt Ergebnisse aus Daten, Parametern und Wahrscheinlichkeiten.
Symbolbild: KI-generiert
Genau deshalb entsteht ein neues Kontrollproblem. Prüfer können Testfälle definieren und Ausgaben bewerten. Sie können jedoch nicht jede innere Gewichtung verstehen. Außerdem bleibt offen, ob ein System im Alltag so handelt wie im Prüfverfahren.
Hochrisiko-KI betrifft sensible Bereiche
Die EU zählt KI-Systeme als Hochrisiko ein, wenn sie Gesundheit, Sicherheit oder Grundrechte erheblich berühren. Dazu gehören Anwendungen für medizinische Diagnosen, autonome Fahrzeuge, Personalentscheidungen und Kreditprüfungen. Auch kritische Infrastruktur fällt darunter, während einfache Chatbots meist geringere Pflichten erfüllen müssen.
Für Anbieter entstehen deshalb umfangreiche Nachweispflichten. Sie müssen Datenquellen, Einsatzgrenzen, Protokolle und menschliche Eingriffe dokumentieren. Außerdem sollen sie zeigen, wie sie Fehler, Verzerrungen und Angriffe begrenzen. Diese Vorgaben erhöhen die Transparenz, ersetzen jedoch keine vollständige Kontrolle.
Menschliche Maßstäbe stoßen an technische Grenzen
Der zentrale Einwand betrifft die Prüflogik selbst. Menschen beurteilen KI mit menschlichen Maßstäben, während sehr leistungsfähige Systeme andere Strategien entwickeln können. Ein bestandener Test zeigt deshalb nur, dass die KI bekannte Prüfungen gemeistert hat. Er beweist nicht, dass sie in neuen Situationen sicher handelt.
Noch schwieriger wird es bei lernenden oder häufig aktualisierten Systemen. Ein Modell kann nach einem Update andere Ergebnisse liefern. Deshalb lässt sich Hochrisiko-KI nicht einmalig zertifizieren und danach dauerhaft als sicher einstufen. Laufende Kontrollen werden dadurch wichtiger als ein einmaliges Prüfsiegel.
EU-Fristen verschieben den Praxistest
Der AI Act trat am 1. August 2024 in Kraft. Viele Pflichten gelten jedoch gestaffelt, weil Normen, Leitlinien und Prüfmethoden erst entstehen. Für bestimmte Hochrisiko-Anwendungen nennt die EU-Kommission den 2. Dezember 2027. Für KI in Produkten wie Robotern oder Industrieanlagen gilt der 2. August 2028 als wichtiger Stichtag.
Diese Fristen geben Unternehmen mehr Zeit. Zugleich verlängern sie eine heikle Übergangsphase. Denn Technik, Regulierung und praktische Prüfmethoden entwickeln sich nicht im gleichen Tempo. Genau deshalb bleibt unklar, wie belastbar die Kontrollen beim Markteintritt wirklich ausfallen.
Prüfsiegel darf kein Sicherheitsversprechen werden
Eine Zertifizierung kann Schwachstellen sichtbar machen. Sie kann Trainingsdaten, Dokumentation, Angriffsschutz und Ausfallgrenzen prüfen. Außerdem zwingt sie Anbieter, Risiken vor dem Einsatz systematisch offenzulegen. Trotzdem kann sie nicht garantieren, dass eine fortgeschrittene KI in jeder Lage beherrschbar bleibt.
Für Patienten, Bewerber, Verbraucher und Betreiber kritischer Infrastruktur zählt deshalb mehr als ein Etikett. Entscheidend ist, wer haftet, wer eingreifen kann und wer den Betrieb stoppt. Nach größeren Änderungen müsste ein System erneut zertifizieren lassen, damit das Prüfsiegel nicht zur leeren Vertrauensmarke wird. Europa braucht daher laufende Aufsicht, klare Abschaltregeln und transparente Vorfallberichte.
Verfasser: Blackout News
Verwendete Quellen: Zeit (16.06.26) – Europian Comission (Stand: 20.06.26) – TÜV Verband (Stand: 20.06.26) – Das Parlament (12.06.26)
Lesen Sie auch: