Der EU AI Act macht unabhängige Testberatung zur Pflicht

Für wen gilt der EU AI Act?

Ab dem 2. August 2026 gelten die Anforderungen des EU AI Acts für Hochrisiko-KI-Systeme in Bereichen wie kritische Infrastruktur, Finanzdienstleistungen, Gesundheitswesen, Bildung und Beschäftigung. Die Regelung betrifft auch Schweizer Unternehmen, wenn sie KI-Systeme für den EU-Markt entwickeln, einsetzen oder deren Ergebnisse Personen in der EU betreffen.

‍

Was der EU AI Act für Hochrisikosysteme konkret verlangt

Der Kern der Verordnung: Qualitätssicherung reicht nicht mehr aus, wenn sie nur intern dokumentiert ist. Gefordert ist ein überprüfbarer, dokumentierter Nachweis, der von einer Partei erbracht wird, die ihre Unabhängigkeit vom Entwicklungsprozess glaubhaft belegen kann. Bei Verstössen drohen Bussen bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ausfällt.

Warum interne Teams an diesem Punkt oft nicht weiterkommen

Ein Entwicklungsteam kann die eigene Arbeit prüfen, dokumentieren und für gut befinden. Was fehlt, ist die Distanz zum Projekt, die eine externe Partei mitbringt. Genau diese Distanz verlangt der EU AI Act ausdrücklich: eine Partei, die nicht Teil des Entwicklungsprozesses war.

Für Schweizer Unternehmen kommt eine zweite Ebene dazu. Wer mit europäischen Finanzinstituten zusammenarbeitet, kennt regulatorische Vorgaben wie DORA bereits aus der Betriebssicht. Der EU AI Act ergänzt diese Anforderungen um die KI-spezifische Testperspektive: Robustheit, Fairness und Regelkonformität der eingesetzten Modelle.

Was ein prüffähiger Audit-Trail enthalten muss

Ein Audit-Trail für Hochrisikosysteme braucht mehr als ein Testprotokoll am Ende des Projekts. Er entsteht am besten begleitend zum Projekt, nicht rückwirkend kurz vor der Einreichung, und dokumentiert:

• welche Testfälle warum gewählt wurden,
• wie Grenzfälle und Fehlerszenarien behandelt wurden,
• wie die Ergebnisse nachvollziehbar mit den regulatorischen Anforderungen verknüpft sind,
• wer die Prüfung durchgeführt hat und wie dessen Unabhängigkeit vom Entwicklungsteam belegt ist.

Wir bringen aus ISTQB-Zertifizierungstrainings für KI-Testing (als erstes Schweizer Unternehmen) und aus Mandaten im regulierten Umfeld die Praxis mit, um diese Nachweise so aufzubauen, dass sie einer Prüfung standhalten.

‍

Wann giltet ein KI-System als Hochrisko?

Ein KI-System gilt als Hochrisiko, wenn es in einem der genannten Bereiche eingesetzt wird und ein signifikantes Risiko für Sicherheit, Gesundheit oder Grundrechte darstellt."
Die betroffenen Bereiche

• Kritische Infrastruktur (z. B. Energie, Verkehr)
• Finanzdienstleistungen (z. B. Kreditvergabe, Versicherungen)
• Gesundheitswesen (z. B. Diagnose-Tools, Krankenhausmanagement)
• Bildung (z. B. Prüfungsautomatisierung, Lernplattformen)
• Beschäftigung (z. B. Bewerbungsfilter, Leistungsbewertung)

‍

Wo du jetzt ansetzen kannst

Eine erste Bestandsaufnahme klärt drei Fragen:

• Welche eurer Systeme fallen unter die Hochrisiko-Kategorien des EU AI Act?
• Wie weit ist die bestehende Testdokumentation von einem prüffähigen Audit-Trail entfernt?
• Wer könnte die geforderte unabhängige Prüfung intern oder extern übernehmen?

‍

KI-Testing Kompetenzen aufbauen

Möchtest du mehr über das Testing von KI-Systemen erfahren? Unsere Trainings und Beratungsangebote helfen dir dabei, die gesetzlichen Anforderungen sicher umzusetzen. Lies dazu gerne auch unseren Blogbeitrag zum europäische KI-Gesetz AI Act.