KI-Audit
Ein KI-Audit ist eine systematische Überprüfung von KI-Systemen hinsichtlich ihrer Funktionsweise, Transparenz, Fairness, Rechtskonformität und Risiken, um die Einhaltung regulatorischer Anforderungen und interner Standards sicherzustellen.
Ausführliche Erklärung
Ein KI-Audit bezeichnet die strukturierte, unabhängige und dokumentierte Prüfung eines Künstliche-Intelligenz-Systems oder der KI-bezogenen Prozesse in einem Unternehmen. Dabei werden objektive Nachweise erhoben und bewertet, um festzustellen, inwieweit definierte Prüfkriterien erfüllt sind. Im Unterschied zu klassischen IT-Audits berücksichtigt ein KI-Audit die besonderen Charakteristiken selbstlernender, datengetriebener Systeme: Nachvollziehbarkeit von Entscheidungen, Datenqualität und -herkunft, Bias-Anfälligkeit, sowie die Einhaltung ethischer und rechtlicher Vorgaben wie der EU-KI-Verordnung (AI Act) oder der DSGVO.
Praxisbeispiel
Eine Wiener Steuerberatungskanzlei mit 35 Mitarbeitenden setzt seit einem Jahr ein KI-System zur automatischen Vorkategorisierung von Belegen ein. Im Rahmen eines internen KI-Audits wird geprüft, welche Daten das System verarbeitet, ob die Entscheidungslogik nachvollziehbar dokumentiert ist und ob die DSGVO-Anforderungen erfüllt werden. Dabei stellt sich heraus, dass das System ohne explizite Risikobewertung eingeführt wurde und keine Protokollierung von Fehleingriffen existiert. Die Kanzlei dokumentiert daraufhin Trainings- und Testdaten, definiert klare Eskalationspunkte für kritische Fälle und etabliert ein monatliches Monitoring – und ist damit optimal auf künftige behördliche Prüfungen vorbereitet.
Quellen
- KI-Audit in der Arbeitswelt – Gesellschaft für Informatik
- Warum die Auditierbarkeit von KI-Systemen entscheidend ist | OSKIS
- KI Audit E-Learning – KI-Systeme bewerten und absichern | Cortina Consult
- Managementsysteme auditieren im Zeitalter der KI | DGQ
- How internal audit must respond to the EU AI Act | Wolters Kluwer