Erforderlichkeit (Dreistufentest beim AI Act)
Erforderlichkeit ist der zweite Prüfschritt im Dreistufentest der Verhältnismäßigkeit, der bei der Bewertung von Hochrisiko-KI-Systemen im Rahmen des AI Act angewendet wird. Er prüft, ob ein milderes, weniger eingreifendes Mittel existiert, das den angestrebten Zweck ebenso erreichen würde.
Ausführliche Erklärung
Der Dreistufentest der Verhältnismäßigkeit ist ein fundamentales rechtliches Prüfschema, das bei Eingriffen in Grundrechte anzuwenden ist. Er besteht aus drei Stufen: Geeignetheit (Kann die Maßnahme den Zweck überhaupt erreichen?), Erforderlichkeit (Gibt es ein milderes Mittel mit gleicher Wirkung?) und Angemessenheit (Steht der Eingriff in einem vernünftigen Verhältnis zum angestrebten Nutzen?). Im Kontext des EU AI Act wird dieser Test relevant, wenn KI-Systeme in Grundrechte eingreifen können.
Praxisbeispiel
Eine österreichische Personalberatung mit 35 Mitarbeitenden plant den Einsatz eines KI-gestützten Bewerbermanagementsystems (Hochrisiko gemäß Anhang III des AI Act). In der Erforderlichkeitsprüfung muss sie sich fragen: Könnte sie denselben Zweck – effiziente Vorauswahl qualifizierter Kandidat:innen – auch mit einem weniger eingriffsintensiven System erreichen? Etwa durch ein System, das nur strukturierte Kriterien prüft statt Persönlichkeitsprofile zu erstellen, oder das nur vorschlägt statt automatisch auszusortieren? Nur wenn nachweislich keine mildere Alternative existiert, ist das invasivere System erforderlich und damit rechtlich zulässig.
Quellen
- The Fundamental Rights Impact Assessment (FRIA) in the AI Act: Roots, legal obligations and key elements
- Article 27: Fundamental Rights Impact Assessment for High-Risk AI Systems | EU Artificial Intelligence Act
- EU AI Act – ein Fahrplan | EY Deutschland
- EU AI Act: Die KI-Verordnung der Europäischen Union