Hochrisiko-KI-Systeme: Definition, Funktionen & Nutzen im Überblick

Hochrisiko-KI-Systeme sind Anwendungen künstlicher Intelligenz, die aufgrund ihres potenziellen Schadensausmaßes für die Sicherheit oder die Grundrechte natürlicher Personen sowie die Integrität von Unternehmen klassifiziert werden. Im Rahmen der KI-Verordnung (KI-VO) stellen sie die Kategorie dar, an die die maximalen Anforderungen an Compliance und Haftungsvermeidung geknüpft sind.

Hochrisiko-KI Systeme kurz erklärt

Statt KI-Systeme pauschal zu bewerten, fordert der AI Act eine präzise Identifikation auf Basis des Einsatzgebiets. Sobald ein System als Hochrisiko-KI eingestuft wird, wird deren rechtssicherer Umgang zur kritischsten Aufgabe für die Geschäftsführung und rechtliche Entscheider. Unternehmen müssen nachweisen, dass sie die volle Kontrolle über die Algorithmen besitzen und ethische Standards proaktiv in den gesamten Lebenszyklus des Systems integrieren, um Haftungsrisiken zu minimieren.

iGut zu wissen:


Die Identifikation von Hochrisiko-KI-Systemen ist die strategisch wichtigste Aufgabe im Compliance-Prozess. Ein praxisnahes Beispiel ist die biometrische Fernidentifizierung: Während der Einsatz in öffentlichen Räumen nahezu vollständig untersagt ist, unterliegt er auf privaten Arealen – wie abgeschlossenen Werksgeländen – einer strengen Einzelfallprüfung. In der Regel werden solche Systeme dort als Hochrisiko-KI klassifiziert, was weltweit die höchsten Hürden gegen unkontrollierte Überwachung im betrieblichen Umfeld schafft.

Warum ist die Einstufung als Hochrisiko-KI wichtig?

Der Prozess der Regulierung gliedert sich in die technische Dokumentation, das Qualitätsmanagementsystem und die menschliche Aufsicht. Hochrisiko-Systeme erfordern eine lückenlose Aufzeichnung über die gesamte Betriebsdauer hinweg. Die ISO 42001 ist als Managementsystem für Künstliche Intelligenz (AIMS) ein sinnvoller/nützlicher Baustein. Sie stellt sicher, dass Risiken über den gesamten Lebenszyklus identifiziert und minimiert werden und trägt einen großen Teil zur Konformität der Systeme bei.

Praxisbeispiele für Hochrisiko-KI-Systeme

  • Personalmanagement: KI-Systeme, die zur automatisierten Analyse von Bewerbern oder zur Bewertung von Arbeitsleistungen genutzt werden, gelten als hochriskant, da sie Grundrechte im Arbeitskontext direkt berühren.

  • Kritische Infrastruktur: Der Einsatz von KI zur Steuerung von Stromnetzen oder Verkehrswegen wird aufgrund des hohen Schadenspotenzials bei Fehlfunktionen als Hochrisiko-KI reguliert.

  • Biometrie auf Privatgelände: Automatisierte Systeme zur Gesichtserkennung für den Zugang zu gesicherten Werksgeländen werden aufgrund der Sensibilität der Daten und der Überwachungssituation in der Regel als Hochrisiko-KI eingestuft.

Ähnliche Themen: