Human-in-the-Loop ist mehr als ein Klick auf „Freigeben“

Human-in-the-Loop bedeutet, dass ein Mensch in einem KI-Ablauf prüft und entscheidet. Für KI-Systeme, die als hochriskant eingestuft sind, etwa im Personalwesen oder im Gesundheitsbereich, verlangt der EU AI Act eine wirksame menschliche Aufsicht. Nicht jede KI-Anwendung in diesen Bereichen ist automatisch hochriskant. Über die Einstufung entscheiden der konkrete Zweck und die Wirkung des Systems. Nach der Verschiebung gelten diese Pflichten ab Dezember 2027 beziehungsweise August 2028.

Fehlt die Aufsicht, fließen verzerrte Empfehlungen oder fachlich falsche Ergebnisse unbemerkt in den Prozess. Im Recruiting kann das Menschen unfair benachteiligen, in der Medizin ihre Gesundheit gefährden.

Wirksame Aufsicht hat feste Kontrollpunkte: eine Freigabe durch eine zuständige Person, die Möglichkeit, Ergebnisse zu korrigieren, zu überstimmen oder den Prozess zu stoppen, und eine Eskalation an Fachleute mit Entscheidungsbefugnis. Dazu kommen eine dokumentierte Prüfung auf Verzerrungen und ein Audit-Trail, ein Protokoll aller Systemausgaben und menschlichen Eingriffe.

Die Verantwortung bleibt bei Menschen und Organisationen. Deshalb gehören Freigabepunkte fest in den Ablauf, und die zuständigen Personen brauchen Informationen, Zeit, Kompetenz und Befugnisse. Dann ist Human-in-the-Loop ein fester Teil des Prozesses.

Quellen: EU AI Act, insbesondere Artikel 14 und 26; HR-ON, Praxis-Guide zum EU AI Act im Personalwesen.