KI-Screening verschiebt die Verantwortung für eine Fehlbesetzung nicht

Ein Arbeitgeber, der die erste Vorauswahl an Software übergibt, direkt oder über eine Agentur, nimmt oft an, er habe damit auch einen Teil des Risikos abgegeben. Das hat er nicht. Wenn ein Tool die falschen Menschen aussortiert, richten sich die Fragen danach an das Unternehmen, das eingestellt hat, und an die Agentur, die die Suche in seinem Auftrag geführt hat.

Dieser Beitrag vertritt die These, dass die Verantwortung für einen Fehler beim KI-Screening nie auf den Algorithmus oder auf den Anbieter übergeht, der ihn verkauft hat. Danach zeigt er, welche Standards Fachleute im Recruiting fordern und welche Fragen ein Arbeitgeber jeder Agentur stellen kann, die mit KI vorauswählt.

Die Entscheidung hat weiterhin einen Verantwortlichen

Raghav Singh hat das Prinzip im August 2026 auf ERE klar formuliert. Der Gedanke ist einfach, und man vergisst ihn leicht, sobald ein Tool unauffällig in einem Bewerbermanagementsystem läuft.

Arbeitgeber können die Verantwortung nicht einfach deshalb auslagern, weil ein KI-System an einer Entscheidung beteiligt war.

Ein Screening-Tool stellt niemanden ein. Es sortiert, bewertet oder verwirft Bewerbungen, und eine Person oder ein vom Arbeitgeber eingerichteter Prozess handelt auf Grundlage des Ergebnisses. Ist das Ergebnis falsch, lautet die Frage, wer das Tool ausgewählt, wer die Kriterien festgelegt und wer die Ergebnisse geprüft hat. Das sind Managemententscheidungen, und sie gehören dem, der den Einstellungsprozess verantwortet.

Dieselbe Logik gilt, wenn eine Agentur die Vorauswahl übernimmt. Die Agentur hat das Tool ausgewählt und eingerichtet, also steht sie für die Shortlist ein, die sie schickt. Der Arbeitgeber hat die Agentur ausgewählt und die Shortlist angenommen, also steht er für die Einstellung ein. Keiner von beiden kann auf die Software zeigen und sich zurückziehen.

Die Regeln nehmen bereits den Anwender in die Pflicht

Das ist nicht nur ein ethisches Argument. Mehrere öffentliche Regeln und Verfahren legen die Verantwortung bereits auf die Organisation, die das Tool einsetzt, und nicht nur auf das Unternehmen, das es entwickelt hat.

In New York City verbietet das Local Law 144 von 2021 Arbeitgebern und Personalagenturen, ein automatisiertes Tool für Einstellungsentscheidungen zu nutzen, sofern es nicht innerhalb eines Jahres vor der Nutzung einem Bias-Audit unterzogen wurde, eine Zusammenfassung dieses Audits öffentlich ist und die Bewerber informiert wurden. Die städtische Behörde für Verbraucher- und Arbeitnehmerschutz setzt es seit dem 5. Juli 2023 durch. Das Gesetz nennt Personalagenturen neben Arbeitgebern, und das ist wichtig für alle, die die erste Vorauswahl auslagern.

In der Europäischen Union stuft der AI Act KI-Systeme für die Personalgewinnung oder -auswahl als hochriskant ein, darunter Tools, die Bewerbungen analysieren und filtern und Bewerber bewerten. Sein Artikel über Betreiber verlangt von der Organisation, die ein solches System nutzt, die menschliche Aufsicht Personen mit der nötigen Kompetenz und Befugnis zu übertragen, die Protokolle des Systems aufzubewahren und Menschen darüber zu informieren, dass ein solches System bei ihnen eingesetzt wird. Dieselbe Seite datiert diese Pflichten für Systeme nach Anhang III auf den 2. Dezember 2027.

In den Vereinigten Staaten zeigt eine Klage gegen Workday, wo Streitfälle landen können. Im Mai 2025 hat ein Bundesrichter in Kalifornien eine Sammelklage vorläufig zugelassen, und zwar für Bewerber ab 40 Jahren, die angeben, ein KI-Empfehlungssystem habe sie aussortiert. Workday weist die Vorwürfe zurück, und das Gericht hat nicht entschieden, ob sie begründet sind. Der Fall erinnert dennoch daran, dass Arbeitgeber, die eine solche Plattform nutzen, nicht davon ausgehen können, dass die Sache zwischen den Klägern und dem Anbieter bleibt.

Ein Audit des Anbieters ist kein Standard

Viele Tools werden inzwischen mit einem Fairness-Audit geliefert. In einer ERE-Kolumne vom September 2026 argumentierte David Manaster, dass diese Audits vor allem zur Beruhigung der Käufer dienen und sich in Umfang, Methode und Bestehenskriterien unterscheiden, weil es keinen gemeinsamen Standard gibt. Wer als Arbeitgeber das Audit eines Anbieters liest, liest dessen eigene Definition von fair.

Manaster schlug eine kurze Reihe von Grenzen vor, die jedes KI-Screening einhalten sollte. Vereinfacht gesagt sind es vier Punkte.

• Ein Bewerber wird nur dann automatisch abgelehnt, wenn das Kriterium vom Arbeitgeber vorab in klarer Sprache als Anforderung der Stelle benannt werden kann.
• Niemand wird wegen eines Merkmals abgelehnt, das der Arbeitgeber nie festgelegt und das System selbst abgeleitet hat.
• Bewerber werden informiert, bevor KI sie bewertet, und dieser Hinweis ist fest im Produkt eingebaut statt nur eine Einstellung zu sein.
• Wer von Software aussortiert wurde, kann verlangen, dass ein Mensch noch einmal hinschaut.

Den letzten Punkt formulierte er mit Worten, die man sich merken sollte.

Jeder von Software aussortierte Bewerber kann eine erneute Prüfung durch einen Menschen verlangen und sie auch tatsächlich erhalten.

Keine dieser Grenzen braucht neue Technologie. Sie braucht jemanden auf der Seite des Einstellenden, der die Kriterien aufschreibt, nachliest, was das Tool damit macht, und für das Ergebnis verantwortlich bleibt. Das ist das Argument der Verantwortung in praktischer Form.

Was Sie eine Agentur fragen sollten, die mit KI vorauswählt

Ein Arbeitgeber, der eine Agentur beauftragt, kann daraus vor Beginn der Suche eine kurze Liste von Fragen machen. Die Antworten zeigen, ob die Agentur ihre Tools als etwas betrachtet, das sie verantwortet, oder als etwas, das sie nur eingeschaltet hat.

1. Welche Tools berühren unsere Bewerber, in welchem Schritt, und wer in der Agentur hat jedes davon freigegeben?
2. Welche Kriterien können einen Bewerber ablehnen, ohne dass ein Mensch die Bewerbung liest, und wer hat sie formuliert?
3. Wann wurde jedes Tool zuletzt auf Bias geprüft, von wem, und können wir die Zusammenfassung lesen?
4. Werden Bewerber darüber informiert, dass KI Teil der Vorauswahl ist, und wann?
5. Kann ein abgelehnter Bewerber eine Prüfung durch einen Menschen verlangen, und wer führt sie durch?
6. Welche Aufzeichnungen führen Sie darüber, was das Tool empfohlen und was ein Recruiter entschieden hat?

Eine Agentur, die diese Fragen schnell beantworten kann, hat wahrscheinlich schon darüber nachgedacht. Eine Agentur, die das nicht kann, bittet den Arbeitgeber, ein Risiko zu teilen, das niemand steuert.

Die Verantwortung bleibt dort, wo die Entscheidung fällt

KI-Screening kann einem Recruiting-Team viel Zeit sparen, und nichts hier spricht gegen seinen Einsatz. Das Argument ist enger gefasst: Das Tool verändert, wie eine Shortlist entsteht, nicht, wer für sie einsteht. Arbeitgeber und Agentur, die das Tool nutzen, verantworten seine Fehler genauso wie die Fehler eines Recruiters.

Der praktische Schritt ist, diese Verantwortung schriftlich festzuhalten, bevor die erste Bewerbung eingeht. Benennen Sie die Person, die jedes Tool freigibt, formulieren Sie die Ausschlusskriterien in klarer Sprache, fordern Sie die Zusammenfassung des Audits an und vereinbaren Sie, wie ein abgelehnter Bewerber einen Menschen erreichen kann. Wenn etwas schiefgeht, hat das Unternehmen, das so vorgegangen ist, eine Antwort parat.