Katharina Zweig: Warum KI in der Personalauswahl nicht objektiv ist

Algorithmus oder Heuristik? Der Unterschied zählt

Für Zweig ist eine Entscheidung zuerst einmal eine Zahl. Ja oder Nein lässt sich als Null oder Eins darstellen, Kandidatinnen und Kandidaten lassen sich durchnummerieren, und auch die Wörter, die ChatGPT erzeugt, bekommen Nummern. Wenn Entscheidungen Zahlen sind, liegt die Frage nahe, ob Computer sie nicht an deiner Stelle treffen können.

Vorher räumt Zweig mit einem Mythos auf. Ein Algorithmus ist in der Informatik eine Prozedur, die mathematisch beweisbar immer die korrekte Lösung findet, etwa der Dijkstra-Algorithmus für den kürzesten Weg von Kaiserslautern nach Kiel. Was wir heute meist haben, sind Heuristiken: Sie lösen ein Problem mit erprobten, aber nicht notwendigerweise optimalen Schritten. Routenplaner mit der kürzesten erwarteten Fahrtzeit sind ein Beispiel. Sie brauchen Daten der Vergangenheit und Echtzeitdaten, sind gut, aber nicht unfehlbar.

Die Kernaussage: Maschinelles Lernen besteht nur aus Heuristiken. Diese Verfahren können nicht versprechen, die beste Lösung zu finden, und sind in diesem Sinne auch nicht objektiv.

KI in der Personalauswahl: Mathematisch heißt nicht fair

Zweig zeigt das an einem einfachen Beispiel. Angenommen, du schaust dir die letzten 100 Bewerbungen an: Wer wurde eingestellt, und hat das geklappt? Für jede Person sind zwei Werte eingetragen, Jahre an Expertise und Jahre an Arbeitslosigkeit. Eine Support Vector Machine sucht eine Linie, die erfolgreiche und weniger erfolgreiche Arbeitnehmende trennt. Landet eine neue Bewerberin auf der grünen Seite, könntest du sie einstellen, sofern sich die Vergangenheit in die Zukunft übertragen lässt.

Das Problem steckt im Kriterium. Jahre der Arbeitslosigkeit unterscheiden nicht, ob jemand keinen Job gefunden hat oder in Elternzeit war. Mit dem Geschlecht als zusätzlicher Information hätte man gesehen: Zwei sehr gute Frauen wären nach dieser Regel nicht eingestellt worden, zwei weniger geeignete Männer schon. Die Maschine nimmt Daten, findet eine Regel und wendet sie auf alle künftigen Fälle an. Das kann zu Diskriminierung führen.

Maschinelles Lernen braucht deshalb Gestaltung durch Menschen: kuratierte, korrekte und ausgewogene Beispiele, eine klare Aufgabe, ein Optimierungsziel und eine Speicherstruktur für die gelernten Regeln. Beim Optimierungsziel zeigt sich das besonders. Bei Fachkräftemangel holst du lieber mehr Leute ins Gespräch, bei sehr vielen Bewerbungen willst du nur die allerbesten sehen. Die Linie liegt dann jeweils anders, und das kann niemand für dich entscheiden.

Das Pferd mit dem Copyright-Logo

Wie gefährlich unerklärte Regeln sind, zeigt ein Fall aus der Bilderkennung. Ein neuronales Netz sollte Pferde erkennen. Auf die Frage, welche Pixel am wichtigsten waren, zeigte sich: Die Maschine schaute nur auf die Copyright-Angabe des Fotografen Lothar Lenz am unteren Bildrand. Sie war ausschließlich mit Pferdebildern von Lothar Lenz trainiert worden. Wo das Logo steht, ist für die Maschine ein Pferd.

Maschinen können nicht begründen, warum sie etwas entscheiden. Viele Anbieter werben mit erklärbarer KI, doch Zweig sagt nach langer Forschung: Es sind nicht die Erklärungen, die du erwartest. Anders als bei Algorithmen musst du KI-Ergebnisse deshalb immer wieder überprüfen.

Personalauswahl ist dabei besonders heikel. Zweig ordnet die Auswahl als Risikovorhersage ein, als Wette auf die Zukunft. Wer nicht eingeladen wird, kann nie zeigen, dass die Person eine gute Arbeitnehmerin oder ein guter Arbeitnehmer geworden wäre. Eigentlich fällt HR laut Zweig Werturteile im Sinne von Kahneman, Sibony und Sunstein, bei denen sich Fachleute nicht beliebig uneinig sein dürfen: Qualitätsdimensionen festlegen, Kandidaten daran messen, abwägen und entscheiden. Das können laut Zweig bisher nur Menschen, Maschinen simulieren es nur.

Sprachmodelle: Textmuster statt Denken

Large Language Models lernen, das nächste Wort vorherzusagen. Dazu berechnen sie eine Wahrscheinlichkeitstabelle und wählen daraus ein Wort, Wort für Wort. Die Temperatur steuert, ob immer das wahrscheinlichste Wort kommt oder ein zufälligeres. Jede Tabelle kostet Millionen Berechnungen, deshalb sind Sprachmodelle teuer.

Die Maschine erkennt Textmuster wie einen Adressblock, ohne ihn benennen zu können. Für standardisierte Aufgaben hilft das: Eine Absage lässt sich gut mit Sprachmodellen schreiben. Verstehen zeigt das aber nicht. Schreibt die Maschine eine Begründung, sieht der Text aus wie eine Begründung, ohne dass der dafür nötige Prozess abläuft. Falsche Inhalte nennt Zweig Konfabulationen statt Halluzinationen und zitiert Andrej Karpathy, der LLMs Traummaschinen nennt.

Weil agentische KI-Systeme auf Sprachmodellen beruhen, haben auch sie keinen gesunden Menschenverstand und müssen eng mit Menschen verwoben werden. Wichtig ist Zweig außerdem: Die KI gibt es nicht. Bilderkennung, Diktatfunktion, Übersetzung und Navigation gehören genauso dazu.

Checkliste für den KI-Einkauf im HR

Wenn du ein KI-System kaufen oder entwickeln willst, gilt dasselbe wie bei jeder anderen Software. Spezifizier das Problem genau, etwa: Wir bekommen zu viele Bewerbungen und brauchen einen Prozess, um die untersten 30 Prozent auszusortieren. Kläre die Nebenbedingungen, auch die Kosten, die bei Sprachmodellen noch gar nicht bekannt sind. Such technikneutral: Ist ein langweiliger Algorithmus oder eine Datenbank die beste Lösung, nimm sie. Bind die Betroffenen ein, sorg für gutes Change Management und für regelmäßige Qualitätssicherung, denn KI-Systeme passen sich nicht von selbst an die Zukunft an.

Am Ende geht es um das Verweben von Mensch und Maschine. Auf dem Festival hat Zweig Anbieter gesehen, bei denen Menschen an jedem Schritt eingreifen und sich den Lebenslauf noch einmal ansehen können. Die KI kann Bewerbungen grob sortieren, deine Urteilskraft bleibt nötig. Dein erster Schritt: Prüf bei deinem nächsten KI-Tool, an welcher Stelle Menschen nachschauen und korrigieren können.