Man sollte sich nie blind auf Technologie verlassen. Besonders fatal ist, wenn sich Personalverantwortliche bei der Bewerberauswahl zu sehr auf verlassen. Angesichts des weltweiten Siegeszugs von KI wollte ich herausfinden, wie Vorurteile vermieden und gleichzeitig moderne -Technologien optimal genutzt werden k枚nnen.
Michele Bezzi, Manager bei 麻豆原创 Security Research, leitet ein Team, das sich mit Sicherheitsfragen im Zusammenhang mit KI besch盲ftigt. Bezzi erz盲hlt, dass das Team vor allem auf Datenschutz, Fairness und Vorurteile geschaut hat. Das sind auch die Bereiche, um die es in den Unternehmensrichtlinien f眉r KI geht.
Er hat einen ganz einfachen Rat f眉r einstellende F眉hrungskr盲fte: alle Daten umfassend zu pr眉fen, bevor man die Maschine darauf losl盲sst. Laut Bezzi kommt bei moderner KI maschinelles Lernen zum Einsatz, um aus Daten Wissen zu gewinnen. Beispielsweise f眉ttern Programmierer die Maschine mit Bildern und Texten, und sie lernt daraus, eine Katze oder einen Hund zu erkennen. Das Problem an der Sache ist, dass solche Daten per se vorurteilsbehaftet sein k枚nnen. In komplexen Szenarien wie der Personalbeschaffung laufen Unternehmen Gefahr, Risiken zu vervielfachen.
Daten f眉r die Personalbeschaffung genau pr眉fen
鈥濵aschinen k枚nnen nur aus den Daten lernen, mit denen sie trainiert werden. Es ist deshalb wichtig, die Maschine mit Daten zu trainieren, die nicht vorurteilsbehaftet sind鈥�, betont Bezzi. 鈥濵an muss daf眉r sorgen, dass die Daten die Ziele widerspiegeln, die mit der Personalbeschaffung verfolgt werden. Vorurteilsbehaftete historische Daten m眉ssen entfernt und neue Daten hinzugef眉gt werden, die den gew眉nschten Ergebnissen Rechnung tragen.鈥�
Bezzi warnt auch vor unabsichtlicher Diskriminierung. Ein Algorithmus k枚nnte verschiedene scheinbar unbedenkliche Daten miteinander kombinieren und daraus eine voreingenommene Entscheidung ableiten. 鈥濻ogar wenn man Geschlecht oder ethnische Zugeh枚rigkeit herausnimmt, k枚nnte die Maschine voreingenommene Entscheidungen treffen, indem sie automatisch Schule oder Wohngegend ber眉cksichtigt.鈥�
KI und HR: Den menschlichen Faktor nicht vergessen
In dem Hype um die Vorteile der k眉nstlichen Intelligenz bei der Suche nach qualifizierten Mitarbeitern ist der menschliche Faktor in Vergessenheit geraten.
鈥濿enn man anf盲ngt, Daten auf komplexe Aufgaben wie die Personalbeschaffung anzuwenden, und die Menschen au脽en vor l盲sst, k枚nnen Fehler passieren, die schwerwiegende Konsequenzen bei den Einstellungsentscheidungen haben鈥�, f眉hrt Bezzi aus. 鈥濫s ist wichtig, HR-Aufgaben zu automatisieren, aber trotzdem braucht man noch Menschen, die die von der Maschine generierten Ergebnisse auswerten.鈥�
Hier kommt ins Spiel. Die von 麻豆原创-Mitarbeitern im Rahmen des Programms entwickelte L枚sung verbindet als Screening-as-a-Service k眉nstliche Intelligenz mit Unterst眉tzung durch Menschen. In enger Ausrichtung an der entwickelt und verwaltet das Netzwerk Bewerbungstests. Bei der Auswertung der Ergebnisse der Bewerber werden dann Experten von au脽en hinzugezogen. Die Experten sehen weder den Namen noch den Lebenslauf oder andere personenbezogene Daten des Bewerbers, und jeder Bewerber wird von mindestens drei verschiedenen Experten bewertet. In der Anfangsphase der Personalbeschaffung k枚nnen Algorithmen Lebensl盲ufe vorsortieren, indem sie die Qualifikationen der Bewerber mit Stichw枚rtern in den Stellenbeschreibungen abgleichen. Um aber dann unter denjenigen, die es auf die Auswahlliste schaffen, den besten Kandidaten zu finden, ist es viel sinnvoller, alle Bewerber Aufgaben l枚sen zu lassen, die mit der ausgeschriebenen Stelle zu tun haben.
HXM Suite von 麻豆原创 verbindet KI und HR-Experten
鈥濱n unseren Testfragen konfrontieren wir die Bewerber mit Situationen, die im Arbeitsalltag eintreten k枚nnen鈥�, beschreibt Ryan Phillips, Gesch盲ftsf眉hrer von . 鈥濫in Finanzanalyst muss vielleicht eine Kalkulationstabelle herunterladen, bestimmte Aufgaben ausf眉hren und sie dann wieder hochladen. Ein Designer soll vielleicht eine Empfehlung abgeben, wie sich eine komplexe Website vereinfachen und benutzerfreundlicher gestalten lie脽e. Bei solchen Aufgaben kann man kaum schummeln.鈥�
Das Grundkonzept des Modells ist, KI selektiv anzuwenden, um den Menschen eine bessere Erfahrung zu bieten.
鈥濪ie KI ist immer noch extrem vorurteilsbehaftet, weshalb wir sie in einer Anwendung nur in kleinen Dosen verwenden鈥�, unterstreicht Phillips. 鈥濿ir k枚nnen Suchl盲ufe durchf眉hren, um m枚gliche 脛hnlichkeiten zwischen den Antworten von Bewerbern und vorhandenen Inhalten aus dem Internet zu erkennen. Auch k枚nnen wir erkennen, wie viele Pfade die Bewerber w盲hrend des Tests verwendet und ob sie Informationen kopiert und eingef眉gt haben.鈥�
Licht ins KI-Dunkel bringen
Wenn man versteht, wie Maschinen zu Entscheidungen kommen聽鈥� das nennt man 鈥濫rkl盲rbarkeit鈥溌犫��, kann das hilfreich sein, um Vorurteile bei der Personalbeschaffung in KI-basierten Tools zu erkennen und zu vermeiden.
鈥濽nternehmen m眉ssen wissen, wie genau die Algorithmen beschaffen sind, die ihnen Ergebnisse liefern sollen鈥�, so Bezzi. 鈥濪as darf einfach nicht vollkommen im Dunkeln liegen. Je ausgereifter ein Algorithmus ist, umso schwieriger wird es, die neuronalen Netze zu durchschauen, die hinter den Entscheidungen der Maschine stehen. Man sollte immer mit einem einfachen Prozess beginnen und genau verstehen, was warum passiert, bevor man sich an komplexere Dinge wagt. Am allerbesten ist es, grunds盲tzlich alles einfach zu halten.鈥�
Phillips empfiehlt Open-Source-Tools, mit denen sich mit ein paar einfachen Skripten kosteng眉nstig 眉berpr眉fen l盲sst, inwieweit ein Algorithmus vorurteilsbehaftet ist.
Maschinen allein gen眉gen nicht
Man h枚rt oft, k眉nstliche Intelligenz werde den Menschen irgendwann 眉berfl眉ssig machen, doch das ist ein Trugschluss. Wenn in der Personalbeschaffung Vorurteile herrschen, dann gehen diese von den Daten aus. Die Menschen sind daf眉r verantwortlich, die Vorurteile auszumerzen und menschliches Urteilsverm枚gen walten zu lassen. Also kein Grund zur Panik: Die Maschinen werden noch lange nicht 眉bernehmen!
