Einige Unternehmen setzen im Bewerbungsprozess künstliche Intelligenz (KI) ein. Dabei handelt es sich um eine Software, die Bewerbungsvideos oder von Bewerbern eingereichte Videos sichtet und bewertet. Ziel ist es, die Arbeitsbelastung von Recruitern und HR-Mitarbeitern zu reduzieren und Vorurteile abzubauen, indem man sich nur auf die Qualitäten der Kandidaten konzentriert.

Das Gegenteil erweist sich als wahr, sagt Ermittlung von zwei Wissenschaftlern der University of Cambridge. Sie nennen die KI-Software „automatisierte Pseudowissenschaft“.

„Man kann die Dinge nicht getrennt sehen“

„Diese Software kann nicht darauf trainiert werden, nur arbeitsbezogene Merkmale zu betrachten, ohne Geschlecht und Rasse zu berücksichtigen, denn die Dinge, die bei guten Mitarbeitern als wichtig erachtet werden, sind von Natur aus mit Geschlecht und Rasse verbunden“, sagte der Studienforscher Dr. Kerry Mackereth gegenüber der BBC.

Einige der Probleme ergeben sich aus der Funktionsweise der künstlichen Intelligenz. Die KI wird mit vorhandenem Material „trainiert“, das oft auch unbewusste Vorurteile enthält. Diese Vorurteile können dann unbeabsichtigt verstärkt werden. Deshalb Amazon gestoppt 2018 mit einem solchen System: Es stellte sich als Diskriminierung von Frauen heraus.

Moderne Variante der Schädelvermessung

Ein Großteil der Software analysiert auch die Stimmen und Bewegungen der Kandidaten, um zu sehen, wie gut sie zum idealen Kandidaten passen. Dies beunruhigt die Forscher, da es für eine solche Analyse „keine wissenschaftliche Grundlage“ gibt. Die Forscherin Dr. Eleanor Drage weist die Praxis als „moderne Phrenologie“ ab: pseudowissenschaftliche Psychologie und ein Geschwister der Schädelvermessung.

„Sie sagen, dass sie Ihre Persönlichkeit aus Ihrem Gesicht ablesen können. Die Idee ist, dass die KI wie ein Lügendetektor Ihr Gesicht ‚durchschauen‘ und Ihr wahres Ich zeigen kann“, sagte Drage. Sie ist nicht nur wissenschaftlich fragil, künstliche Intelligenz ist auch sehr leicht zu täuschen.

Die Forscher bauten eine eigene Anwendungs-KI und stellten fest, dass das Ergebnis der „Mitarbeiteranalyse“ schnell von Nebensächlichkeiten beeinflusst wird. „Wenn Sie unsere Software verwenden, sehen Sie, wie sich Ihr Persönlichkeitswert ändert, wenn Sie den Kontrast, die Helligkeit oder die Sättigung von Fotos anpassen“, sagte Drage.

„Gefährliche Quelle für Fehlinformationen“

Die deutsche ARD hat zuvor eine angeboten ähnliche Suche, der feststellte, dass auch Brillen und Schals den Persönlichkeits-Score von Bewerbern beeinflussen. „KI kann definitiv dazu beitragen, die Vielfalt in Unternehmen zu erhöhen, indem mehr Kandidaten herausgefiltert werden“, sagt Drage. „Aber man kann auch viele gute Kandidaten verpassen, wenn die Ausbildungsregeln und Daten unvollständig oder falsch sind.“

„Während die Unternehmen nicht in böser Absicht handeln, gibt es wenig Verantwortung dafür, wie diese Produkte hergestellt oder getestet werden“, sagt Drage von Job Application Software AI. „Infolgedessen können diese Technologie und die Art und Weise, wie sie verkauft wird, zu einer gefährlichen Quelle von Fehlinformationen darüber werden, wie Bewerbungen fairer gestaltet werden können.“

Nutzungsgrad unbekannt

Laut Drage sind Vorurteile der künstlichen Intelligenz derzeit „latenter und irreführender“ als deutlichere Formen algorithmischer Voreingenommenheit. Doch wenn solche Systeme längere Zeit ohne erkennbare Probleme eingesetzt werden, besteht nach Ansicht des Wissenschaftlers eine Gefahr für die Zukunft.

Es ist nicht genau bekannt, wie viele Unternehmen diese Art von Software verwenden. EIN Ermittlung vom britischen HR-Branchenverband CIPD weist darauf hin, dass nur 8 % der britischen Unternehmen diese Art von Software verwenden.

Bei ihrer eigenen Recherche beziehen sich Wissenschaftler auf eine Studie von Gärtner die mit 334 Personalabteilungen gesprochen haben, von denen 86 % sagen, dass sie „virtuelle Lösungen“ im Bewerbungsprozess verwenden.