Algorithmen & Künstliche Intelligenz im Personalwesen: Diskriminiert KI-Recruiting?

Künstliche Intelligenz ist auf dem Vormarsch, auch im Personalwesen. Doch es gibt auch Nachteile, Stichwort Bewerber-Diskriminierung. Darauf müssen Recruiter achten.

So kann Künstliche Intelligenz das Arbeitsleben verbessern

Künstliche Intelligenz, kurz KI, hat mittlerweile eine allgemeine Bekanntheit erreicht, die weit über die IT-Branche hinausgeht. Spätestens seit dem Erfolg von ChatGPT sind viele Menschen fasziniert von dem, was solche Systeme an Arbeit verrichten und welche Aufgaben wir an KI-Anwendungen abgeben können. Vor allem Aufgaben, welche viel Zeit beanspruchen, aber wenig kognitiven Aufwand fordern, bieten sich dafür am an.

Auch in der Personalarbeit kann künstliche Intelligenz gute Dienste leisten und das Leben von Personalverantwortlichen deutlich vereinfachen. Dank elaborierten Algorithmen kann eine KI eigenständig relativ schnell Zusammenhänge aus großen Datensätzen herausarbeiten. Eine KI kann auch Wahrscheinlichkeitsvorhersagen treffen, welche bei strategischen Entscheidungen eine gute Hilfe darstellen. Dies kann auch im Personalwesen einfach Anwendung finden, beispielsweise in Form eines Chatbots, der immer wiederkehrende Fragen beantworten kann und somit den Mitarbeiter entlastet.

Praktische Anwendungsmöglichkeiten von KI-Software im Personalbereich

KI hat das Potenzial, die Produktivität und Effizienz der Personalabteilung erheblich zu verbessern, Kosten zu senken, die Sicherheit zu erhöhen und die Genauigkeit zu steigern. Mit Hilfe von KI können HR-Manager alltägliche Aufgaben automatisieren und die Genauigkeit und Geschwindigkeit datengestützter Entscheidungsfindung erhöhen. Mit geeigneten IT-Tools können HR-Manager besser in der Lage sein, Mitarbeiter zu engagieren und ihren Bewerberpool zu verwalten.

Kein Wunder also, dass immer mehr Unternehmen darüber nachdenken, solche Systeme ganz oder teilweise in ihr Personalwesen zu integrieren. Die richtige Software kann HR-Managern schließlich dabei helfen, die richtigen Talente zu identifizieren, zu verstehen und einzustellen. In einem zunehmend umkämpften Arbeitsmarkt sind so bessere Entscheidungen zu geringeren Kosten möglich. Und die Wettbewerbsfähigkeit des Unternehmens steigt.

Künstliche Intelligenz im Recruiting und rechtliche Fallstricke

Doch bei aller Euphorie: Es sind auch jede Menge rechtlicher Hürden und Fallstricke zu beachten – daher ist es nicht immer so einfach, wie mancher Unternehmer hofft, KI-Systeme in die Unternehmensabläufe zu integrieren. Denn auch wenn die Entwicklung von ChatGPT sicher richtungsweisend ist: Wer nun glaubt, dass solch eine KI beim Einstellungsprozess, helfen kann, indem sie auf Knopfdruck Bewerberdaten managt, automatisiert Einladungen zum Vorstellungsgespräch und sogar Kündigungsschreiben formuliert, der irrt. Noch gibt es zahlreiche Probleme beim automatisierten Recruiting,

Ein sehr aktuelles Thema ist beispielsweise die Diskriminierung von Bewerbern, denn oft übernehmen Künstliche Intelligenzen diskriminierende Tendenzen und Vorurteile ihrer Schöpfer und verstärken sie noch, je nachdem, mit welchen Datensätzen sie trainiert wurden. Unternehmen, die nicht gegen geltendes Recht verstoßen oder gar zu einer Strafe verurteilt werden will, sollten sich daher ausreichen darüber informieren, welche Datensätze zum Training der KI-Software genutzt wurden. Das wird dadurch erschwert, dass viele Unternehmen KI-Anwendungen gar nicht von Grund auf selbst entwickeln, sondern fertige Systeme implementieren, über die sie oft keine weiteren Informationen haben. Sie wissen also gar nicht, welche Daten der Anwendung zugrunde liegen, was das Risiko einer voreingenommenen KI erhöhen.

Zwei Beispiele, wie KI im Recruiting Bewerber diskriminiert

Wozu das führen kann, dazu zwei kleine Fallbeispiele. Das erste stammt von Amazon: Das Unternehmen setzt seit 2014 ein in der Entwicklung befindliches Softwaresystem ein, das Online-Lebensläufe für mögliche Einstellungen durchsucht und bewertet. Auf der Grundlage von Lebensläufen wurde ein Algorithmus für maschinelles Lernen trainiert, um nach Wortmustern zu suchen, die auf erfolgreiche Arbeitnehmer schließen lassen.

Es wurde festgestellt, dass das System während der gesamten Entwicklungsphase nicht geschlechtsneutral ausgewertet hat. Die Namen von zwei rein weiblichen (Hoch-)Schulen und Ausdrücke, die mit „Frauen“ beginnen, wurden von dem System abgewertet. Als Trainingsdaten dienten Lebensläufe aus den letzten 10 Jahren, meist von Männern. Dies spiegelte die Tatsache wider, dass Männer die Arbeitskräfte im Technologiesektor dominierten und somit der Datensatz von vornherein nicht wirklich neutral war. Und in Finnland wurde ein Kreditinstitut zu einer Strafzahlung verurteilt, weil deren KI-System Männer bevorzugte und auch schwedische Muttersprachler benachteiligte.

Das Problem der diskriminierungsfreien Algorithmen: Was können Unternehmen tun?

Angesichts derartiger, auch international bekannt gewordener Beispiele dauert es meist auch nicht lange, bis der Gesetzgeber tätig wird. Dementsprechend hat z.B. im April 2021 hat die Europäische Kommission Ihren Entwurf einer Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz vorgelegt, in welchem sie festgelegt hat, wie Unternehmen mit KI-Systemen umzugehen haben.

Damit Unternehmen solche Verordnungen und Gesetze umsetzen können, müssten die Programme bereits während ihrer Entwicklung getestet werden. So könnten Unternehmen beispielsweise Antidiskriminierungsbeauftragte einsetzen, um ihre Mitarbeiter oder IT-Mitarbeiter zu beraten. Diese Anreize könnten auch das Bewusstsein schärfen, sodass nur Datensätze verwendet werden, die frei von Vorurteilen oder Ungleichheiten sind.

Was können HR-Verantwortliche von anderen Branchen lernen?

Kein Zweifel, Künstliche Intelligenz ist in vielen Branchen auf dem Vormarsch. Und durch den Einzug neuer Technologien in die Arbeitswelt sind Personalverantwortliche ganz sicher gefordert, sich ausgiebig mit den aktuellen Trends auseinanderzusetzen. Wichtig ist jedoch ein Blick über den Tellerrand der eigenen Branche hinaus: Personalmanager können dabei viel von anderen Branchen lernen und auf ihre eigenen Abläufe anwenden.

So werden in der Finanzbranche bereits seit Jahren erfolgreich Algorithmen eingesetzt, um Chartkurven auszuwerten und so Anlageentscheidungen erheblich zu optimieren. Wie so etwas aussehen kann, zeigt dieser Bericht über Bit Index Ai Erfahrungen, der Nutzer-Erlebnisse mit einer solchen KI-Software widergibt. Genau solche Erfahrungsberichte sind ungemein wertvoll, wenn es darum geht, KI-Software auch in die eigenen Arbeitsabläufe zu implementieren.

Die Zukunft der KI im Personalwesen: Das Thema gesamtgesellschaftlich denken

Jedoch sollte man bei aller Effizienz eben nicht die gesellschaftliche Dimension dieses Themas außer Acht lassen. So hat bezüglich möglicher Diskriminierung die deutsche Antidiskriminierungsstelle bereits 2020 eine Studie veröffentlicht, in welcher sie auch auf mögliche Fälle, auch aus dem HR-Bereich, eingeht. Die Studie schlägt eine Reihe möglicher Methoden zur Verhinderung von Diskriminierung bei der algorithmusbasierten Differenzierung vor und hält präventive Bemühungen für den sinnvollsten Schutz.

Das Ziel sollte für Arbeitgeber wie auch gesamtgesellschaftlich sein, Algorithmen in Zukunft diskriminierungsfrei zu konzipieren. Letztlich geht es dabei immer um die Verteidigung gesellschaftlicher Prinzipien, wie das Streben nach Gleichheit oder die Verteidigung des Rechts auf uneingeschränkte Individualität. Antidiskriminierungs- und Datenschutzgesetze müssen dementsprechend gestärkt werden, um zu gewährleisten, dass diese Grundsätze angesichts der rasanten Fortschritte bei Big Data und KI aufrechterhalten werden.

Top Bücher zum Thema

Text als PDF lesen

Diesen Text als PDF erwerben (nur zur eigenen Nutzung ohne Weitergabe gemäß AGB): Bitte schicken Sie uns nach dem Kauf eine eMail mit gewünschten Titel an support@berufebilder.de, wir schicken das PDF dann umgehend zu. Sie können auch Text-Reihen erwerben.

4,99€Kaufen

Persönliche Beratung für Ihren Erfolg

Egal ob es um das Erreichen von Zielen, die persönliche Entwicklung oder berufliche Fragen geht: Mit dem individuellen Beratungstool, ds Buchkäufer 6 Monate lang kostenlos nutzen können, erhalten Sie einen kompetenten Begleiter, der Ihnen 24/7 interaktiv zur Verfügung steht. Für komplexere Themen bieten wir spezielle Service-Leistungen.

19,99€ / pro Monat   Buchen

eKurs on Demand buchen

Bis zu 30 Lektionen mit je 4 Lernaufgaben + Abschlusslektion als PDF-Download. Bitte schicken Sie uns nach dem Kauf eine eMail mit gewünschten Titel an support@berufebilder.de. Alternativ stellen wir gerne Ihren Kurs für Sie zusammen oder bieten Ihnen einen persönlichen regelmäßigen eMail-Kurs – alle weiteren Informationen!

29,99€Kaufen

Individuelles eBook nach Wunsch

Falls unser Shop Ihnen nicht Ihr Wunschthema bietet: Wir stellen gerne ein Buch nach Ihren Wünschen zusammen und liefern in einem Format Ihrer Wahl. Bitte schreiben Sie uns nach dem Kauf unter support@berufebilder.de

79,99€Kaufen