Zwei KI-Experten über KI im HR

Viele sprechen darüber, doch an die Umsetzung trauen sich aufgrund der rechtlichen Unsicherheiten und offenen Fragen die wenigsten: den Einsatz von KI im HR-Bereich. Daher haben wir gleich zwei KI-Experten für dieses Interview zu Wort kommen lassen: Die KI ChatGPT, die für uns die Fragen formuliert hat und von Natur aus KI-Expertin ist, sowie unseren Referenten Dr. Andreas Tinhofer, der sich seit vielen Jahren intensiv mit Arbeitsrecht und der Digitalisierung der Arbeitswelt beschäftigt.

Wir waren selbst überrascht, wie gut die Fragen von ChatGPT tatsächlich waren. Daher wünschen wir viel Freude beim Lesen von unserem kleinen Experiment und diesem Austausch zwischen zwei KI-Spezialist*innen:

Wie wird Künstliche Intelligenz (KI) bereits in HR-Abteilungen angewendet? Welche konkreten Anwendungsbeispiele gibt es und welche Vorteile ergeben sich daraus?

Es werden am Markt bereits zahlreiche Computer-Programme angeboten, die Unternehmen in unterschiedlichen Bereichen des Personalmanagements unterstützen. Das sogenannte „Algorithmische Management“ kann prinzipiell das gesamte Spektrum an Arbeitgeber-Funktionen betreffen: von der Personalauswahl über die Anleitung und Beurteilung von Arbeiternehmer*innen bis hin zur Beendigung von Dienstverhältnissen.

Manche Systeme setzen sogar die Problemlösungen bzw. Entscheidungen, die von einem Algorithmus generiert wurden, gleich auch selbstständig um. So kann etwa in einem Customer-Relations-Management-Programm ein KI-System darüber entscheiden, wer vom Kundendienst welche Kund*innen wann und wie kontaktieren soll – ob per E-Mail oder telefonisch – und mit welchen Angeboten an diese Kund*innen herangetreten werden soll u. s. w.

Inwiefern können KI-Systeme bei der Personalbeschaffung und Bewerberauswahl unterstützen? Welche positiven Effekte können durch den Einsatz von KI in diesem Bereich erzielt werden?

Im Recruiting werden KI-Systeme bereits jetzt schon bei der Platzierung von Stellenanzeigen über Social-Media-Kanäle, wie LinkedIn, Facebook und Google, oder auf spezialisierten Online-Jobbörsen (Monster, indeed etc.) eingesetzt. Dabei entscheidet ein Algorithmus, welchen konkreten Internetnutzer*innen das Jobinserat gezeigt wird.

KI-Systeme kommen aber auch in den weiteren Schritten der Personalbeschaffung zum Einsatz, etwa beim automatisierten Screening von Lebensläufen („CV-Parsing“) oder bei der Analyse von Bewerbungsvideos.

Auf diese Weise lassen sich vor allem Zeit und Ressourcen sparen. Die Anbieter solcher Systeme versprechen überdies eine Steigerung der Qualität in der Personalauswahl.

Risikopotenzial durch Datenschutz und Diskriminierung

Gibt es jedoch auch potenzielle negative Auswirkungen von KI in der Personalbeschaffung und Bewerberauswahl? Welche Bedenken hinsichtlich Datenschutzes, Fairness und Verzerrungen können auftreten?

Zunächst bestehen die Risiken von KI-Systemen unter anderem darin, dass Menschen diskriminiert werden können, z. B. in Form des sogenannten Gender-Bias. Das bekannteste Beispiel hierfür ist wohl der Fall Amazon. Im Jahr 2014 ließ der Onlineversandhändler ein Programm zur Unterstützung des Personalrecruitings entwickeln, das Bewerber*innen je nach ihrer Eignung bewerten und reihen sollte. Bereits ein Jahr später stellte sich heraus, dass das Programm männliche Bewerber bevorzugte.

Grund dafür waren die Trainingsdaten: Der Algorithmus war mit Lebensläufen von Bewerber*innen gefüttert worden, die von Amazon in den letzten zehn Jahren eingestellt worden waren. Die meisten dieser Lebensläufe stammten jedoch von männlichen Bewerbern, weil Amazon in den Jahren zuvor überwiegend Männer eingestellt hatte. Diese Praxis wurde vom Algorithmus als Muster erkannt und daher bei der Empfehlung für die Personalauswahl reproduziert.

Auch eine Studie der NGO „AlgorithmWatch“ zeigte, dass auf Facebook veröffentlichte, geschlechtsneutral formulierte Stellenausschreibungen verschiedenen Zielgruppen basierend auf geschlechtsspezifischen Stereotypen angezeigt wurden. Zum Beispiel wurde eine Stellenausschreibung für Lastwagenfahrer*innen 10-mal häufiger Männern als Frauen angezeigt. Eine Stellenausschreibung für Erzieher*innen wurde hingegen 20-mal häufiger Frauen als Männern angezeigt. Kurios ist, dass die Stellenanzeige für Lkw-Fahrer*innen mit dem Bild eines Lippenstifts anstelle eines Lkws mehr Frauen als Männern angezeigt wurde.

Neben dem Risiko der Diskriminierung ist auch der Aspekt des Datenschutzes zu beachten.

Denn laut dem Datenschutzrecht ist eine Verarbeitung von personenbezogenen Daten nur unter bestimmten Voraussetzungen erlaubt. Grundsätzlich kann eine ausdrückliche, informierte und freiwillige Zustimmung der betroffenen Person eine ausreichende Rechtsgrundlage für die Verarbeitung bestimmter Daten darstellen. Im Arbeitskontext ist dies jedoch komplizierter, da hier die Freiwilligkeit der Einwilligung von Arbeitnehmer*innen infrage gestellt wird, sodass häufig nach einer anderen Rechtsgrundlage gesucht werden muss.

Darüber hinaus verbietet etwa die DSGVO in bestimmten Fällen, dass eine Entscheidung ausschließlich aufgrund einer automatisierten Verarbeitung von personenbezogenen Daten getroffen wird. Zum einen, wenn diese für die betroffene Person eine rechtliche Wirkung entfaltet oder sie zum anderen in ähnlicher Weise erheblich beeinträchtigt. Damit ist z. B. eine vollständig automatisierte Absage an bestimmte Bewerber*innen rechtswidrig.

Welche rechtlichen Aspekte sind bei der Anwendung von KI im HR-Bereich zu beachten? Gibt es spezifische Vorschriften oder Richtlinien, die Unternehmen einhalten müssen?

Zunächst ist festzuhalten, dass es sich bei KI-Systemen um Werkzeuge handelt, für deren Einsatz im HR-Management der Arbeitgeber die Verantwortung trägt. Dabei müssen vor allem das Antidiskriminierungs-, das Datenschutz- sowie das Persönlichkeitsrecht der Arbeitnehmer*innen und ggf. auch das Mitwirkungsrecht des Betriebsrats beachtet werden.

Wie können Unternehmen sicherstellen, dass KI-gestützte Entscheidungen transparent und nachvollziehbar sind? Welche Maßnahmen sollten ergriffen werden, um mögliche Verzerrungen oder Diskriminierung zu vermeiden?

Um Verzerrungen und Diskriminierungen zu vermeiden oder auch zu mindern, gilt es, auf eine sorgfältige Auswahl und Aufbereitung der Trainingsdaten zu achten, eine regelmäßige Überprüfung und Validierung der Algorithmen vorzunehmen und die Auswirkungen auf verschiedene Gruppen von Betroffenen zu berücksichtigen. So ist bei der Auswahl der Daten u. a. zu überprüfen, ob die zugrunde liegende Datenmenge ausreichend vielfältig bzw. repräsentativ ist. Bevor die Daten zur Modellbildung verwendet werden, sollten sie zudem noch bereinigt und auf ihre tatsächliche Qualität überprüft werden. Diese Aufgaben obliegen allerdings vor allem den Anbietern bzw. Herstellern von KI-Systemen.

KI-Systeme werden aktuell noch häufig als „black box“ bezeichnet. Inzwischen gibt es aber in der Forschung Ansätze, wie solche Systeme erklärt werden können. In der EU gibt es hierzu u. a. das Projekt TAILOR, das zum Ziel hat, die wissenschaftlichen Grundlagen für vertrauenswürdige KI in Europa zu schaffen.

Auch KI Anwendungen müssen der DSGVO entsprechen

Welche Auswirkungen hat der Einsatz von KI im HR-Bereich auf die Privatsphäre der Mitarbeiter? Wie können Unternehmen sicherstellen, dass die Datenschutzbestimmungen eingehalten und die Mitarbeiterdaten angemessen geschützt werden?

Die Verarbeitung personenbezogener Daten durch ein KI-System muss den Datenschutzgrundsätzen der DSGVO entsprechen: wie zum Beispiel der Datenminimierung, der Zweckbindung, der Richtigkeit und der Transparenz. Das bedeutet, dass nur notwendige Daten verarbeitet werden dürfen, die für den ursprünglichen Zweck erforderlich sind, dass die Daten korrekt und aktuell sind und dass die Betroffenen über die Verarbeitung informiert werden. Unternehmen sollten daher von den Anbietern derartiger Systeme entsprechende vertragliche Zusagen und Garantien verlangen. Auch die Vereinbarung einer Schad- und Klagloshaltung würde das Risiko für das Unternehmen reduzieren.

Davon abgesehen müssen auch die Unternehmen selbst angemessene technische und organisatorische Maßnahmen treffen, um die Arbeitnehmerdaten vor unbefugtem Zugriff, Verlust oder Manipulation zu schützen. Dies kann man zum Beispiel mit Verschlüsselungen, Pseudonymisierungen, Zugangskontrollen und regelmäßigen Sicherheitsüberprüfungen bewerkstelligen.

Hinsichtlich dieser Maßnahmen zur Datensicherheit ist zusätzlich danach zu unterscheiden, ob die KI-Anwendung auf den eigenen Servern (on premise) oder in der Cloud des Anbieters (Software as a Service – SaaS) läuft. Ist letzteres der Fall hat der Anbieter nach der DSGVO den Arbeitgeber dabei zu unterstützen, die erforderlichen Sicherheitsmaßnahmen zu treffen. Da die Arbeitnehmerdaten beim Anbieter gespeichert werden, ist vor allem dieser gefordert, solche technischen und organisatorischen Maßnahmen zu treffen. Der Arbeitgeber wiederum muss die Bedienungshinweise des Anbieters befolgen.

Davon abgesehen haben Arbeitgeber ein Konzept für die Nutzerberechtigungen zu erstellen. Dies bedeutet, dass nur jene Personen im Unternehmen Zugang zu diesen Arbeitnehmerdaten erhalten dürfen, die das für die Ausübung ihrer Tätigkeit benötigen (z. B. HR-Verantwortliche im Rahmen der Personalgewinnung).

Für mehr Akzeptanz und Vertrauen muss Betriebsrat und Belegschaft von Beginn an miteinbezogen werden

Welche zukünftigen Entwicklungen und Trends sehen Sie im Bereich KI im HR-Bereich? Gibt es bestimmte Anwendungen oder Technologien, die in Zukunft an Bedeutung gewinnen könnten?

Ich gehe davon aus, dass auch im HR-Management in Zukunft vermehrt KI-Systeme eingesetzt werden. Diese Technologie hat ein enormes Potenzial, um HR-Prozesse individualisierter und damit wirksamer sowie effizienter zu gestalten.

Ein solcher Bereich ist etwa die Personalentwicklung, wo auf die individuelle Situation der Arbeiternehmer*innen ohne großen Aufwand eingegangen werden kann.

Auch Chatbots und virtuelle Assistenten werden in den nächsten Jahren eine große Rolle spielen. Sie eignen sich sehr gut, um unternehmenseigene Informationen den Mitarbeiter*innen bedarfsgerecht zur Verfügung zu stellen.

Wichtig ist dabei jedoch noch einmal zu betonen, dass der gesamte Prozess transparent abläuft und Betriebsrat sowie Mitarbeiter*innen einbezogen werden. Dies ist notwendig, um das Vertrauen der Belegschaft in diese neue Technologie zu gewinnen und nicht ein Gefühl der Überwachung entstehen zu lassen.

Wie können Unternehmen ethische Aspekte bei der Nutzung von KI im HR-Bereich berücksichtigen? Welche Maßnahmen können ergriffen werden, um sicherzustellen, dass der Einsatz von KI mit den Werten und Zielen des Unternehmens im Einklang steht?

Eine wesentliche Bedingung für den erfolgreichen Einsatz von KI im HR-Management ist meiner Meinung nach, dass die Mitarbeiter*innen den jeweils eingesetzten Tools vertrauen müssen. Hierfür braucht es neben einer offenen Kommunikation insbesondere die Einbindung der Belegschaft bzw. des Betriebsrats – bereits bei der Entwicklung bzw. Anschaffung eines solchen KI-Systems. Dies kann allerdings nur dann funktionieren, wenn die Arbeitgeber diese Systeme selbst verstehen und auch ihre Grenzen kennen. Hier könnten z. B. Zertifizierungsmodelle hilfreich sein, die eine Art Gütesiegel ausstellen, wenn Anforderungen einer vertrauensvollen KI erfüllt werden. Ein solches einheitliches oder verbindliches Gütesiegel existiert derzeit leider noch nicht.

Wie groß ist die Abhängigkeit von externen KI-Anbietern im HR-Bereich? Gibt es Bedenken hinsichtlich der Kontrolle über die eigenen HR-Prozesse und Daten?

Derzeit ist die Abhängigkeit von externen KI-Anbietern vermutlich sehr hoch. Ich gehe davon aus, dass aktuell nur wenige Unternehmen ein eigenes Tool entwickeln. Dies könnte sich freilich bald ändern, da immer mehr leistungsstarke Sprachmodelle als „Open-Source-Anwendung“ zur Verfügung stehen und somit von Unternehmen mit vertretbarem Aufwand für eigene Zwecke adaptiert werden können. Ein Beispiel für einen Open-Source-Chatbot ist „Open Assistant“. Aber auch proprietäre Sprachmodelle wie z. B. ChatGPT können über sogenannte „Plugins“ in eigene Anwendungen eingebaut werden.

Auch hier ist allerdings zu beachten, dass personenbezogene Daten nicht ohne weiteres an Dritte weitergegeben werden dürfen. Daneben haben Unternehmen auch das Interesse, Betriebs- und Geschäftsgeheimnisse zu wahren. Diese Herausforderungen können jedoch durch entsprechende technische und rechtliche Maßnahmen gelöst werden.

(Anmerkung ARS Akademie: Ein Aspekt im Interview hat uns dann doch noch gefehlt, sodass wir eine letzte Frage ergänzen wollten:) Welche Vorteile kann der Einsatz von KI-Systemen Arbeitnehmer*innen bringen?

Es gibt eine Reihe von Möglichkeiten, wie Arbeitnehmer*innen vom Einsatz solcher Systeme profitieren können.

Hier ist zunächst einmal der Bereich des Arbeitnehmerschutzes zu nennen. Manche dieser Systeme kennen wir bereits aus unserem Alltag, wie etwa Fahrerassistenzsysteme. In modernen Autos sind etwa Spurhalteassistenten oder automatische Ermüdungsanzeigen bereits standardmäßig eingebaut. Diese Systeme sind natürlich sehr wertvoll für Berufskraftfahrer*innen, die täglich sehr lange Strecken zurücklegen.

Besonders wichtig sind solche KI-Systeme aber in der industriellen Produktion, insbesondere wenn Menschen immer häufiger mit Maschinen zusammenarbeiten. Durch die Verarbeitung einer großen Anzahl von Daten können Unfallrisiken rechtzeitig erkannt und beseitigt werden.

Ein weiterer Bereich ist die Personalentwicklung, da mit Hilfe von KI-Systemen das Training wesentlich individueller und damit effektiver gestaltet werden kann.

Schließlich können KI-Systeme auch eingesetzt werden, um eine verdeckte Diskriminierung aufzuspüren. Es gibt heute schon Tools, die Unternehmen dabei unterstützen, in der Kommunikation mit ihren Mitarbeiter*innen eine diskriminierungsfreie Sprache zu verwenden. So werden etwa Vorschläge erstattet, wie ein Text (z. B. eine interne Stellenanzeige) inklusiver formuliert werden kann.