Bedeutung des EU AI Acts für Personalabteilungen

Das EU KI-Gesetz fordert KI-Kompetenz in Unternehmen. Für HR-Abteilungen ist der EU AI Act dabei besonders relevant, da

1. rechtliche Vorgaben eingehalten werden müssen und
2. ethische Prinzipien wie Gerechtigkeit, Transparenz und Verantwortung in den Fokus rücken.

Wer KI im HR-Bereich nutzt, trägt eine besondere Verantwortung für Fairness und Transparenz im gesamten Bewerbungs- und Beschäftigungsprozess.

In diesem Beitrag beleuchten wir die rechtlichen Vorgaben des EU AI Acts, genau wie die ethischen Perspektiven des Einsatzes von KI in der Personalarbeit.

Rechtliche Vorgaben für Personalabteilungen

KI-Anwendungen im Bereich Recruiting und Mitarbeitendenmanagement zählen laut EU AI Act zu den sogenannten Hochrisiko-Systemen.

Hochrisiko-Systeme im Personalbereich

Dazu zählen beispielsweise KI-Systeme, die in folgenden Bereichen eingesetzt werden:

• Personalrekrutierung und -auswahl: Der Einsatz von KI zur Analyse von Bewerbungsunterlagen oder zur Durchführung von Vorstellungsgesprächen kann erhebliche Auswirkungen auf die Berufsaussichten von Bewerbenden haben und muss daher den Anforderungen des EU AI Acts entsprechen.
• Leistungsbewertung und Mitarbeitendenüberwachung: KI-Systeme, die zur Bewertung der Arbeitsleistung oder zur Überwachung von Mitarbeitenden eingesetzt werden, können die Rechte der Beschäftigten beeinflussen und fallen somit unter die Regelungen für Hochrisiko-KI. In Unternehmen mit Betriebsrat ist der Einsatz solcher Systeme zudem mitbestimmungspflichtig – etwa nach § 87 Abs. 1 BetrVG. Das bedeutet: Personalabteilungen müssen nicht nur die Anforderungen des EU AI Acts erfüllen, sondern auch frühzeitig den Dialog mit dem Betriebsrat suchen und dessen Zustimmung einholen, bevor entsprechende Technologien eingeführt oder angepasst werden. Nur so lassen sich rechtliche Risiken vermeiden und ein vertrauensvoller Umgang mit KI im Arbeitsumfeld sicherstellen.

Bedeutung für Personalabteilungen

Für Personalabteilungen bedeutet der EU AI Act: Sie unterliegen besonders strengen rechtlichen Vorgaben.

Dazu zählen unter anderem eine umfassende Dokumentationspflicht, transparente Informationen gegenüber den betroffenen Personen, eine kontinuierliche menschliche Überwachung der Systeme sowie der Nachweis, dass die eingesetzten Daten qualitativ hochwertig und diskriminierungsfrei sind.

Ethische Aspekte beim Einsatz von KI im HR-Bereich

Neben den rechtlichen Anforderungen bringt der Einsatz von KI in sensiblen Personalprozessen auch eine Reihe ethischer Fragestellungen mit sich.

Insbesondere bei Entscheidungen über Einstellungen, Beförderungen oder Leistungsbeurteilungen stellt sich die Frage nach Fairness, Transparenz und Verantwortung. Bewerbende und Mitarbeitende müssen darauf vertrauen können, dass sie nicht aufgrund algorithmischer Verzerrungen benachteiligt werden.

Es braucht klare Prinzipien, wie zum Beispiel das Recht auf eine menschliche Zweitmeinung, transparente Entscheidungsprozesse sowie diskriminierungsfreie Datenbasis.

Etablierung von ethischen Standards

HR-Abteilungen sollten daher nicht nur gesetzliche Vorgaben erfüllen, sondern auch ethische Standards etablieren, um das Vertrauen in KI-gestützte Prozesse zu stärken und ihre Arbeitgebermarke positiv zu positionieren.

Diese Maßnahmen sollten Personalabteilungen ergreifen

Um den Anforderungen des EU AI Acts gerecht zu werden, sollten Personalabteilungen folgende Maßnahmen ergreifen:

Risikobewertung durchführen: Identifizieren Sie zusammen mit rechtlichem Beistand alle im HR-Bereich eingesetzten KI-Systeme und bewerten Sie deren Risikostufe gemäß den Kriterien des AI Acts.

Transparenz sicherstellen: Informieren Sie Bewerbende und Mitarbeitende über den Einsatz von KI in Entscheidungsprozessen und gewährleisten Sie, dass diese Prozesse nachvollziehbar sind.

Datenqualität gewährleisten: Sorgen Sie dafür, dass die Daten, die zur Schulung und zum Betrieb von KI-Systemen verwendet werden, aktuell, relevant und frei von Verzerrungen sind, um Diskriminierung zu vermeiden.

Menschliche Überwachung etablieren: Implementieren Sie Mechanismen, die eine menschliche Kontrolle über KI-gestützte Entscheidungen ermöglichen, insbesondere in sensiblen Bereichen wie der Personalrekrutierung.

Schulung und Weiterbildung: Bilden Sie HR-Mitarbeitende im Umgang mit KI-Systemen weiter, um ein tiefgreifendes Verständnis für deren Funktionsweise und potenzielle Risiken zu entwickeln.

Durch die proaktive Umsetzung dieser Maßnahmen können Personalabteilungen nicht nur die gesetzlichen Anforderungen des EU AI Acts erfüllen, sondern auch das Vertrauen der Mitarbeitenden stärken und einen verantwortungsvollen Umgang mit KI-Technologien fördern!

Richtig eingesetzt, kann KI-Einsatz ein großer Mehrwert sein

Unternehmen müssen für sich entscheiden, ob sie im Recruiting KI-Systeme nutzen wollen. Denn eine Sache steht fest: Der Einsatz von KI kann grundsätzlich eine große Arbeitserleichterung sein, um mehr Zeit für die Candidate Experience und die Bewerbenden zu haben.

Beispielsweise durch den Einsatz von Chatbots oder KI-Assistenten zur administrativen Unterstützung, um Bewerbendenfragen über den Chatbot beantworten zu lassen, Stellenanzeigen zu erstellen und zu optimieren, boolesche Suchformeln für Active Sourcing zu erstellen, um Termine mit Bewerbenden zu vereinbaren, um kompetenzbasierte Fragen für Auswahlgespräche zu entwickeln oder um KI-Agenten für die Vorauswahl von Bewerbenden und Analysen von Auswahlgesprächen zu verwenden.

Skepsis auf Seite der Bewerbenden

Gleichzeitig steht der Arbeitserleichterung in Personalabteilungen die Sicht der Bewerbenden gegenüber, von denen laut einer Studie 65% eine große Skepsis gegenüber KI im Bewerbungsprozess äußerten und negative Assoziationen mit dem Einsatz von KI im Recruiting angaben. Zudem wurde Unpersönlichkeit als Hauptkritikpunkt genannt: 72 % empfinden KI-gestützte Bewerbungsprozesse nämlich als unpersönlich.

Mit KI verantwortungsvoll Zukunft gestalten

Auch wenn der EU AI Act klare Anforderungen stellt und der Einsatz von KI im Personalbereich mit Herausforderungen verbunden ist – die Chancen überwiegen aus unserer Erfahrung heraus deutlich!

Richtig eingesetzt, kann Künstliche Intelligenz HR-Prozesse nicht nur effizienter, sondern auch fairer und objektiver machen. Sie eröffnet neue Möglichkeiten für datenbasierte Entscheidungen und entlastet HR-Teams im Alltag, sodass mehr Zeit in den persönlichen Kontakt mit Bewerbenden und die Candidate Experience investiert werden kann.

Damit Sie diese Potenziale voll ausschöpfen und dabei rechtlich wie ethisch auf der sicheren Seite bleiben, begleitet Peras Sie gerne mit passgenauer Beratung, Schulungen und praxiserprobten Lösungen. Gemeinsam gestalten wir den Weg zu einer zukunftsfähigen, KI-gestützten Personalarbeit.