Als das Europäische Parlament und der Rat der Europäischen Union im Juni 2024 die Verordnung (EU) 2024/1689, den EU AI-Act als erstes umfassendes KI-Gesetz der Europäischen Union verabschiedeten, wurde die öffentliche Debatte zunächst von den üblichen Schlagworten dominiert. Die Rede war von Regulierung, Dokumentationspflichten, Risikoklassen und drohenden Bußgeldern.
Viele Unternehmen betrachteten den AI-Act aufgrund der öffentlichen Debatte als weiteres Compliance-Thema, das früher oder später von Rechtsabteilung, Datenschutz oder IT abgearbeitet werden müsse.
Diese Sichtweise greift zu kurz.
Wer die Verordnung tatsächlich liest, erkennt schnell, dass ihr Anspruch deutlich weiter reicht. Der europäische Gesetzgeber versucht nicht primär, eine Technologie zu regulieren. Er versucht vielmehr, eine Antwort auf eine fundamentale Veränderung zu geben, die sich seit Jahren nahezu unbemerkt in Unternehmen vollzieht: die schrittweise Verlagerung von Entscheidungen auf Systeme, deren Empfehlungen, Prognosen und Bewertungen immer stärker bestimmen, wie Organisationen handeln.
Genau deshalb beginnt die Verordnung nicht mit Verboten oder technischen Anforderungen. Bereits in den Erwägungsgründen wird deutlich, worum es der Europäischen Union tatsächlich geht. Ziel ist die Förderung einer menschenzentrierten und vertrauenswürdigen Künstlichen Intelligenz, die Innovation ermöglicht und gleichzeitig Gesundheit, Sicherheit sowie die Grundrechte europäischer Bürger schützt. Der AI-Act versteht sich damit ausdrücklich als Rahmenwerk, das wirtschaftliche Wettbewerbsfähigkeit und gesellschaftliche Verantwortung miteinander verbinden soll.
Man könnte sagen: Europa versucht, die Spielregeln festzulegen, bevor die Technologie beginnt, die Regeln selbst zu schreiben.
Für Genossenschaftsbanken ist diese Entwicklung von besonderer Bedeutung. Kaum eine andere Branche basiert so stark auf Vertrauen, langfristigen Kundenbeziehungen und verantwortungsvollen Entscheidungen.
Während industrielle Unternehmen Künstliche Intelligenz häufig einsetzen, um Maschinen effizienter zu steuern oder Produktionsabläufe zu optimieren, betrifft der Einsatz von KI im Bankensektor häufig Entscheidungen, die unmittelbare Auswirkungen auf Menschen haben. Kreditvergaben, Betrugserkennung, Risikobewertungen, Recruiting-Prozesse, Personalentwicklung oder Kundenkommunikation sind keine technischen Randthemen. Sie berühren zentrale Fragen von Fairness, Transparenz und Verantwortung.
Genau dort setzt der AI-Act an.
Peras NEWS – Bleiben Sie auf dem Laufenden in der HR-Welt!
Lassen Sie sich von aktuellen HR-Trends und -Themen inspirieren. Unser HR-Newsletter versorgt Sie regelmäßig mit wertvollen Impulsen rund um die moderne Personalarbeit.
Kurz, kompakt und relevant - alle zwei Monate direkt in Ihr Postfach.
Der Gesetzgeber verfolgt einen bemerkenswert pragmatischen Ansatz. Die Verordnung unterstellt weder, dass Künstliche Intelligenz grundsätzlich gefährlich ist, noch folgt sie der Vorstellung, technologische Innovation müsse möglichst umfassend eingeschränkt werden.
Im Gegenteil.
Die Verordnung erkennt ausdrücklich an, dass KI erhebliche Vorteile für Wirtschaft und Gesellschaft erzeugen kann. Sie verweist auf Potenziale in Bereichen wie Gesundheitswesen, Bildung, Infrastruktur, Energieversorgung, Mobilität und Finanzdienstleistungen. Gleichzeitig erkennt sie jedoch an, dass dieselbe Technologie erhebliche Risiken verursachen kann, wenn Entscheidungen nicht mehr nachvollziehbar sind, wenn Diskriminierung unbemerkt reproduziert wird oder wenn Menschen faktisch die Kontrolle über Systeme verlieren, deren Ergebnisse sie selbst nicht mehr erklären können.
Die eigentliche Logik des AI-Acts lässt sich deshalb auf eine einfache Formel reduzieren:
Nicht jede KI ist gefährlich. Aber je größer die Auswirkungen einer KI-gestützten Entscheidung auf Menschen werden, desto höher werden die Anforderungen an Transparenz, Kontrolle und Verantwortung.
Dieser risikobasierte Ansatz bildet das Fundament der gesamten Verordnung.
Eine der ersten Überraschungen beim Lesen der Verordnung besteht darin, dass längst nicht jede Software automatisch als KI gilt.
Artikel 3 des EU AI Act definiert ein KI-System als ein maschinengestütztes System, das auf Grundlage von Eingaben Ergebnisse wie Vorhersagen, Empfehlungen, Inhalte oder Entscheidungen erzeugt und dadurch physische oder digitale Umgebungen beeinflussen kann. Entscheidend ist dabei die Fähigkeit des Systems, Muster abzuleiten und nicht lediglich vorab definierte Regeln auszuführen.
Der Unterschied erscheint auf den ersten Blick akademisch, hat für Banken jedoch erhebliche praktische Relevanz.
Eine klassische Kreditrichtlinie, die nach fest hinterlegten Regeln arbeitet, ist keine KI.
Ein System, das Millionen historischer Datensätze analysiert und daraus eigenständig Risikomuster erkennt, sehr wohl.
Man kann sich den Unterschied vorstellen wie den Vergleich zwischen einem Taschenrechner und einem erfahrenen Analysten. Der Taschenrechner folgt festen Regeln. Der Analyst erkennt Zusammenhänge, entwickelt Hypothesen und leitet Schlussfolgerungen ab. Genau an dieser Stelle beginnt aus Sicht des Gesetzgebers die besondere Verantwortung.
In vielen Unternehmen richtet sich der Blick zunächst auf die Hochrisiko-Systeme, auf Dokumentationspflichten oder auf mögliche Sanktionen.
Dabei findet sich eine der strategisch relevantesten Regelungen bereits in Artikel 4.
Dort verpflichtet die Europäische Union Unternehmen dazu, ein angemessenes Maß an KI-Kompetenz sicherzustellen.
Auf den ersten Blick klingt das harmlos. Viele interpretieren die Vorschrift als Schulungsanforderung und betrachten sie damit als klassische HR-Maßnahme.
Tatsächlich formuliert der Gesetzgeber hier etwas deutlich Grundsätzlicheres.
Er verlangt, dass Menschen, die mit KI-Systemen arbeiten oder Entscheidungen auf Basis ihrer Ergebnisse treffen, ausreichend verstehen, wie diese Systeme funktionieren, welche Grenzen sie besitzen und welche Risiken mit ihrer Nutzung verbunden sind.
Ein Vorstand muss künftig nicht programmieren können.
Ein Bereichsleiter muss kein Data Scientist werden.
Aber beide müssen verstehen, wann eine KI-Empfehlung belastbar ist und wann nicht.
Wer Entscheidungen trifft, ohne die Grenzen der zugrunde liegenden Systeme zu verstehen, delegiert Verantwortung an eine Blackbox.
Genau das will der Gesetzgeber verhindern.
Besonders deutlich wird die Wertebasis des AI-Acts in Artikel 5.
Dort definiert die Verordnung eine Reihe von Anwendungen, die unabhängig von ihrer technischen Leistungsfähigkeit verboten sind. Dazu gehören Systeme, die Menschen manipulieren, ihre Verletzlichkeit gezielt ausnutzen oder umfassende soziale Bewertungen vornehmen. Der Gesetzgeber macht damit deutlich, dass nicht jede technisch mögliche Anwendung auch gesellschaftlich akzeptabel ist.
Man stelle sich eine Bank vor, die mithilfe von KI nicht nur das finanzielle Verhalten ihrer Kunden analysiert, sondern darüber hinaus deren soziale Kontakte, digitale Aktivitäten und persönliche Lebensführung bewertet, um daraus eine Art gesellschaftlichen Vertrauenswert abzuleiten.
Technisch wäre dies denkbar. Rechtlich ist es in Europa nicht zulässig.
Die Europäische Union setzt damit bewusst einen Kontrapunkt zu Entwicklungen, die in anderen Teilen der Welt teilweise bereits Realität geworden sind.
Die Botschaft ist eindeutig: Menschen dürfen nicht auf algorithmisch berechnete Verhaltensscores reduziert werden.
Das regulatorische Zentrum des AI-Acts findet sich in Artikel 6 sowie im Anhang III.
Dort definiert der Gesetzgeber jene Anwendungen, die als Hochrisiko-Systeme eingestuft werden. Für Genossenschaftsbanken wird es an dieser Stelle besonders relevant. Denn zahlreiche Anwendungen im Personalbereich fallen ausdrücklich in diese Kategorie.
Der Grund dafür ist nachvollziehbar.
Wenn eine Maschine die Temperatur einer Produktionsanlage falsch einschätzt, entsteht ein technisches Problem. Wenn ein KI-System systematisch die falschen Menschen befördert, entwickelt oder einstellt, entsteht ein Organisationsproblem.
Und Organisationsprobleme wirken oft über Jahre.
Der Gesetzgeber erkennt deshalb an, dass Entscheidungen über Menschen einer höheren Schutzwürdigkeit unterliegen als viele andere Anwendungsfälle. Genau deshalb gelten hier deutlich strengere Anforderungen.
Besondere Aufmerksamkeit verdient Artikel 14.
Dort verankert die Verordnung die Pflicht zur menschlichen Aufsicht. Diese Regelung wirkt auf den ersten Blick selbstverständlich. In der Praxis besitzt sie jedoch enorme Tragweite. Denn moderne KI-Systeme entwickeln ihre größte Wirkung häufig nicht dadurch, dass sie Entscheidungen vollständig automatisieren.
Ihre größte Wirkung entsteht dadurch, dass Menschen beginnen, ihren Empfehlungen zu vertrauen. Wer jemals erlebt hat, wie Führungskräfte die Ergebnisse komplexer Analysemodelle nahezu ungeprüft übernehmen, versteht die Bedeutung dieser Vorschrift sofort. Der AI-Act erinnert Unternehmen daran, dass eine KI-Empfehlung niemals automatisch eine richtige Empfehlung ist. Die Verantwortung bleibt beim Menschen. Nicht weil Menschen fehlerfrei wären. Sondern weil Verantwortung nicht automatisiert werden kann.
Viele Institute beschäftigen sich derzeit intensiv mit der Frage, welche KI-Anwendungen eingeführt werden sollen. Das ist verständlich. Es ist aber nicht die entscheidende Frage. Die entscheidende Frage lautet: Wie verändert KI die Art und Weise, wie Entscheidungen entstehen?
Genau hier beginnt die eigentliche Führungsaufgabe. Denn organisatorische Macht entsteht selten dort, wo Entscheidungen unterschrieben werden. Sie entsteht dort, wo festgelegt wird, welche Informationen sichtbar werden, welche Risiken priorisiert werden und welche Empfehlungen überhaupt auf dem Tisch landen.
KI-Systeme verändern genau diese Ebene. Sie beeinflussen, welche Bewerber vorgeschlagen werden. Welche Talente sichtbar werden. Welche Kunden als attraktiv gelten. Welche Risiken Aufmerksamkeit erhalten. Damit verändern sie die Architektur von Entscheidungen.
Und genau deshalb beschäftigt sich der AI-Act nicht nur mit Technologie, sondern mit Governance.
Wer den AI-Act ausschließlich als Regulierungsprojekt betrachtet, übersieht seine langfristige Bedeutung. Tatsächlich verweist die Verordnung indirekt auf eine der wichtigsten Managementfragen der kommenden Jahre:
Welche Fähigkeiten benötigen Organisationen in einer Welt, in der KI zum festen Bestandteil nahezu aller Wertschöpfungsprozesse wird?
Artikel 4 liefert darauf bereits einen ersten Hinweis. KI-Kompetenz wird nicht als Spezialwissen weniger Experten verstanden, sondern als organisatorische Fähigkeit. Für Genossenschaftsbanken bedeutet das einen tiefgreifenden Wandel der strategischen Personalplanung.
Künftig wird nicht mehr allein entscheidend sein, wie viele Mitarbeitende eine Organisation beschäftigt. Entscheidend wird sein, welche Fähigkeiten diese Mitarbeitenden besitzen.
Welche Rollen durch KI unterstützt werden. Welche Tätigkeiten automatisiert werden. Welche Kompetenzen neu aufgebaut werden müssen. Welche Führungskräfte in der Lage sind, menschliches Urteilsvermögen und algorithmische Entscheidungsunterstützung intelligent miteinander zu verbinden.
Die Institute, die diese Fragen frühzeitig beantworten, werden KI nicht lediglich einsetzen. Sie werden ihre Organisation gezielt um KI herum weiterentwickeln.
Genau darin liegt die eigentliche strategische Bedeutung des AI-Acts. Er beschreibt nicht nur einen regulatorischen Rahmen für den Einsatz von Künstlicher Intelligenz. Er markiert den Beginn einer neuen Phase organisationaler Entwicklung, in der technologische Leistungsfähigkeit und menschliche Verantwortung untrennbar miteinander verbunden werden.
Und genau deshalb ist der AI-Act am Ende weit mehr als ein Gesetz über Technologie.
Er ist ein Gesetz über Führung.
