EU AI Act- Wie betrifft mich das im Bereich HR?

Der AI Act betrifft in erster Linie Anbieter, Hersteller, Importeure und Vertreiber von künstlicher Intelligenz (kurz KI). Aber natürlich sind auch die Nutzer von KI-Anwendungen direkt oder indirekt betroffen. Ähnlich wie beim Datenschutz liegt es in der Verantwortung der Nutzer, sich mit dem Thema auseinanderzusetzen, darauf zu achten, nur Anbieter zu nutzen, die sich an die Regelungen halten und dies mit den ihnen zur Verfügung stehenden Mitteln zu überprüfen und sicherzustellen. Bei Nichteinhaltung drohen allen Beteiligten zivilrechtliche Klagen und erhebliche regulatorische Strafen. Ich möchte an dieser Stelle aber betonen, dass man keinesfalls nur den damit verbundenen Aufwand und die rechtlichen Risiken sehen sollte, sondern auch die positiven Seiten: Das KI-Gesetz zielt darauf ab, KI-Systeme transparent, nachvollziehbar, diskriminierungsfrei und sicher zu gestalten. Darüber hinaus kann das Gesetz dazu beitragen, das Vertrauen und die Akzeptanz in KI-Anwendungen im Personalwesen zu erhöhen, es schafft Klarheit und Rechtssicherheit und reduziert damit Risiken und klärt Haftungsfragen.

In diesem Blogbeitrag will ich Personalabteilungen, HR-Verantwortlichen, Personalberatern, Headhuntern etc. einen Überblick über den aktuellen Stand des AI Acts geben und beleuchten, was das konkret für sie in Zukunft bedeuten könnte. Die Auswirkungen auf die Hersteller, die genaue Definition von KI oder gar eine tiefergehende Analyse des AI Acts stehen nachfolgend nicht im Fokus.

Stand der Gesetzgebung und Zeithorizont

Nachdem sich die EU nach langen Verhandlungen auf die Eckpunkte des AI Act geeinigt hat, müssen nun noch technische Details ausgearbeitet werden und von Parlament und vom Rat der europäischen Union formell verabschiedet werden, bevor der AI Act in Kraft treten kann. Auf diese Eckpunkte beziehe ich mich in diesem Blogbeitrag. Der endgültige Gesetzestext steht also noch aus. Es ist jedoch davon auszugehen, dass die Verordnung noch vor den Europawahlen im Juni 2024 verabschiedet wird. Vollständig in Kraft treten würde der AI Act dann zwei Jahre nach seiner Verabschiedung im Jahr 2026.

Nachzulesen sind die Eckpunkte hier in ausführlicher und entsprechend in einer gekürzter Form.

Welche Anwendungen sind verboten?

Im Bereich HR betrifft das Verbot allem Anwendungen, welche folgende Punkte beinhalten:

• Social scoring: Bewertung oder Klassifizierung von Einzelpersonen oder Gruppen aufgrund von sozialem Verhalten oder ihrer persönlichen Eigenschaften
• Ableiten von Emotionen an Arbeitsplätzen, außer aus medizinischen oder sicherheitstechnischen Gründen

Was ist mit anderen Anwendungen aus dem Bereich HR?

Die meisten anderen HR-Anwendungen werden voraussichtlich als Hochrisikosysteme eingestuft. Damit sind höhere Anforderungen verbunden, die ich im Abschnitt “Woran erkenne ich Anwendungen, die dem europäischen AI Act entsprechen” erläutern werde. Konkret wurden bereits im jetzt vorliegenden Entwurf benannt:

• KI-Systeme, die für die Personalbeschaffung oder -auswahl eingesetzt werden, insbesondere für die gezielte Stellenausschreibung, die Analyse und das Filtern von Bewerbungen und die Bewertung von Bewerbern.
• Beförderung und Beendigung von Verträgen,
• Zuweisung von Aufgaben auf der Grundlage von Persönlichkeitsmerkmalen oder Verhalten,
• Überwachung und Bewertung von Leistungen

Wie verhält es sich mit ChatGPT?

Ich sehe ChatGPT in der Verordnung eher im Bereich der General-Purpose-AI-Foundation-Modelle (GPAI). Es fällt nicht in die Betrachtung der traditionellen Risikopyramide, sondern in eine eigene Kategorie, die speziell für diese Modelle vorgesehen ist. Auch diese Systeme werden in Zukunft reguliert und voraussichtlich in verschiedene Kategorien eingeteilt werden. Die Regulierung wird vor allem die Dokumentationspflichten, das Thema Copyright und die Kennzeichnung von KI-generiertem Material betreffen. Mehr möchte ich an dieser Stelle nicht sagen. ChatGPT selbst wird jedenfalls nicht verboten und kann auch in Zukunft von Personalverantwortlichen genutzt werden. Die korrekte Nutzung (Thema Halluzinationen etc.) und vor allem der Datenschutz (der natürlich außerhalb dieser Verordnung weiterhin bindend ist) sind natürlich weiterhin zu beachten.

Wie erkenne ich Anwendungen, die dem europäischen AI Act entsprechen?

Zunächst gilt für die Unternehmen eine Übergangsfrist. Unternehmen sind jedoch gut beraten, sich so früh wie möglich mit dem Thema auseinanderzusetzen. In Zukunft sollte auf folgende Punkte geachtet werden:

• Der Anbieter sollte dir eine relativ ausführliche Dokumentation zur Verfügung stellen, die u.a. Aussagen zum: Lebenszyklus des verwendeten Modells, Datenqualität und -verwaltung sowie zu den Themen Robustheit, Genauigkeit und Cybersicherheit enthält.
• Der Anbieter sollte über ein Risiko- und Qualitätsmanagement verfügen.
• Der Anbieter sollte eine Antwort auf die Frage haben, wie er kritische Ereignisse protokolliert und wie der Nutzer solche Ergebnisse melden kann.
• In der Anwendung sollte der Mensch immer die Kontrolle über die KI-Ausgaben haben, zudem sollte es eine Möglichkeit geben, die KI-Anwendung zu stoppen oder zu korrigieren.
• Dem Benutzer sollte eine Anleitung für die korrekte Anwendung zur Verfügung gestellt werden. Es muss ersichtlich sein, wo KI eingesetzt wird.
• Bereitstellung klarer Informationen über Funktionsweise, Ziele, Grenzen und Risiken von KI-Anwendungen.

Welche Pflichten habe ich als Nutzer?

Wie bereits oben erwähnt, ist es Aufgabe eines Unternehmens, die oben genannten Punkte zumindest auf Vollständigkeit und Umsetzung zu überprüfen bzw. zu erfragen. Zudem sollte jedes Unternehmen für sich noch einmal eine Risikobeurteilung durchführen.

Ausblick: Der AI Act als Blaupause?

Mit dem AI Act wird ein wegweisender Rahmen für die künftige Nutzung von künstlicher Intelligenz geschaffen. Mit der Verordnung gilt die EU international als Vorreiter bei der Regulierung von KI. Auch wenn der AI Act zunächst nur in der EU gilt, könnte er daher als Vorbild für andere Staaten, wie der USA, dienen.

Was ist deine Meinung zum Gesetzesentwurf? Glaubst du, dass der europäische AI Act eine positive Richtung vorgibt, oder siehst du potenzielle Hürden für Unternehmen und HR-Abteilungen? Hast du Fragen oder möchtest du dich zu diesem Thema austauschen? Zögere nicht, mich zu kontaktieren!

Schlüsselwörter: European AI Act, EU AI Act, Datenschutz, KI Regulierung, HR Tech, Recruiting, Active Sourcing