Künstliche Intelligenz (KI) revolutioniert zahlreiche Branchen, und das Recruiting bildet da keine Ausnahme. Bis vor Kurzem fehlten jedoch klare Richtlinien für den Einsatz von KI in diesem Bereich. Mit dem Inkrafttreten des EU KI Acts am 1. August 2024 und den damit verbunden Regelungen, von denen die ersten ab dem 2. Februar 2025 angewendet werden müssen, ändert sich das nun. In diesem Artikel erfährst du alles Wichtige über den AI Act und seine Auswirkungen auf das Recruiting. Wir haben die 8 wichtigsten Fragen zum EU KI Act gesammelt und geben dir die Antworten darauf.
Lade..
Dieser Text bietet eine allgemeine Übersicht über den AI Act Gesetzestext. Er dient lediglich zu Informationszwecken und stellt keine rechtsverbindliche Auslegung dar. Für eine rechtlich verbindliche Beratung oder detaillierte juristische Auskünfte wende dich am besten an deinen Juristen des Vertrauens.
1. Was ist der EU KI Act?
Der EU KI Act ist das erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz in der Europäischen Union. Es wurde am 21. Mai 2024 von allen 27 EU-Mitgliedstaaten verabschiedet.
Ganz allgemein regelt das Gesetz den Verkauf, die Nutzung und die Überwachung von KI in der EU. KI-Systeme werden nach ihrem Risiko kategorisiert: Für Systeme mit hohem Risiko gelten strengere Vorschriften, während Systeme, die ein inakzeptables Risiko darstellen, verboten werden. So soll mehr Transparenz, die Förderung von Innovation und der Schutz der Grundrechte gewährleistet werden.
Der EU KI Act zielt darauf ab, einen einheitlichen Rechtsrahmen für die Entwicklung und Nutzung von KI in der Europäischen Union zu schaffen. Somit soll er sicherstellen, dass verwendete KI-Systeme sicher, transparent und vertrauenswürdig sind. Die Hauptziele der KI-Verordnung sind:
Sicherheit: Der Act legt strenge Sicherheitsanforderungen für KI-Systeme fest, damit diese vertrauenswürdig sind und die Grundrechte der Menschen geschützt werden.
Transparenz: Anbieter von bestimmten KI-Systemen müssen erklären, wie Entscheidungen getroffen und welche Daten verwendet werden. Andere Systeme müssen lediglich anzeigen, dass sie KI nutzen.
Ethik: Der Act fördert ethische Prinzipien und zielt darauf ab, Diskriminierung durch KI zu vermeiden. Dies umfasst Maßnahmen zur Sicherstellung, dass KI-Systeme fair und bias-frei arbeiten.
Überwachung: Es werden Aufsichtsbehörden eingerichtet, die die Einhaltung der Vorschriften überwachen. Diese Behörden stellen sicher, dass die Regeln des EU KI Acts eingehalten und Verstöße entsprechend geahndet werden.
3. Wann tritt die KI-Verordnung der EU in Kraft?
Kurz gesagt: Der EU KI Act wurde am 12. Juli 2024 im Amtsblatt der Europäischen Union veröffentlicht und trat bereits am 1. August 2024 in Kraft. Genauere Infos zur Timeline haben wir hier einmal aufgelistet:
1. August 2024
Der EU KI Act tritt in Kraft. Zu diesem Zeitpunkt gelten jedoch noch keine Änderungen.
2. Februar 2025
Wichtige Regelungen des EU KI Acts treten in Kraft:
Verbot bestimmter KI-Systeme (Kapitel II, Artikel 5) Der EU-KI-Act verbietet bestimmte KI-Praktiken, die als unzumutbares Risiko für die Grundrechte gelten, wie z.B. manipulative Techniken und Social Scoring.
Anforderungen an die KI-Kompetenz (Kapitel I, Artikel 4) Anbieter und Betreiber von KI-Systemen müssen sicherstellen, dass Mitarbeiter über ausreichende KI-Kompetenz verfügen. Dies umfasst Schulungen und Weiterbildungen, um den sicheren und verantwortungsvollen Umgang mit KI-Systemen zu gewährleisten.
2. August 2025
Gleich mehrere wichtige Bestimmungen des EU KI Act treten in Kraft:
Benannte Stellen (Kapitel III, Abschnitt 4) Diese Stellen sind für die Bewertung von Hochrisiko-KI-Systemen zuständig und müssen bestimmte Anforderungen an Organisation, Qualitätsmanagement, Ressourcen und Cybersicherheit erfüllen.
GPAI-Modelle (Kapitel V) Dies betrifft allgemeine KI-Modelle, die für eine Vielzahl von Aufgaben verwendet werden können. Anbieter solcher Modelle müssen technische Dokumentationen bereitstellen und Maßnahmen zur Risikobewertung und Cybersicherheit ergreifen.
Governance (Kapitel VII) Hier geht es um die Einrichtung und Struktur des Europäischen Ausschusses für KI sowie um die Aufgaben und Zuständigkeiten dieses Gremiums.
Vertraulichkeit (Artikel 78) Alle beteiligten Parteien müssen die Vertraulichkeit der erhaltenen Informationen und Daten wahren, einschließlich des Schutzes von geistigem Eigentum und Geschäftsgeheimnissen.
Sanktionen (Artikel 99 und Artikel 100) Diese Artikel legen fest, dass die Mitgliedstaaten wirksame, verhältnismäßige und abschreckende Sanktionen für Verstöße gegen die Verordnung erlassen müssen. Dazu gehören Geldbußen, die je nach Schwere des Verstoßes bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes eines Unternehmens betragen können.
2. August 2026
Es gelten die Bestimmungen für Hochrisiko-KI-Systeme, die in Anhang III der KI-Verordnung aufgeführt sind.
Dabei ist insbesondere Punkt 4 für den Recruiting-Bereich von großer Bedeutung, da er die Auswahl von Arbeitnehmern sowie Entscheidungen über Kündigungen und Beförderungen betrifft. Dies umfasst z.B. KI-Systeme, die für folgende Zwecke eingesetzt werden:
Einstellung oder Auswahl natürlicher Personen:
Systeme, die gezielte Stellenanzeigen schalten.
Systeme, die Bewerbungen sichten oder filtern.
Systeme, die Bewerber bewerten.
Entscheidungen über Arbeitsverhältnisse:
Systeme, die Entscheidungen über die Bedingungen von Arbeitsverhältnissen beeinflussen.
Systeme, die Entscheidungen über Beförderungen und Kündigungen von Arbeitsverträgen treffen.
Zuweisung von Aufgaben:
Systeme, die Aufgaben aufgrund des individuellen Verhaltens oder persönlicher Merkmale oder Eigenschaften zuweisen.
Beobachtung und Bewertung der Leistung und des Verhaltens:
Systeme, die die Leistung und das Verhalten von Personen in Beschäftigungsverhältnissen beobachten und bewerten.
Unser Tipp
Mit Hinblick auf das Thema Recruiting haben wir die folgenden Inhalte als besonders relevant identifiziert: Artikel 4: KI-Training und Verständnis – für jedes Unternehmen interessant. Artikel 6-27: Regeln zu Hochrisiko-KI-Systemen – hierunter fällt auch das Recruiting. Artikel 50: Regelungen zu ChatGPT und ähnlichen generativen KI-Systemen.
2. August 2027
Artikel 6 Absatz 1 des EU KI Act findet Anwendung. Er befasst sich mit der Einstufung von KI-Systemen als Hochrisiko-KI-Systeme.
Ein KI-System wird als hochriskant eingestuft, wenn es entweder als Sicherheitsbauteil eines bestimmten Produkts dient oder selbst ein solches Produkt ist. Ein gutes Beispiel hierfür sind Produkte im Medizinbereich.
Merke
Für den Recruiting-Bereich sind diese Regelungen weniger relevant, da die meisten Anforderungen bereits ab 2026 erfüllt sein müssen.
Laut Artikel 2 der KI VO, also dem Anwendungsbereich,gilt die KI-Verordnung für:
Anbieter: Alle, die KI-Systeme in der EU verkaufen oder nutzen, egal ob sie in der EU oder außerhalb sind.
Bereitsteller: Firmen, die KI-Systeme in der EU anbieten und dort ansässig sind.
Ausländische Anbieter: Firmen außerhalb der EU, deren KI-Systeme in der EU genutzt werden.
Importeure und Vertreiber: Alle, die KI-Systeme in die EU einführen oder dort verkaufen.
Produkthersteller: Firmen, die KI-Systeme zusammen mit ihren Produkten unter ihrem eigenen Namen oder Marke verkaufen.
Bevollmächtigte Vertreter: Vertreter von Dienstleistern, die nicht in der EU ansässig sind.
Betroffene Personen: Personen, die sich in der EU befinden.
Zusammengefasst
Alle Unternehmen oder Organisationen, die KI-Systeme in der EU verkaufen, betreiben oder nutzen, sind vom AI Act betroffen.
5. Was steht im EU KI Gesetz?
Der EU KI Act verfolgt einen sogenannten risikobasierten Ansatz, um die Nutzung von KI-Systemen zu regulieren. Dieser Ansatz kategorisiert KI-Systeme basierend auf dem Risiko, das sie für die Gesellschaft und die Grundrechte darstellen. Die wichtigsten Risikokategorien sind:
Unvertretbares Risiko: KI-Systeme, die ein unvertretbares Risiko darstellen, sind in der EU verboten. Dazu gehören bspw. Systeme, die Techniken verwenden, um das Verhalten von Menschen zu manipulieren, oder solche, die soziale Bewertungssysteme einführen.
Hohes Risiko: Diese Kategorie umfasst KI-Systeme, die in sensiblen Bereichen wie Gesundheit, Sicherheit und Grundrechten eingesetzt werden. Beispiele sind KI-Systeme für die biometrische Identifizierung, kritische Infrastrukturen oder Bildungs- und Beschäftigungsentscheidungen. Solche Systeme unterliegen strengen Anforderungen, einschließlich Transparenz, Nachvollziehbarkeit und menschlicher Aufsicht.
Merke
Im Recruiting wird KI oft als hohes Risiko eingestuft – abhängig vom jeweiligen Einsatz. Sobald KI Entscheidungen trifft, wie bei Bewerberauswahlen oder Interviewanalysen, wird das System als hochriskant eingestuft. Wenn ein System jedoch nur Auskunft gibt, wie z.B. Chatbots, die Bewerberfragen beantworten befindet man sich im Bereich des begrenzten Risikos.
Begrenztes Risiko: KI-Systeme mit begrenztem Risiko müssen bestimmte Transparenzanforderungen erfüllen. Nutzer müssen beispielsweise darüber informiert werden, dass sie mit einem KI-System interagieren. Dies gilt für Systeme wie Chatbots oder KI-gestützte Kundendienstanwendungen.
Unser Ansatz bei tribeworks
Bei tribeworks setzen wir derzeit auf Systeme mit begrenztem Risiko. Für die Zukunft werden wir weitere Funktionen mit KI vorantreiben, wobei unsere erfahrenen Recruiter die Ergebnisse durch KI stets überprüfen. Profitiere von unseren sicheren und effizienten Lösungen und erstelle dir noch heute ein kostenloses Unternehmensprofil.
Minimales Risiko: Die meisten KI-Systeme fallen in diese Kategorie und unterliegen keinen besonderen Anforderungen. Dazu gehören Anwendungen wie KI-gestützte Videospiele oder Spamfilter.
Aufteilung von KI-Systemen laut dem EU KI Act in vier Risikobereiche. (Quelle: Eigene Darstellung)
Dieser risikobasierte Ansatz stellt sicher, dass die Vorschriften verhältnismäßig sind und die Innovation nicht behindern, während gleichzeitig ein hohes Maß an Schutz für die Gesellschaft und die Grundrechte gewährleistet wird.
6. Welche KI-Systeme sind verboten?
Der EU KI Act verbietet bestimmte KI-Systeme, die als unvertretbares Risiko eingestuft werden. Hier ist eine Liste der verbotenen KI-Systeme mit Beispielen:
Manipulative oder täuschende Techniken:
Darunter fallen KI-Systeme, die unterschwellige oder absichtlich manipulative Techniken einsetzen, um das Verhalten von Menschen so zu beeinflussen, dass sie Entscheidungen treffen, die ihnen oder anderen erheblichen Schaden zufügen könnten.
Beispiele aus dem Recruiting
Ein KI-Chatbot, der Bewerber durch unterschwellige oder irreführende Fragen dazu bringt, persönliche Informationen preiszugeben. Diese könnten dann genutzt werden, um Bewerbungen unzulässig abzulehnen und den Bewerbern zu schaden.
Emotionserkennung:
Das beinhaltet u.a. KI-Systeme, die die Emotionen von Mitarbeitern überwachen, um deren Leistung oder Verhalten zu bewerten.
Beispiele aus dem Recruiting
Ein KI-System, welches Call-Center-Mitarbeiter und deren Emotionen während eines Gesprächs überprüft.
Biometrische Kategorisierung:
Dabei geht es u.a. um KI-Systeme, die Menschen anhand ihrer biometrischen Daten in Gruppen einteilen. Zum Beispiel, um herauszufinden, welche politischen Meinungen sie haben, ob sie Mitglied einer Gewerkschaft sind, welche Religion oder sexuelle Orientierung sie haben.
Beispiele aus dem Recruiting
Ein Arbeitgeber betreibt ein System, dass alle Bewerbungsbilder automatisch analysiert, um Mitarbeitende zu erkennen, die eine Wahrscheinlichkeit haben, häufig krank zu werden.
Social Scoring:
Das können u.a. Systeme sein, die Menschen basierend auf ihrem Sozialverhalten oder persönlichen Eigenschaften bewerten, wie z.B. ein Punktesystem für Bürger in einer Stadt.
Beispiele aus dem Recruiting
Ein KI-System, das Bewerber basierend auf ihrem Online-Verhalten oder sozialen Medienprofilen bewertet und diese Bewertungen zur Entscheidungsfindung im Rekrutierungsprozess verwendet.
7. Was bedeutet der EU KI Act für das Recruiting?
KI-Rekrutierungssysteme werden laut EU KI Act im Allgemeinen als hohes Risiko eingestuft. Dies liegt daran, dass sie vor allem Entscheidungen über Einstellungen, Beförderungen oder Entlassungen treffen, die erhebliche Auswirkungen auf das Leben der betroffenen Personen haben können.
Unser Ansatz bei tribeworks
Bei tribeworks nutzen wir keine KI für Entscheidungen im Matching und der Auswahl der passenden Freelancer. Stattdessen vertrauen wir auf die Expertise unserer erfahrenen Recruiter, die mit ihrem Fachwissen und ihrer Menschenkenntnis die finale Auswahl der passenden Profile übernehmen. Dadurch bleibt die Kontrolle in unseren Händen und wir vermeiden potenzielle Herausforderungen im Zusammenhang mit den Regelungen des EU KI Acts. Melde dich mit deinem Unternehmen bei tribeworks an und profitiere von unserem persönlichen und professionellen Ansatz im Recruiting!
Zukünftig können Rekrutierungssysteme wie auch Freelancer-Plattformen, die KI verwenden, also strengere Anforderungen erwarten:
Strengere Anforderungen wie z.B. Transparenz, Nachvollziehbarkeit und menschliche Aufsicht.
Transparenzanforderungen: Bewerber müssen informiert werden, dass KI-Systeme im Rekrutierungsprozess verwendet wurden.
Verbot von bestimmten Praktiken: Praktiken wie bspw. die emotionale Analyse von Bewerbern oder KI-Systeme, die Bewerber auf Basis sensibler Merkmale wie ethnischer Zugehörigkeit oder Geschlecht kategorisieren, sind verboten.
Compliance und Überwachung: Recruiting-Unternehmen müssen sicherstellen, dass ihre Systeme den gesetzlichen Anforderungen entsprechen und regelmäßig überprüft werden.
Unternehmen müssen zukünftig also sorgfältig prüfen, wie sie KI-Systeme einsetzen, um sicherzustellen, dass diese den gesetzlichen Anforderungen der EU KI Acts entsprechen, die Rechte der Bewerber bzw. Freelancer respektieren und keine diskriminierenden Praktiken fördern.
8. Ist Chatgpt eine Hochrisiko-KI?
ChatGPT oder andere generative KI werden nicht automatisch als Hochrisiko-KI eingestuft. Die Einstufung hängt stark vom spezifischen Anwendungsfall ab:
Wenn du ChatGPT für allgemeine Konversationen, Kundenservice oder als persönlichen Assistenten verwendest, fällt es in der Regel in die Kategorie des minimalen Risikos.
Wenn du ChatGPT jedoch in Bereichen wie Rekrutierung, Gesundheitsberatung oder in sicherheitskritischen Anwendungen einsetzt, könnte es als hochriskant eingestuft werden. In solchen Fällen müssen strengere Anforderungen erfüllt werden.
Merke
Die genaue Einstufung hängt davon ab, wie und wo ChatGPT eingesetzt wird. Im Bereich Recruiting musst du besonders vorsichtig sein, wenn: 1. sensible Daten verwendet werden. 2. die KI zur Bewertung von Bewerbern eingesetzt wird. 3. die KI zur Entscheidungsfindung bei der Einstellung genutzt wird.
Fazit: EU KI Act fordert strengere Regeln bei der Nutzung von KI ab Februar 2025
Der EU KI Act ist das erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz in der EU, das am 1. August 2024 in Kraft trat. Es zielt darauf ab, einen einheitlichen Rechtsrahmen für die sichere, transparente und ethische Nutzung von KI zu schaffen. KI-Systeme werden nach ihrem Risiko kategorisiert, wobei Systeme mit hohem Risiko strengen Vorschriften unterliegen und solche mit unvertretbarem Risiko verboten sind.
Besonders im Recruiting-Bereich gelten KI-Systeme oft als hochriskant, da sie Entscheidungen über Einstellungen und Beförderungen treffen, die erhebliche Auswirkungen auf das Leben der Menschen haben können. Insbesondere solche Unternehmen müssen nun sicherstellen, dass ihre KI-Systeme den gesetzlichen Anforderungen des EU KI Acts entsprechen und Stand heute mit strengeren Regeln rechnen.
FAQs zum Thema EU KI Act
Ja, auch tribeworks ist vom EU KI Act betroffen, da wir KI teilweise zur Optimierung und Automatisierung einsetzen. Wir haben uns jedoch bewusst dazu entschieden, KI nur in Bereichen mit begrenztem Risiko zu verwenden, da uns das Thema Datenschutz und Compliance sehr am Herzen liegt. Alle Bereiche, in denen KI zukünftig bei Entscheidungen über Bewerber oder Freelancer unterstützen kann, werden zusätzlich von unseren erfahrenen Recruitern überprüft.
Bei tribeworks setzen wir KI hauptsächlich in Bereichen mit begrenztem Risiko ein. Wir möchten sicherstellen, dass sensible Daten auch wirklich sensibel behandelt werden. Beispielsweise unterstützt KI bereits unsere Freelancer und Unternehmen bei der Erstellung ihrer Profile und Projekte durch verbesserte Skill-Vorschläge. Ein weiteres Beispiel ist unsere KI-gestützte Projekterstellung, die im Februar auf tribeworks verfügbar sein wird.
Als Nutzer einer Freelancer-Plattform, die KI verwendet, wirst du durch den EU KI Act mehr Transparenz und Datenschutz erleben. Plattformen müssen klar kommunizieren, wenn KI im Einsatz ist, und erklären, wie Entscheidungen getroffen werden. Du hast das Recht, KI-Entscheidungen anzufechten, und wir als Anbieter müssen sicherstellen, dass unsere Mitarbeiter über ausreichende KI-Kompetenz verfügen.
THE AUTHOR
Nadine Roth
Nadine Roth ist als Digital Marketing Professional verantwortlich für die erfolgreiche Positionierung von tribeworks im digitalen Raum. Ihre umfassende Erfahrung mit SaaS-Produkten fließt in den Aufbau und die Optimierung des digitalen Vertriebskanals von tribeworks ein. Neben der Entwicklung von Strategien zur Stärkung der Markenidentität und Positionierung, konzentriert sie sich auch auf die interne und externe Kommunikation des Produkts. Darüber hinaus unterstützt sie bei der Erstellung von Content, der die Zielgruppe anspricht und die Markenbotschaft wirkungsvoll vermittelt.