CORDIS - Forschungsergebnisse der EU
CORDIS

Article Category

Article available in the following languages:

KI-Verzerrungen auf dem Arbeitsmarkt bekämpfen

Zwei EU-unterstützte Projektteams arbeiten zusammen, um einen besseren Einblick in die Auswirkungen von KI-Technologien auf Arbeitskräfte zu gewinnen.

Digitale Wirtschaft icon Digitale Wirtschaft
Gesellschaft icon Gesellschaft

Im Rahmen der EU-finanzierten Projekte AEQUITAS und BIAS werden Kräfte gebündelt, um auf dem Arbeitsmarkt auftretende Verzerrungen und Vorurteile zu bekämpfen, die in KI-Systeme eingebettet sind. Durch diese Zusammenarbeit sollen das Verständnis der Auswirkungen von KI-Technologien auf Arbeitskräfte vertieft und dementsprechende sachkundige politische Strategien erarbeitet werden. Diese Partnerschaft wird eine wichtige Rolle im Zusammenhang mit der Förderung der Bemühungen um faire und transparente KI-Systeme in Europa übernehmen. Das im November 2022 ins Leben gerufene Projekt AEQUITAS unterstützt die Entwicklung eines europäischen Ökosystems, das Fairness, Transparenz, Gleichheit und Verantwortlichkeit in KI-Systemen fördert. Im Rahmen des Dreijahresprojekts wird diese Aufgabe angegangen, indem der KI-Entwicklung und -Nutzung eine offene Plattform zur Durchführung kontrollierter Experimente zur Erkennung, Abschwächung und Behebung potenzieller Unfairness-Probleme in KI-Instrumenten bereitgestellt wird. Das gleichzeitig mit AEQUITAS gestartete und auf vier Jahre angelegte Projekt BIAS unterstützt die KI- und Personalmanagement-Gemeinschaften, indem algorithmenbedingte Verzerrungen und Vorurteile erkannt, bekämpft und reduziert werden. Das Projektteam verfolgt drei Hauptziele: die Entwicklung zuverlässiger Instrumente zur Erkennung und Abschwächung von Verzerrungen innerhalb von KI-Systemen; die Förderung des Engagements von Interessengruppen bei der gemeinsamen Entwicklung von Technologien zur Abschwächung von Vorurteilen und Ungerechtigkeiten bei der Entscheidungsfindung; und die Stärkung der KI- und Personalmangement-Gemeinschaften durch Initiativen zur Sensibilisierung und zum Aufbau von Kapazitäten. Eduard Fosch-Villaronga von der Universität Leiden (Niederlande), die Partnerin des Projekts BIAS ist, kommentiert die Partnerschaft in einer Pressemeldung auf der Universitätswebsite: „Durch Bündelung unserer Bemühungen und unseres Fachwissens können wir auf dem Gebiet der KI-Ethik vorankommen und sicherstellen, dass KI-Technologien auf eine Weise entwickelt und eingesetzt werden, die die Rechte und die Würde aller Menschen in der Arbeitswelt respektiert.“ Die Forscher Gustavo Marrero und Ángel Marrero von der Universität La Laguna, Spanien, die Partnerin des Projekts AEQUITAS ist, erläutern die Vorteile der Zusammenarbeit: „Unsere Zusammenarbeit mit dem eLaw Center der Universität Leiden wird uns die Bündelung unserer Ressourcen und Erkenntnisse ermöglichen, um wirksame Strategien zur Abschwächung von Vorurteilen und Verzerrungen in KI-Systemen zu entwickeln und im Endeffekt einen gerechteren und inklusiveren Arbeitsmarkt zu fördern.“

Wissen und Erfahrung austauschen

Im Rahmen der beiden Projekte werden außerdem separate Workshops zum Thema Vorurteile und Verzerrungen in KI-Systemen veranstaltet. Am 24. Mai 2024 findet im Rahmen von BIAS ein Workshop mit dem Titel „Fair Futures at Work: Co-Creation and AI-driven Solutions in Governing the Hiring Process“ (Faire Zukunft am Arbeitsplatz: Co-Creation und KI-gesteuerte Lösungen zur Regulierung des Einstellungsverfahrens) statt. Er wird auf der Konferenz „Computers, Privacy and Data Protection“ (22.-24. Mai) in Brüssel, Belgien, abgehalten, wobei das Potenzial und die Grenzen technischer Lösungen zur Förderung von Fairness und Vertrauenswürdigkeit bei KI-gestützten Einstellungsverfahren im Mittelpunkt stehen werden. Das Team des Projekts BIAS (Mitigating Diversity Biases of AI in the Labor Market) organisiert vom 28. bis 31. Mai ebenfalls einen zweiten Workshop, der in diesem Fall in Hamamatsu, Japan, stattfindet. Unter dem Titel „The ambitions and limitations of AI-driven recruitment and selection: Unfolding fairness and diversity bias“ (Ambitionen und Grenzen der KI-gesteuerten Anwerbung und Auswahl: Fairness und Vorurteile in Bezug auf Diversität offenlegen) wird mit dem Workshop das Ziel verfolgt, zu erkunden, wie KI-Technologien Vorstellungen von Fairness und Vorurteile in Bezug auf Diversität prägen, und Wege zu einer gerechteren und ausgewogeneren Landschaft zu finden. Später im Jahr, am 19. Oktober, wird das AEQUITAS-Team (ASSESSMENT AND ENGINEERING OF EQUITABLE, UNBIASED, IMPARTIAL AND TRUSTWORTHY AI SYSTEMS) auf der 27. European Conference on Artificial Intelligence (19.-24. Oktober) in Santiago de Compostela, Spanien, die zweite Ausgabe seines Workshops zum Thema Fairness und Vorurteile von KI „Workshop on Fairness and Bias in AI“ veranstalten. Derzeit läuft ein Aufruf zur Referatanmeldung, demgemäß bis zum 15. Mai Beiträge eingereicht werden können. Weitere Informationen: AEQUITAS-Projektwebsite BIAS-Projektwebsite

Schlüsselbegriffe

AEQUITAS, BIAS, KI, Vorurteile in Bezug auf Diversität, Fairness, Arbeitskraft, Arbeitsmarkt

Verwandte Artikel