Diskriminierung und Big Data

19. Mai 2022

Dieser Beitrag befasst sich mit dem Problem des Daten-Bias und der daraus möglicherweise folgenden Diskriminierung beim maschinellen Lernen. Kernpunkt des Beitrags ist, dass die Definition dessen, was als Diskriminierung gilt, nicht nur eine technische Angelegenheit ist, sondern eine normative Entscheidung. Wir überprüfen einige Definitionen von Diskriminierung, die derzeit entwickelt werden, und bewerten sie von einem normativen Standpunkt aus.

Gesamter Artikel (in Englisch)

Empfehlungen

Politische Entscheidungsträger sollten Fairness als Voraussetzung für die Gestaltung von algorithmischen Systemen in sensiblen Bereichen definieren. Diskriminierung wird nicht dadurch vermieden, indem man auf die Verarbeitung von bestimmten geschützten Merkmalen verzichtet. Stattdessen soll die Fairness von Algorithmen systematisch überprüft werden. Allfällige Antidiskriminierungsmassnahmen müssen aber flexibel genug sein, um unterschiedliche statistische Standards für unterschiedliche Anwendungsfälle zu legitimieren.