Home | english  | Sitemap | Impressum | KIT

Diskriminierungsrisiken durch Algorithmen

Für die Antidiskriminierungsstelle des Bundes untersucht das ITAS Ursachen, Typen und Dimensionen von Diskriminierungsrisiken durch den wachsenden Einsatz digitaler Algorithmen. Ebenfalls im Fokus: Handlungsoptionen für mehr „Algorithmic Accountability“.
ITAS-Projekt Diskriminierungsrisiken durch Algorithmen
Digitale Algorithmen: Eine Gefahr für die individuelle Selbstbestimmung? (Quelle: pixabay)

Digitale Informations- und Kommunikationstechnologien durchdringen nahezu alle Lebensbereiche, gleichzeitig wachsen die Möglichkeiten bei der Verarbeitung und Analyse umfangreicher Datenmengen. Kontinuierlich erfasste Datenströme erlauben Rückschlüsse auf die Wahrscheinlichkeit, dass Individuen ein Produkt erwerben, einen Kredit zurückzuzahlen, eine Partei wählen oder Miete zahlen. Wissen, dass sich für gezielte Angebote einsetzen lässt – und die Gefahr von Diskriminierungen in sich birgt.

Dies ist bereits dann der Fall, wenn Individuen oder Personengruppen von vornherein von bestimmten Angeboten oder Diensten ausgeschlossen werden bzw. diese ihnen erst gar nicht angeboten werden. Verschärfend kommt hinzu, dass für Laien intransparente Algorithmen immer häufiger Entscheidungen mit weitreichenden Auswirkungen auf die Selbstbestimmung und Persönlichkeitsentfaltung treffen.

Im Forschungsprojekt „Diskriminierungsrisiken durch Algorithmen“ wollen Wissenschaftler am ITAS Fälle zusammentragen und analysieren, in denen Diskriminierungen unter Beteiligung digitaler Algorithmen bekannt geworden sind. Ziel ist es, Ursachen, Kontexte, Typen und Dimensionen der Diskriminierungen und von Diskriminierungsrisiken herauszuarbeiten.

Darauf aufbauend sollen Handlungsbedarfe im Sinne einer besseren „Algorithmic Accountability“ identifiziert werden, beispielsweise im Hinblick auf nötige Reformen des Rechts. Ziel der Forscher ist es, Vorschläge aus der internationalen Diskussion auf die institutionellen Rahmenbedingungen in der Bundesrepublik Deutschland zu beziehen und eine Liste politischer Handlungsoptionen vorzulegen.

Die Antidiskriminierungsstelle des Bundes fördert das Projekt über die Laufzeit von einem Jahr. (09.04.2018)

Weiterführende Links: