Diskriminierungsrisiken durch Algorithmen

Projektbeschreibung

Digitale Informations- und Kommunikationstechnologien durchdringen nahezu alle Lebensbereiche und erzeugen umfangreiche Datenmengen, die mit fortgeschrittenen Verarbeitungs- und Analysemethoden auch zu automatisierten Entscheidungen über Personen verwendet werden können.

Dabei werden Regeln für gesellschaftliche Interaktionen, Verhaltenssteuerung und Entscheidungen zunehmend in Software implementiert, automatisiert vollzogen und technisch durchgesetzt. Einerseits können dadurch menschliche Fehler, Fehl- und Vorurteile vermindert werden, andererseits können aber auch Risiken von Diskriminierungen geschützter Gruppierungen steigen und neue Diskriminierungstypen auftreten.

Im Forschungsprojekt wurden Fälle, in denen Diskriminierungen unter Beteiligung von Algorithmen, Datensätzen, Betreibern oder Nutzern bekannt geworden sind, zusammengetragen und eingehend analysiert, um Ursachen, Kontexte, Typen und Dimensionen der Diskriminierungen und von Diskriminierungsrisiken herauszuarbeiten. Dies schloss Fragen im Hinblick auf Selbstbestimmung, Gerechtigkeit, Fairness, Verantwortung oder dem Zusammenhang zum Datenschutz ein.

Darauf aufbauend wurden Handlungsoptionen, unter anderem im Abgleich mit bestehenden rechtlichen Rahmenbedingungen, abgeleitet und diskutiert. Das Projekt wurde von der Antidiskriminierungsstelle des Bundes über die Laufzeit von einem Jahr mit einer Zuwendung gefördert.

Publikationen


2020
Vorträge
Orwat, C.
Diskriminierungsrisiken durch Verwendung von Algorithmen.
2020. Fachgespräch "Diskriminierungsrisiken durch Verwendung von Algorithmen – Interventionsmöglichkeiten, Schutzlücken sowie die Rolle von Antidiskriminierungsstellen" der Antidiskriminierungsstelle des Bundes (2019), Berlin, Deutschland, 16. September 2019 

Kontakt

Dr. Carsten Orwat
Karlsruher Institut für Technologie (KIT)
Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Postfach 3640
76021 Karlsruhe

Tel.: 0721 608-26116
E-Mail