Home | english  | Sitemap | Impressum | Datenschutz | KIT

Diskriminierungsrisiken durch Algorithmen

Diskriminierungsrisiken durch Algorithmen
Projektteam:

Orwat, Carsten (Projektleitung); Reinhard Heil, Oliver Siemoneit

Förderung:

Antidiskriminierungsstelle des Bundes (ADS)

Starttermin:

2018

Endtermin:

2018

Forschungsbereich:

Innovationsprozesse und Technikfolgen

Projektbeschreibung

Digitale Informations- und Kommunikationstechnologien durchdringen nahezu alle Lebensbereiche und erzeugen umfangreiche Datenmengen, die mit fortgeschrittenen Verarbeitungs- und Analysemethoden auch zu automatisierten Entscheidungen über Personen verwendet werden können.

Dabei werden Regeln für gesellschaftliche Interaktionen, Verhaltenssteuerung und Entscheidungen zunehmend in Software implementiert, automatisiert vollzogen und technisch durchgesetzt. Einerseits können dadurch menschliche Fehler, Fehl- und Vorurteile vermindert werden, andererseits können aber auch Risiken von Diskriminierungen geschützter Gruppierungen steigen und neue Diskriminierungstypen auftreten.

Im Forschungsprojekt sollen Fälle, in denen Diskriminierungen unter Beteiligung von Algorithmen, Datensätzen, Betreibern oder Nutzern bekannt geworden sind, zusammengetragen und eingehend analysiert werden, um Ursachen, Kontexte, Typen und Dimensionen der Diskriminierungen und von Diskriminierungsrisiken herauszuarbeiten. Dies schließt Fragen nach der Selbstbestimmung, Gerechtigkeit, Fairness, Verantwortung oder dem Zusammenhang zum Datenschutz ein.

Darauf aufbauend werden Handlungsoptionen, unter anderem im Abgleich mit bestehenden rechtlichen Rahmenbedingungen, abgeleitet und diskutiert. Das Projekt wird von der Antidiskriminierungsstelle des Bundes über die Laufzeit von einem Jahr gefördert und ist zum 01.01.2018 gestartet.

Kontakt

Dr. Carsten Orwat
Karlsruher Institut für Technologie (KIT)
Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Postfach 3640
76021 Karlsruhe

Tel.: 0721 608-26116
E-Mail