„Wie fair ist die digitale Welt? – Diskriminierungsrisiken durch Algorithmen“. Ein Titel mit vielen Unbekannten: Was ist Fairness? Was ist eigentlich eine „digitale Welt“? Was genau versteht man unter Diskriminierung und was ist überhaupt ein Algorithmus? Mit diesen Fragestellungen beschäftigte sich der technik.kontrovers Themenabend am 26. Februar 2019.
Eingeführt in die Thematik hat diesmal Reinhard Heil, der am ITAS im Bereich der Innovationsprozesse und Technikfolgen forscht. Digitale Informations- und Kommunikationstechnologien durchdringen nahezu alle Lebensbereiche, wie beispielsweise das bargeldlose Zahlen, das Recherchieren im Internet, das Tracken einer sportlichen Aktivität und vieles mehr. All diese Aktionen erzeugen umfangreiche Datenmengen, die kaum mehr zu überblicken sind, Stichwort „Big Data“. Komplexe Algorithmen erlauben es, große Datenmengen in vergleichsweise sehr kurzer Zeit verarbeiten und analysieren zu können.
Solche Algorithmen können, so die Hoffnung, menschliche Fehler, Fehl- und Vorurteile bei der Verarbeitung von Informationen vermindern und nach den programmierten Kriterien stets objektiv und einheitlich vorgehend entscheiden.
Der zweite Referent des Abends, Carsten Orwat wies auf mögliche Risiken hin, die mit dem Einsatz von Algorithmen verbunden sind. Durch die Verwendung verzerrter Datensätze, Über- und Unterrepräsentation bestimmter Merkmale und zu spezialisierte Modelle kann es zu Diskriminierungen geschützter Gruppierungen und dem Auftreten neuer Diskriminierungstypen kommen. Prominente Beispiele einer diskriminierenden Software sind beispielsweise Kreditvergabe- und Personaleinstellungssoftware, bei der geschützte Personengruppen benachteiligt wurden.
Im Anschluss wurden Möglichkeiten erörtert, wie man Diskriminierung durch Algorithmen verhindern könnte. Genannt wurden hierbei die Entwicklung und der Einsatz diskriminierungsvermeidender Systeme, Antidiskriminierungsauflagen, zum Beispiel das Allgemeine Gleichbehandlungsgesetz (AGG), und -Einrichtungen, wie der Antidiskriminierungsstelle des Bundes (ADS), sowie der gesellschaftliche Diskurs über das Thema.
Nach den Vorträgen fand eine interessante Diskussion zwischen Publikum und Referenten statt. Dabei kamen Fragen auf, ob nicht auch Menschen diskriminieren und was genau der Unterschied zu Algorithmen sei und wer im Diskriminierungsfall hafte: der einzelne Programmierer oder das Unternehmen?
Fazit einer Besucherin: Ob unmittelbare Diskriminierung durch Menschen oder vermittelt durch Algorithmen – wichtig ist, sich für eine offene, diskriminierungsfreie Gesellschaft einzusetzen.
Das technik.kontrovers-Team dankt allen Gästen für die lebhafte Beteiligung an diesem Abend!
