Home | english  | Sitemap | Impressum | Datenschutz | KIT

Governance von und durch Algorithmen (GOAL)

Governance von und durch Algorithmen (GOAL)
Projektteam:

Grunwald, Armin (Projektsprecher ITAS); Carsten Orwat (Projektleitung ITAS); Christian Wadephul; Anja Folberth; Jascha Bareis

Förderung:

Bundesministerium für Bildung und Forschung

Starttermin:

2019

Endtermin:

2021

Projektpartner:

Westfälische Wilhelms-Universität Münster, Institut für Informations-, Telekommunikations- und Medienrecht – Zivilrechtliche Abteilung; Universität Hamburg, Fakultät für Mathematik, Informatik und Naturwissenschaften, Lehrstuhl für Ethik in der Informationstechnologie; Ruhr-Universität Bochum, Fakultät für Wirtschaftswissenschaft, Lehrstuhl für Makroökonomik; Technische Universität Kaiserslautern, Fakultät für Informatik, Algorithmic Accountability Lab

Forschungsgruppe:

Digitale Technologien und gesellschaftlicher Wandel

Projektbeschreibung

Algorithmen dienen nicht mehr nur der Automatisierung der Datenverarbeitung und der Informations- und Wissensgenerierung, sondern sind zunehmend auch Kernelemente von Systemen der automatisierten Entscheidungsunterstützung oder Entscheidungsdurchführung. Dies umfasst auch Entscheidungen, die die Lebensführung und Möglichkeiten der freien Persönlichkeitsentfaltung maßgeblich beeinflussen und als Entscheidungen über Differenzierungen von Personen Fragen der Gerechtigkeit und Gleichbehandlung aufwerfen. Ebenso werden Algorithmen bzw. die sie beinhaltenden Softwaresysteme zur Verhaltenssteuerung eingesetzt und erhalten dadurch selbst eine regulative Wirkung, eine Entwicklung, die unter den Stichworten „Algorithmic Regulation“ oder „Governance by Algorithms“ diskutiert wird.

Das Projekt dient der Untersuchung von möglichen Governancebedarfen, -ansätzen, Handlungsoptionen bzw. Regulierungsformen im Hinblick auf die Folgen des Einsatzes von Algorithmen, insbesondere der künstlichen Intelligenz. Dabei liegt der Ableitung von Handlungsoptionen die Analyse der durch Anwendungen von Algorithmen verursachten Risiken für die Realisierung von gesellschaftlichen Werten, wie beispielsweise die Gefährdung der informationellen Selbstbestimmung, Diskriminierungsrisiken und damit Fragen der Gerechtigkeit und Gleichbehandlung oder die Gefährdung der Rechtsstaatlichkeit, zu Grunde. Weitere Grundlagen sind Untersuchungen sowohl zu verschiedenen Anwendungstypen von Algorithmen, die als besonders risikoreich gelten können, als auch zu den Möglichkeiten der Realisierung gesellschaftlicher Werte bei der Entwicklung und Anwendung von Algorithmen. Darüber hinaus werden bestehende Governancestrukturen hinsichtlich Schutzlücken oder Regelungsproblemen überprüft.

Der Schwerpunkt des Projekts liegt auf Arbeiten zur Weiterentwicklung komplexer Governancestrukturen und zum funktionierenden Zusammenwirken von verschiedenen Regulierungsbereichen, -instrumenten und -formen sowie zur Legitimität und Entwicklungsfähigkeit der entstehenden Governance-Strukturen. Bei der Untersuchung von algorithmen- und datenbasierten Instrumenten zur Verhaltenssteuerung soll auch näher untersucht werden, welche Möglichkeiten und Grenzen eine Governance durch Technologie innerhalb komplexer institutioneller Arrangements haben könnte.

Webseite des Projekts: https://goal-projekt.de

Kontakt

Dr. Carsten Orwat
Karlsruher Institut für Technologie (KIT)
Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Postfach 3640
76021 Karlsruhe

Tel.: 0721 608-26116
E-Mail