Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)

Governance von und durch Algorithmen (GOAL)

  • Projektteam:

    Grunwald, Armin (Projektsprecher ITAS); Carsten Orwat (Projektleitung ITAS); Christian Wadephul; Anja Folberth; Jascha Bareis

  • Förderung:

    Bundesministerium für Bildung und Forschung

  • Starttermin:

    2019

  • Endtermin:

    2021

  • Projektpartner:

    Westfälische Wilhelms-Universität Münster, Institut für Informations-, Telekommunikations- und Medienrecht – Zivilrechtliche Abteilung; Universität Hamburg, Fakultät für Mathematik, Informatik und Naturwissenschaften, Lehrstuhl für Ethik in der Informationstechnologie; Ruhr-Universität Bochum, Fakultät für Wirtschaftswissenschaft, Lehrstuhl für Makroökonomik; Technische Universität Kaiserslautern, Fakultät für Informatik, Algorithmic Accountability Lab

  • Forschungsgruppe:

    Digitale Technologien und gesellschaftlicher Wandel

Projektbeschreibung

Algorithmen dienen nicht mehr nur der Automatisierung der Datenverarbeitung und der Informations- und Wissensgenerierung, sondern sind zunehmend auch Kernelemente von Systemen der automatisierten Entscheidungsunterstützung oder Entscheidungsdurchführung. Dies umfasst auch Entscheidungen, die die Lebensführung und Möglichkeiten der freien Persönlichkeitsentfaltung maßgeblich beeinflussen und als Entscheidungen über Differenzierungen von Personen Fragen der Gerechtigkeit und Gleichbehandlung aufwerfen. Ebenso werden Algorithmen bzw. die sie beinhaltenden Softwaresysteme zur Verhaltenssteuerung eingesetzt und erhalten dadurch selbst eine regulative Wirkung, eine Entwicklung, die unter den Stichworten „Algorithmic Regulation“ oder „Governance by Algorithms“ diskutiert wird.

Das Projekt dient der Untersuchung von möglichen Governancebedarfen, -ansätzen, Handlungsoptionen bzw. Regulierungsformen im Hinblick auf die Folgen des Einsatzes von Algorithmen, insbesondere der künstlichen Intelligenz. Dabei liegt der Ableitung von Handlungsoptionen die Analyse der durch Anwendungen von Algorithmen verursachten Risiken für die Realisierung von gesellschaftlichen Werten, wie beispielsweise die Gefährdung der informationellen Selbstbestimmung, Diskriminierungsrisiken und damit Fragen der Gerechtigkeit und Gleichbehandlung oder die Gefährdung der Rechtsstaatlichkeit, zu Grunde. Weitere Grundlagen sind Untersuchungen sowohl zu verschiedenen Anwendungstypen von Algorithmen, die als besonders risikoreich gelten können, als auch zu den Möglichkeiten der Realisierung gesellschaftlicher Werte bei der Entwicklung und Anwendung von Algorithmen. Darüber hinaus werden bestehende Governancestrukturen hinsichtlich Schutzlücken oder Regelungsproblemen überprüft.

Der Schwerpunkt des Projekts liegt auf Arbeiten zur Weiterentwicklung komplexer Governancestrukturen und zum funktionierenden Zusammenwirken von verschiedenen Regulierungsbereichen, -instrumenten und -formen sowie zur Legitimität und Entwicklungsfähigkeit der entstehenden Governance-Strukturen. Bei der Untersuchung von algorithmen- und datenbasierten Instrumenten zur Verhaltenssteuerung soll auch näher untersucht werden, welche Möglichkeiten und Grenzen eine Governance durch Technologie innerhalb komplexer institutioneller Arrangements haben könnte.

Webseite des Projekts: https://goal-projekt.de

Publikationen


2020
Vorträge
Folberth, A.; Bareis, J.; Orwat, C.; Wadephul, C.; Jahnel, J.
Normative Entscheidungen in der risiko-basierten Regulierung von KI und AES: Eine Erweiterung algorithmischer Fairness in der Risikodebatte.
2020. Summer School des Projekts "Governance von und durch Algorithmen" (GOAL 2020), Online, 23.–24. Juni 2020 
Orwat, C.
Diskriminierungsrisiken durch Verwendung von Algorithmen.
2020. Summer School des Projekts "Governance von und durch Algorithmen" (GOAL 2020), Online, 23.–24. Juni 2020 

Kontakt

Dr. Carsten Orwat
Karlsruher Institut für Technologie (KIT)
Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Postfach 3640
76021 Karlsruhe

Tel.: 0721 608-26116
E-Mail