Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)

Welche Methoden und Ansätze kann Technikgestaltung aus dem Feld der Technikfolgenabschätzung aufgreifen, um KI-Systeme transparent und menschzentriert zu gestalten?

Projektbeschreibung

Künstliche Intelligenz (KI) ist eine Technologie, die ein hohes Potenzial hat, das gesellschaftliche Leben auf vielen Ebenen zu verändern. Verschiedene Einschätzungen verbinden mit KI technischen, ökonomischen oder ökologischen Fortschritt oder erwarten, dass KI das Zusammenleben und in Summe die Lebensqualität der gesamten Gesellschaft positiv beeinflussen wird. Hinsichtlich der Wahrnehmung und des Verständnisses von KI besteht jedoch oft eine Diskrepanz – einerseits innerhalb von Fachkreisen aus Wissenschaft, Technik und Wirtschaft und andererseits auch zwischen diesen Fachkreisen und den weniger technikaffinen Bürgerinnen und Bürgern. Insbesondere in der öffentlichen Wahrnehmung ist zu beobachten, dass KI als sehr diffus und damit als schwer verständlich wahrgenommen wird. In den sozialen und öffentlichen Medien, auf Fachtagungen und in politischen Debatten wird KI deshalb sehr kontrovers, unter verschiedensten Gesichtspunkten und mit unterschiedlichem Kenntnisstand diskutiert.

Es ist daher von großer Bedeutung, die KI-Technologie und Systeme, die KI-Methoden verwenden, für die öffentliche und fachliche Wahrnehmung verständlich und erklärbar, d.h. transparent auf allen relevanten Ebenen darzustellen. Deshalb muss es ein vorrangiges Ziel der Technikgestaltung sein, KI je nach Anwendungs- bzw. Nutzungskontext nachvollziehbar und transparent zu gestalten. Gelingt es der Technikgestaltung, diese Anforderungen in jeder Phase der Entwicklung von KI-Systemen zu realisieren, kann die Gesellschaft die Vertrauenswürdigkeit von KI besser beurteilen und diskutieren, Verständnislücken schließen und eine für sie akzeptable und wünschenswerte Beziehung zu KI erarbeiten. Ferner ist es von großer Bedeutung, sicherzustellen, dass KI-Systeme nicht nur realisiert werden, weil es der technische Fortschritt möglich macht, sondern dass auch Erkenntnisse aus den Humanwissenschaften in den Gestaltungsprozess von KI Eingang finden. Dies ist deshalb von Bedeutung, da auf diese Weise sichergestellt werden kann, dass KI menschliche Bedürfnisse und Eigenschaften berücksichtigt und das Wohl des Nutzers in den Vordergrund stellt. Die Sorge einiger Bürgerinnen und Bürger, dass „KI irgendwann nicht mehr dem Menschen dient, sondern umgekehrt“, muss von der Technikgestaltung ernst genommen und adäquat adressiert werden. Sollte dies nicht geschehen, wird sich KI mit Akzeptanzverweigerung und Misstrauen seitens der Bürger konfrontiert sehen.

Die Dissertation strebt daher an, Methoden zu erforschen, die eine Konvergenz zwischen den technischen Möglichkeiten der Technikgestaltung und der Einhaltung sozialer und gesellschaftlich etablierter Normen (Technikethik) ermöglichen. Die Dissertation hat ferner zum Ziel, KI für die Technikfolgenabschätzung (TA) zu erschließen und Methoden zu erforschen, die es ermöglichen, KI nachvollziehbar und transparent zu gestalten. Die Erkenntnisse der Dissertation sollen für die TA-Community aufbereitet und anschließend auch für die Technikgestaltung in Form von Handlungsempfehlungen zugänglich gemacht werden. Unter Anwendung des Wissens der TA soll in der Dissertation außerdem untersucht werden, ob eine transparente Gestaltung von KI dazu führen kann, potenziell unerwünschte Folgen und Veränderungen abzuwenden, und wie ein nach gesellschaftlichen und ethischen Maßstäben entwickeltes Zusammenleben mit KI ermöglicht werden kann.

Administrative Daten

Referent: Prof. Dr. Armin Grunwald
Koreferent: Prof. Dr. Karsten Wendland
Doktoranden bei ITAS: siehe Promovieren am ITAS

Kontakt

Pascal Vetter
Karlsruher Institut für Technologie (KIT)
Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Postfach 3640
76021 Karlsruhe

Tel.: 0721 608-23839
E-Mail