Menschzentrierte KI-Gestaltung - Anschlussfähigkeit der Rollenkonzepte und Methodik von Constructive Technology Assessment und Value Sensitive Design
- Projektteam:
Vetter, Pascal (Dissertation)
- Starttermin:
2020
- Endtermin:
2025
- Forschungsgruppe:
Projektbeschreibung
Systeme Künstlicher Intelligenz (KI) menschzentriert zu gestalten erfordert Gestaltungsstrategien, die Verantwortungsträgern die Priorisierung menschlicher Fähigkeiten, Bedürfnisse und Werte in KI-Gestaltungsprozessen (KIGP) ermöglichen. Die Entwicklung entsprechender Gestaltungsmethoden ist eine Zielsetzung im Feld Human-centered AI (HCAI), dessen Realisierung eine zielführende Operationalisierung gestaltungstheoretischer Erkenntnisse erfordert, sowie eine bedachte Gewichtung von sozialen, ethischen, technischen und organisatorischen Gestaltungsfaktoren. Über die Navigation dieses multifaktoriellen Spannungsfelds herrscht im Feld Technikfolgenabschätzung (TA) ausgeprägtes Erfahrungswissen vor, dessen Aufgriff eine Erwägung für die Methodenentwicklung in HCAI lohnt. Die Anschlussfähigkeit von TA zu HCAI exploriert die Dissertation anhand der beiden Gestaltungsansätze Constructive Technology Assessment (CTA) und Value Sensitive Design (VSD). Die übergeordnete Forschungsfrage des Dissertationsprojekts lautet: Welche Erkenntnisse kann HCAI von den Ansätzen CTA und VSD aufgreifen, um KI-Systeme menschzentriert zu gestalten?
Zur Beantwortung dieser Frage fokussiert die Dissertation die verwendeten Rollenkonzepte in CTA und VSD, sowie die Methodik, die beide Ansätze zur Gestaltung technischer Systeme vorschlagen. Zunächst wird in Kapitel 2 die Gestaltungsphilosophie der menschzentrierten Gestaltung (MZG) vorgestellt, die einen zentralen Ausgangspunkt konzeptueller und methodischer Überlegungen in HCAI bildet. Kapitel 3 gibt einen Überblick über das Feld HCAI und widmet sich den in HCAI diskutierten Weiterentwicklungsideen des MZG-Ansatzes, die sich bereits Mensch-Technik-Verhältnissen höherer Komplexität widmen. Kapitel 4 vollzieht dann einen Perspektivwechsel hin zur Auffassung von Technikgestaltung (TG) in TA und stellt zentrale Annahmen sowie die vorgeschlagenen Methoden der Ansätze CTA und VSD vor. Das Kapitel schließt mit den daraus resultierenden, zunächst mehrheitlich abstrakten Implikationen für die Ziele in HCAI. Kapitel 5 widmet sich anschließend den Rollenkonzepten, die in CTA und VSD verwendet werden, um menschliches Leben und Handeln in Gestaltungskontexten zu beschreiben und in Gestaltungsmethoden zu operationalisieren. Ziel der Ergründung der Bedeutungen, Ursprünge und blinden Flecke der Rollenkonzepte ist nachzuvollziehen, welche Interpretationen von Menschzentriertheit in CTA und VSD zum Tragen kommen, und wie sich diese auf die vorgeschlagenen Methoden übertragen. Daraus resultierende Schlussfolgerungen für HCAI werden am Ende des Kapitels diskutiert. Kapitel 6 wendet sich der Gestaltungspraxis zu und beschreibt die Ergebnisse einer Interviewstudie, in der KI-Experten aus der Gestaltungspraxis die Praxistauglichkeit der CTA- und VSD-Methoden beurteilen. Zentrale Leitfragen der Expertenevaluation sind, inwieweit die Methoden den Anforderungen von KIGP in der Praxis gerecht werden können und inwieweit sie Verantwortungsträgern das Treffen belastbarer Gestaltungsentscheidungen ermöglichen, da dies zentrale Kriterien für HCAI-Methoden darstellen. Die differenzierten Einschätzungen der KI-Experten werden mithilfe einer SWOT-Analyse dargestellt, deren Ergebnisse die Diskussion weiterer Schlussfolgerungen für HCAI ermöglichen, sowie die Formulierung von Weiterentwicklungsempfehlungen für die Methoden von CTA und VSD. In Kapitel 7 wird zusammenfassend darüber reflektiert, was CTA und VSD für HCAI (nicht) bereitstellen können und unter welchen Bedingungen eine interdisziplinäre Zusammenarbeit der Communities HCAI und TA zielführend sein kann.
Die Dissertation ist hier abrufbar: https://publikationen.bibliothek.kit.edu/1000180509
Administrative Daten
Referent: | Prof. Dr. Armin Grunwald |
Koreferent: | Prof. Dr. Karsten Wendland |
Doktoranden bei ITAS: | siehe Promovieren am ITAS |
Kontakt
Karlsruher Institut für Technologie (KIT)
Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Postfach 3640
76021 Karlsruhe
Tel.: 0721 608-23839
E-Mail