Gesellschaftliches Vertrauen in lernende Systeme
- Projektteam:
Heil, Reinhard (Projektleitung); Jutta Jahnel, Torsten Fleischer, Linda Nierling, Christian Wadephul, Pascal Vetter, Jascha Bareis
- Starttermin:
2020
- Forschungsgruppe:
Projektbeschreibung
Im Rahmen der grundfinanzierten Eigenforschung werden Forschungsfragen bearbeitet, die im Kontext der programmorientierten Förderung zur Profilbildung des ITAS im Helmholtz Forschungsbereich Information im Themenbereich „Lernende Systeme“ beitragen.
Die Schwerpunkte der Forschung sind vor allem die Erarbeitung und Rahmung eines kontextspezifischen Verständnisses von Verfahren, Methoden und Folgen lernender Systeme als „enabling technologies“ sowie Möglichkeiten für einen verantwortungsvollen Umgang mit potentiellen Risiken in unterschiedlichen Anwendungsbereichen. Da bei automatisierten Anwendungen und Entscheidungssystemen auch die übergeordnete Problematik von Vertrauen in Informationssysteme betroffen ist, sollen insbesondere relevante Fragestellungen zum gesellschaftlichen Vertrauen in lernende Systeme erschlossen werden. Hierbei wird auf vorangegangene und parallellaufende Arbeiten der Projektmitglieder zu Risikoforschung, Autonomem Fahren, Automatisierung der Arbeitswelt, Adversarial AI, Explainable AI und Wissenschaftstheorie der Computational Sciences aufgebaut und diese weiterentwickelt bzw. für die Anwendung im Rahmen des Themenfelds fruchtbar gemacht. Eine wichtige Aufgabe des Projekts ist es, die bisher unverbundenen Arbeiten zu diesem Themenfeld am ITAS zusammenzuführen und eine gemeinsame Perspektive zu entwickeln. Hierzu gehört auch die Organisation des Wissenstransfers über Projekt- und Forschungsgruppen hinweg und die Intensivierung der Zusammenarbeit mit Informatikinstituten des KIT.
Publikationen
Trustworthy AI. What does it actually mean?
2022. WTMC PhD Spring Workshop "Trust and Truth" (2022), Deursen-Dennenburg, Niederlande, 6.–8. April 2022
Two layers of trust: Discussing the relationship of an ethical and a regulatory dimension towards trustworthy AI
2022. Trust in Information (TIIN) Research Group at the Höchstleistungsrechenzentrum (HLRS) Stuttgart (2022), Stuttgart, Deutschland, 16. Februar 2022
Trust (erosion) in AI regulation. Dimensions, Drivers, Contradictions?
2022. 20th Annual STS Conference : Critical Issues in Science, Technology and Society Studies (2022), Graz, Österreich, 2.–4. Mai 2022
Künstliche Intelligenz/Maschinelles Lernen
2021. Handbuch Technikethik. Hrsg.: A. Grunwald, 424–428, J.B. Metzler. doi:10.1007/978-3-476-04901-8_81
Talking AI into Being: The Narratives and Imaginaries of National AI Strategies and Their Performative Politics
2021. Science, technology, & human values, 1–27. doi:10.1177/01622439211030007
Trust (erosion) in AI regulation : Dimensions, Drivers, Contradictions?
2021. International Lecture Series by Fudan University: Trust and AI (2021), Online, 14. Dezember 2021
Zwischen Agenda, Zwang und Widerspruch. Der liberale Staat und der Fall KI
2021. NTA9-TA21: Digital, Direkt, Demokratisch? Technikfolgenabschätzung und die Zukunft der Demokratie (2021), Online, 10.–12. Mai 2021
Collecting Data, Tracing & Tracking
2021. Big Data-Hype: Aus den Augen, aus dem Sinn? „Das Öl des 21. Jahrhunderts“: Früh wieder still und zur Selbstverständlichkeit geworden ("Deep Dive" Online-Experten-Roundtable 2021), Köln, Deutschland, 10. März 2021
Herausforderungen bei der Regulierung von Deepfakes
2021. Fachkonferenz „Vertrauen im Zeitalter KI-gestützter Bots und Fakes: Herausforderungen und mögliche Lösungen“ (2021), Online, 4. November 2021
Fakten, Fakes, Deep fakes? Die Rolle von KI in der öffentlichen Meinungsbildung
2021. KIT-Alumni Talk (2021), Online, 16. November 2021
Technikfolgenabschätzung für eine digitale Arbeitswelt
2021. Zukunftsforum Schweinfurt : Robotik und digitale Produktion (2021), Schweinfurt, Deutschland, 7. Juni 2021
Evaluating the Effect of XAI on Understanding of Machine Learning Models
2021. Philosophy of Science meets Machine Learning (2021), Tübingen, Deutschland, 9.–12. November 2021
Militärische KI: Sprachspiele der Autonomie und ihre politischen Folgen [Military AI: Language games of autonomy and their political consequences]
2020. Philosophie der KI - Darmstädter Workshop (2020), Darmstadt, Deutschland, 21. Februar 2020
Sociotechnical weapons: AI myths as national power play
2020. Locating and Timing Matters: Significance and agency of STS in emerging worlds (EASST/4S 2020), Online, 18.–21. August 2020
Kontakt
Karlsruher Institut für Technologie (KIT)
Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Postfach 3640
76021 Karlsruhe
Tel.: 0721 608-26815
E-Mail