Gesellschaftliches Vertrauen in lernende Systeme
- Projektteam:
Heil, Reinhard (Projektleitung); Jutta Jahnel, Torsten Fleischer, Linda Nierling, Jascha Bareis, Clemens Ackerl, Christian Wadephul (2020-2021), Pascal Vetter (2020-2022), Leonie Seng
- Starttermin:
2020
- Endtermin:
2025
- Forschungsgruppe:
Projektbeschreibung
1. Projektphase (2020-2022)
Im Rahmen der grundfinanzierten Eigenforschung werden Forschungsfragen bearbeitet, die im Kontext der programmorientierten Förderung zur Profilbildung des ITAS im Helmholtz Forschungsbereich Information im Themenbereich „Lernende Systeme“ beitragen.
Die Schwerpunkte der Forschung sind vor allem die Erarbeitung und Rahmung eines kontextspezifischen Verständnisses von Verfahren, Methoden und Folgen lernender Systeme als „enabling technologies“ sowie Möglichkeiten für einen verantwortungsvollen Umgang mit potentiellen Risiken in unterschiedlichen Anwendungsbereichen. Da bei automatisierten Anwendungen und Entscheidungssystemen auch die übergeordnete Problematik von Vertrauen in Informationssysteme betroffen ist, sollen insbesondere relevante Fragestellungen zum gesellschaftlichen Vertrauen in lernende Systeme erschlossen werden. Hierbei wird auf vorangegangene und parallellaufende Arbeiten der Projektmitglieder zu Risikoforschung, Autonomem Fahren, Automatisierung der Arbeitswelt, Adversarial AI, Explainable AI und Wissenschaftstheorie der Computational Sciences aufgebaut und diese weiterentwickelt bzw. für die Anwendung im Rahmen des Themenfelds fruchtbar gemacht. Eine wichtige Aufgabe des Projekts ist es, die bisher unverbundenen Arbeiten zu diesem Themenfeld am ITAS zusammenzuführen und eine gemeinsame Perspektive zu entwickeln. Hierzu gehört auch die Organisation des Wissenstransfers über Projekt- und Forschungsgruppen hinweg und die Intensivierung der Zusammenarbeit mit Informatikinstituten des KIT.
2. Projektphase (2023-2025)
Während der ersten Projektphase wurde die Annahme bestätigt, dass der Projektschwerpunkt gesellschaftliches Vertrauen in lernende Systeme ein übergreifendes Thema darstellt, das zunehmend an gesellschaftlicher (und politischer) Relevanz gewinnt. Vertrauen wird nicht nur im KI-Diskurs, sondern allgemein im Digitalisierungsdiskurs als wichtige Ressource begriffen.
In der zweiten Projektphase wird die konzeptuelle Arbeit fortgeführt und weiter konkretisiert. Im Zentrum stehen:
- Vertrauen in regulatorische Institutionen und dessen Wechselbeziehung mit dem Vertrauen in KI: Vertrauen in KI muss als soziotechnisches Phänomen begriffen werden, welches über die Technologie hinweg von mehreren Akteuren und politischen Dynamiken beeinflusst wird. Hierzu gehören insbesondere die aktuellen Bemühungen KI auf EU-Ebene zu regulieren. Es mangelt diesem Prozess jedoch nach wie vor an begrifflicher Schärfe und empirischem Wissen.
- Die Relevanz von Vertrauen im Umgang mit Mis- und Desinformationen und dessen Auswirkung auf die gesellschaftliche und politische Meinungsbildung: Künstliche Intelligenz spielt hierbei bereits eine wichtige Rolle und wird noch weiter an Bedeutung gewinnen.
- Die Rolle von Vertrauen in KI-getriebenen Automatisierungsprozessen: Mit Blick auf die hohe Kontextspezifik von Künstlicher Intelligenz werden Vertrauenskonstellation von KI in ausgewählten Kontexten in den Blick genommen, in denen ein großes gesellschaftliches Veränderungspotenzial zu erwarten ist, z. B. Arbeitswelt, Mobilität, Energie.
Publikationen
Trustworthy AI and its regulatory discontents
2023. Austrian Institute of Technology - AI Ethics Lab (2023), Online, 23. März 2023
The Torn Regulatory State: Governing Trustworthy AI in a Contested Field
2023. Deutsches Zentrum für Luft- und Raumfahrt (DLR 2022), Bremerhaven, Deutschland, 19. Januar 2023
Einige ethische Implikationen großer Sprachmodelle
2023. Sondersitzung des HND-BW Lenkungskreises und HND-BW Expert*innenkreises "Standortbestimmung: Auswirkungen von ChatGPT auf Lehre und Studium" (2023), Online, 25. April 2023
Chat GPT und der Tanz um die künstliche Intelligenz
2023. Podiumsdiskussion : CSR-Circle und HR-Circle (2023), Online, 3. Mai 2023
Deepfakes und ChatGPT: Von generierten Gesichtern und stochastischen Papageien
2023. ITA-Seminar der Österreichischen Akademie der Wissenschaften (ÖAW) (2023), Wien, Österreich, 2. Mai 2023
Deepfakes: A growing threat to the EU institutions’ security
2023. Interinstitutional Security and Safety Days (2023), Online, 2. März 2023
Talking AI into Being: The Narratives and Imaginaries of National AI Strategies and Their Performative Politics
2022. Science, technology, & human values, 47 (5), 855–881. doi:10.1177/01622439211030007
Trustworthy AI. What does it actually mean?
2022. WTMC PhD Spring Workshop "Trust and Truth" (2022), Deursen-Dennenburg, Niederlande, 6.–8. April 2022
Two layers of trust: Discussing the relationship of an ethical and a regulatory dimension towards trustworthy AI
2022. Trust in Information (TIIN) Research Group at the Höchstleistungsrechenzentrum (HLRS) Stuttgart (2022), Stuttgart, Deutschland, 16. Februar 2022
Trust (erosion) in AI regulation. Dimensions, Drivers, Contradictions?
2022. 20th Annual STS Conference : Critical Issues in Science, Technology and Society Studies (2022), Graz, Österreich, 2.–4. Mai 2022
"I’m sorry Dave, I’m afraid I can’t do that“ – Von Vertrauen, Verlässlichkeit und babylonischer Sprachverwirrung
2022. 37. AIK-Symposium "Vertrauenswürdige Künstliche Intelligenz" (2022), Karlsruhe, Deutschland, 28. Oktober 2022
Erklären und Vertrauen im Kontext von KI
2022. Fachsymposium ITAS-BAuA "Digitalisierung in der Arbeitswelt: Konzepte, Methoden und Gestaltungsbedarf" (2022), Karlsruhe, Deutschland, 2.–3. November 2022
Künstliche Intelligenz - Einführung für die Jahrgangsstufe 11
2022. Theodor-Heuss-Gymnasium (2022), Mühlacker, Deutschland, 11. Oktober 2022
Künstliche Intelligenz - Einführung für die Jahrgangsstufe 10
2022. Theodor-Heuss-Gymnasium (2022), Mühlacker, Deutschland, 11. Oktober 2022
Was wir von der KI-Regulierung in der digitalen Kommunikation für den Arbeitskontext lernen können
2022. Fachsymposium ITAS-BAuA (2022), Karlsruhe, Deutschland, 3. November 2022
KI in der Digitalen Kommunikation
2022. Medien Triennale Südwest "KI & Medien gemeinsam gestalten" (#MTSW 2022), Saarbrücken, Deutschland, 12. Oktober 2022
Deepfakes & Co: Digital misinformation as a challenge for democratic societies
2022. 5th European Technology Assessment Conference "Digital Future(s). TA in and for a Changing World" (ETAC 2022), Karlsruhe, Deutschland, 25.–27. Juli 2022
Über die Folgen von perfekten Täuschungen und die Herausforderungen für eine multidimensionale Regulierung
2022. "Wie viel Wahrheit vertragen wir?" - Ringvorlesung / Universität Köln (2022), Online, 28. Juni 2022
Deepfakes: die Kehrseite der Kommunikationsfreiheit
2022. Gastvortrag Universität Graz, Siebente Fakultät (2022), Online, 1. Juni 2022
Künstliche Intelligenz/Maschinelles Lernen
2021. Handbuch Technikethik. Hrsg.: A. Grunwald, 424–428, J.B. Metzler. doi:10.1007/978-3-476-04901-8_81
Trust (erosion) in AI regulation : Dimensions, Drivers, Contradictions?
2021. International Lecture Series by Fudan University: Trust and AI (2021), Online, 14. Dezember 2021
Zwischen Agenda, Zwang und Widerspruch. Der liberale Staat und der Fall KI
2021. NTA9-TA21: Digital, Direkt, Demokratisch? Technikfolgenabschätzung und die Zukunft der Demokratie (2021), Online, 10.–12. Mai 2021
Collecting Data, Tracing & Tracking
2021. Big Data-Hype: Aus den Augen, aus dem Sinn? „Das Öl des 21. Jahrhunderts“: Früh wieder still und zur Selbstverständlichkeit geworden ("Deep Dive" Online-Experten-Roundtable 2021), Köln, Deutschland, 10. März 2021
Herausforderungen bei der Regulierung von Deepfakes
2021. Fachkonferenz „Vertrauen im Zeitalter KI-gestützter Bots und Fakes: Herausforderungen und mögliche Lösungen“ (2021), Online, 4. November 2021
Fakten, Fakes, Deep fakes? Die Rolle von KI in der öffentlichen Meinungsbildung
2021. KIT-Alumni Talk (2021), Online, 16. November 2021
Technikfolgenabschätzung für eine digitale Arbeitswelt
2021. Zukunftsforum Schweinfurt : Robotik und digitale Produktion (2021), Schweinfurt, Deutschland, 7. Juni 2021
Evaluating the Effect of XAI on Understanding of Machine Learning Models
2021. Philosophy of Science meets Machine Learning (2021), Tübingen, Deutschland, 9.–12. November 2021
Militärische KI: Sprachspiele der Autonomie und ihre politischen Folgen [Military AI: Language games of autonomy and their political consequences]
2020. Philosophie der KI - Darmstädter Workshop (2020), Darmstadt, Deutschland, 21. Februar 2020
Sociotechnical weapons: AI myths as national power play
2020. Locating and Timing Matters: Significance and agency of STS in emerging worlds (EASST/4S 2020), Online, 18.–21. August 2020
Kontakt
Karlsruher Institut für Technologie (KIT)
Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Postfach 3640
76021 Karlsruhe
Tel.: 0721 608-26815
E-Mail