Abklärung des Verdachts aufsteigenden Bewusstseins in der Künstlichen Intelligenz (KI-Bewusstsein)

Projektbeschreibung

Die Idee einer „erwachenden“, sich selbst bewusst werdenden Künstlichen Intelligenz hat in den vergangenen Jahren zunehmend Popularität erfahren, u.a. durch verbrauchernahe KI-gestützte Systeme wie „Siri“ von Apple und den auf „Alexa“ hörenden Smart Speaker, den eingebürgerten Roboter „Sophia“ und auch IBMs dialogfähigen „Watson“. Renommierte KI-Akteure melden sich begeistert, mahnend oder warnend zu Wort und stellen die Entwicklung einer „Superintelligenz“ in Aussicht, die alles planetarisch Dagewesene in den Schatten stellen und den Menschen in seinen Fähigkeiten überholen werde.

In der KI-Community ist die Fragestellung zum so genannten „maschinellen Bewusstsein“ zwar bekannt, aber kaum systematisch erforscht – das mystisch aufgeladene Nischenthema geht mit dem Risiko einher, sich einen wissenschaftlichen Reputationsschaden einzuhandeln. Gleichzeitig nähren KI-Forschung und -Marketing genau diese Mystik, indem sie vermenschlichende Sprachbilder verwenden, die ein aufkeimendes Bewusstsein verheißen, wenn etwa der Roboter „denkt“ oder „fühlt“, das autonome Fahrzeug mit einer „environment perception“ ausgestattet ist oder das Smart Home „weiß“, wie es seinen Bewohnern „helfen“ kann. Hierdurch werden Redeweisen und Narrative aufgebaut, die in der (medialen) Öffentlichkeit Vorstellungen zu einer „bewussten KI“ verbreiten, ohne dass hierzu wissenschaftlich belastbare Aussagen geliefert würden. Auch der transdisziplinäre Dialog zur Frage, was am sogenannten maschinellen Bewusstsein „dran“ sein könnte, ist bislang kaum vorhanden.

An diesem Defizit setzt das Projekt an mit dem Ziel, eine Abklärung zum Verdacht aufsteigenden Bewusstseins in der KI herbeizuführen, indem bestehende Diskurse analysiert, empirisch untersucht, einschlägige Akteure fächerübergreifend zusammengeführt, offene Fragen identifiziert und bearbeitet werden, ein gemeinsames, transdisziplinär tragfähiges Verständnis erarbeitet wird und die Ergebnisse in den öffentlichen Diskurs eingebracht werden.

Projekt-Website: www.ki-bewusstsein.de

Publikationen


2021
Buchaufsätze
Gutmann, M.; Haag, M.-C.; Wadephul, C.
Verheißung, Verdammung oder einfach ein Selbstmissverständnis? Sprachkritische Überlegungen zum Umgang mit KI und ihren Beschreibungen.
2021. Künstliche Intelligenz : Die große Verheißung. Hrsg.: A. Strasser, 221–240, xenomoi verlag e.K 
Wendland, K.
Menschenbild ohne Menschen : Subjektkonstitution im Spiegel synthetischer Konkurrenz.
2021. Wer bist du, Mensch? : Transformationen menschlicher Selbstverständnisse im wissenschaftlich-technischen Fortschritt. Hrsg.: A. Grunwald, 240–259, Herder 
Zeitschriftenaufsätze
Wendland, K.
Technikethik im Jahr 2021.
2021. Technische Kommunikation, 43 (6), 16–21 
Vorträge
Wendland, K.
Technik-Ethik – Was nicht in der Betriebsanleitung steht.
2021. Regionalgruppentreffen 10/2021, tekom Regionalgruppe Sachsen (2021), Dresden, Deutschland, 25. Oktober 2021 
Wendland, K.
Digitalisierung | Künstliche Intelligenz | Robotik.
2021, Oktober 8. Herbsttagung der Deutschen Gesellschaft für Feuerfest- und Schornsteinbau (dgfs 2021), Ludwigsburg, Deutschland, 7.–8. Oktober 2021 
Wendland, K.
In Liaison mit der KI: Was Menschen glauben und Maschinen tun.
2021. ZAK-Talk, KIT Science Week (2021), Karlsruhe, Deutschland, 9. Oktober 2021 
Wendland, K.
Bewusstsein von Maschinen: Was Menschen glauben und Maschinen tun.
2021. Integrata Akademie Public : Ethik und Künstliche Intelligenz (2021), Online, 1. Oktober 2021 
Wendland, K.
Vom Glauben an Künstliches Bewusstsein – Was Menschen denken und Computer tun.
2021. Ringvorlesung "Data Literacy" ZAK (2021), Karlsruhe, Deutschland, 20. Januar 2021 
Wissenschaftskommunikation im Internet
2020
Vorträge
Wadephul, C.
(Bio- und anthropomorphe) Metaphorik in der Rede über KI und Robotik - Vermeidbares Missverständnis oder notwendiges Übel?.
2020. KI und interkulturelle Robotik - China-Kooperationsworkshop (2020), Online, 30. November–1. Dezember 2020 
Wendland, K.
Narrative der KI.
2020. ExperimentierMahlZeiten (EMZ) "Künstliche Intelligenz (KI)", FhG-ISI (2020), Karlsruhe, Deutschland, 30. November 2020 
Wendland, K.
Ist ‚Bewusste KI’ der nächste evolutionäre Schritt oder nur eine schlechte Imitation von uns selbst?.
2020, Oktober 16. KAS-Seminar der Stipendiaten der Konrad-Adenauer-Stiftung (2020), Karlsruhe, Deutschland, 16. Oktober 2020 
Wendland, K.
Wie wollen wir leben? Gestaltung unserer technologischer Zukünfte mit Blick auf Indien, der größten Demokratie der Welt.
2020. BvD-Herbstkonferenz Datenschutz 2020 - Datenschutz und Behördentag - Gemeinsame Konferenz von 3 Aufsichtsbehörden und dem BvD - Wirtschaft trifft Aufsicht – "Daten sammeln - mobil – international – legal(?)" (2020), Mannheim, Deutschland, 14.–16. Oktober 2020 
Wendland, K.
Technik-Ethik – Was sollten wir tun und lassen?.
2020, Juli 13. Rotary-Club Aalen-Heidenheim Tagung: Technikethik: Was wir tun und was wir lassen sollten (2020), Online, 13. Juli 2020 
Wendland, K.
Verschwimmen die Grenzen zwischen Mensch und Maschine? : Reden wir deshalb bei Maschinen von „Künstlicher Intelligenz“?.
2020, März 12. „Der Dialog geht weiter zu …“ Die Herrschaft der Algorith­men. Vom Umgang mit „Künst­li­cher Intel­li­genz“ in Sprache und Codierung : Diskus­si­ons­abend des Karlsruher Forum für Kultur, Recht und Technik e.V. (2020), Karlsruhe, Deutschland, 12. März 2020 
Wendland, K.
Künstliche Intelligenz – Was können wir erwarten? Blick zum Horizont.
2020, März 10. 39. Infotag für Technische Dokumentation der SL innovativ GmbH (2020), Dinkelsbühl, Deutschland, 9. März 2020 
Wendland, K.
Expectations on AI Consciousness What People Imagine and Computers do.
2020. 2nd Pune International Business Summit (2020), Pune, Indien, 4. Februar 2020 
Wendland, K.
Erwartungen an KI-Bewusstsein. Wie der Geist in die Maschine gebracht werden soll.
2020. KIT Business Club (2020), Karlsruhe, Deutschland, 28. Januar 2020 
Wendland, K.
KI-Bewusstsein.
2020. ITAFORUM des BMBF (2020), Berlin, Deutschland, 22. Januar 2020 
2019
Zeitschriftenaufsätze
Arnold, H.; Wendland, K., [Interviewter].
Die Entmystifizierung der KI. Maschinen mit Bewusstsein – und die Folgen.
2019. Markt & Technik, (44), 22–24 
Heil, R.; Wendland, K.; Wadephul, C.
Robotik und die Zuschreibung von Bewusstsein.
2019. EZW-Texte, (264), 27–35 
Wendland, K.
"Im Fokus" Künstliche Intelligenz.
2019. dgfs-echo, 1 (19), 26–28 
Vorträge
Wadephul, C.
Maschinelles Bewusstsein - Science Fiction oder realistisches Szenario?.
2019. Von Technik bis Künstlicher Intelligenz: Geistes- und Sozialwissenschaftliche Perspektiven (2019), Shanghai, China, 10. Oktober 2019 
Wendland, K.
Wie viel Hirn hat die Künstliche Intelligenz? Alles nur Science Fiction, oder wird es langsam ernst?.
2019. Vortragsreihe Katholisches Bildungswerk Stuttgart (2019), Stuttgart, Deutschland, 5. November 2019 
Wendland, K.
Wird die Krone der Schöpfung auf ein neues Haupt gesetzt? Bewusste KI-Systeme im Fokus technischer Entwicklungen.
2019. Die Herrschaft der Algorithmen. Konferenz zur Interaktion von Mensch und KI. Karlsruher Forum für Kultur, Recht und Technik (2019), Karlsruhe, Deutschland, 17. Oktober 2019 
Wendland, K.
Wird die Krone der Schöpfung auf ein neues Haupt umgesetzt? Bewusste KI-Systeme im Fokus technischer Entwicklungen.
2019. 11. Digitale Bildung mit und gegen künstilche Intelligenz – survival of the fittest!? Wissenschaft trifft Praxis (AKAD Forum 2019), Stuttgart, Deutschland, 18. September 2019 
Wendland, K.
Expectations on AI Consciousness.
2019. Somaiya Vidyavihar Public Lecture (2019), Mumbai, Indien, 21. August 2019 
Wendland, K.
Industry 4.0 and the Future of Artificial Intelligence.
2019. NMIMS University Public Lecture (2019), Mumbai, Indien, 20. August 2019 
Wendland, K.
Expectations on AI Consciousness.
2019. MIT Aurangabad Invited Talk (2019), Aurangabad, Indien, 22. August 2019 
Wendland, K.
Industry 4.0 and the Future of Artificial Intelligence.
2019. IMC Mumbai Board of Directors Discussion Circle (2019), Mumbai, Indien, 19. August 2019 
2018
Vorträge
Wendland, K.
Das Wesen der Technik : Zugänge zum Maschinellen Bewusstsein.
2018. IGPP-Kolloquium (2018), Freiburg im Breisgau, Deutschland, 11. April 2018 

Kontakt

Prof. Dr. Karsten Wendland
Karlsruher Institut für Technologie (KIT)
Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Postfach 3640
76021 Karlsruhe

Tel.: 0721 608-22648
E-Mail