Clarification of suspicion of consciousness in artificial intelligence (AI consciousness)

Project description

The idea of an “awakening”, self-aware, and conscious artificial intelligence has become increasingly popular in recent years, among others through consumer-friendly AI-based systems such as “Siri” from Apple and “Alexa” as interactive smart speaker, the established robot “Sophia”, and also IBM’s interoperable “Watson”. Renowned AI protagonists speak enthusiastically, admonishingly, or warningly of the potential development of a “superintelligence” which will overshadow anything ever in the world and which will overtake the abilities of mankind.

Within the AI community, the question of so-called “machine consciousness” is not new, but there is little systematic research on this topic. In scientific communities, the mystically charged niche topic involves the risk of damaging the scientific reputation. At the same time, AI research and marketing nurture this mystique through humanizing metaphors that promise a budding consciousness, such as the robot “thinks” or “feels”, the autonomous vehicle is equipped with an “environment perception”, or the smart home “knows” how it can “help” its occupants. In this way, parlances and narratives are built up that disseminate ideas about a “conscious AI” in the public media without relying on scientifically robust evidence. Also, the transdisciplinary dialogue on the question of what truth might lie behind the so-called machine consciousness so far hardly exists.

The project addresses this deficit with the aim of clarifying the rising “awareness of AI” by empirically analyzing existing discourses, bringing together relevant actors across disciplines, identifying open questions and addressing them in accompanying research, developing a common, transdisciplinary understanding, and bringing the results into public discourse.

Project website: www.ki-bewusstsein.de

Publications


2021
Book Chapters
Gutmann, M.; Haag, M.-C.; Wadephul, C.
Verheißung, Verdammung oder einfach ein Selbstmissverständnis? Sprachkritische Überlegungen zum Umgang mit KI und ihren Beschreibungen.
2021. Künstliche Intelligenz : Die große Verheißung. Hrsg.: A. Strasser, 221–240, xenomoi verlag e.K 
Wendland, K.
Menschenbild ohne Menschen : Subjektkonstitution im Spiegel synthetischer Konkurrenz.
2021. Wer bist du, Mensch? : Transformationen menschlicher Selbstverständnisse im wissenschaftlich-technischen Fortschritt. Hrsg.: A. Grunwald, 240–259, Herder 
Presentations
Wendland, K.
Digitalisierung | Künstliche Intelligenz | Robotik.
2021, October 8. Herbsttagung der Deutschen Gesellschaft für Feuerfest- und Schornsteinbau (dgfs 2021), Ludwigsburg, Germany, October 7–8, 2021 
Wendland, K.
In Liaison mit der KI: Was Menschen glauben und Maschinen tun.
2021. ZAK-Talk, KIT Science Week (2021), Karlsruhe, Germany, October 9, 2021 
Wendland, K.
Bewusstsein von Maschinen: Was Menschen glauben und Maschinen tun.
2021. Integrata Akademie Public : Ethik und Künstliche Intelligenz (2021), Online, October 1, 2021 
Wendland, K.
Vom Glauben an Künstliches Bewusstsein – Was Menschen denken und Computer tun.
2021. Ringvorlesung "Data Literacy" ZAK (2021), Karlsruhe, Germany, January 20, 2021 
Science Communication on the Internet
2020
Presentations
Wadephul, C.
(Bio- und anthropomorphe) Metaphorik in der Rede über KI und Robotik - Vermeidbares Missverständnis oder notwendiges Übel?.
2020. KI und interkulturelle Robotik - China-Kooperationsworkshop (2020), Online, November 30–December 1, 2020 
Wendland, K.
Narrative der KI.
2020. ExperimentierMahlZeiten (EMZ) "Künstliche Intelligenz (KI)", FhG-ISI (2020), Karlsruhe, Germany, November 30, 2020 
Wendland, K.
Ist ‚Bewusste KI’ der nächste evolutionäre Schritt oder nur eine schlechte Imitation von uns selbst?.
2020, October 16. KAS-Seminar der Stipendiaten der Konrad-Adenauer-Stiftung (2020), Karlsruhe, Germany, October 16, 2020 
Wendland, K.
Wie wollen wir leben? Gestaltung unserer technologischer Zukünfte mit Blick auf Indien, der größten Demokratie der Welt.
2020. BvD-Herbstkonferenz Datenschutz 2020 - Datenschutz und Behördentag - Gemeinsame Konferenz von 3 Aufsichtsbehörden und dem BvD - Wirtschaft trifft Aufsicht – "Daten sammeln - mobil – international – legal(?)" (2020), Mannheim, Germany, October 14–16, 2020 
Wendland, K.
Technik-Ethik – Was sollten wir tun und lassen?.
2020, July 13. Rotary-Club Aalen-Heidenheim Tagung: Technikethik: Was wir tun und was wir lassen sollten (2020), Online, July 13, 2020 
Wendland, K.
Verschwimmen die Grenzen zwischen Mensch und Maschine? : Reden wir deshalb bei Maschinen von „Künstlicher Intelligenz“?.
2020, March 12. „Der Dialog geht weiter zu …“ Die Herrschaft der Algorith­men. Vom Umgang mit „Künst­li­cher Intel­li­genz“ in Sprache und Codierung : Diskus­si­ons­abend des Karlsruher Forum für Kultur, Recht und Technik e.V. (2020), Karlsruhe, Germany, March 12, 2020 
Wendland, K.
Künstliche Intelligenz – Was können wir erwarten? Blick zum Horizont.
2020, March 10. 39. Infotag für Technische Dokumentation der SL innovativ GmbH (2020), Dinkelsbühl, Germany, March 9, 2020 
Wendland, K.
Expectations on AI Consciousness What People Imagine and Computers do.
2020. 2nd Pune International Business Summit (2020), Pune, India, February 4, 2020 
Wendland, K.
Erwartungen an KI-Bewusstsein. Wie der Geist in die Maschine gebracht werden soll.
2020. KIT Business Club (2020), Karlsruhe, Germany, January 28, 2020 
Wendland, K.
KI-Bewusstsein.
2020. ITAFORUM des BMBF (2020), Berlin, Germany, January 22, 2020 
2019
Journal Articles
Arnold, H.; Wendland, K., [Interviewter].
Die Entmystifizierung der KI. Maschinen mit Bewusstsein – und die Folgen.
2019. Markt & Technik, (44), 22–24 
Heil, R.; Wendland, K.; Wadephul, C.
Robotik und die Zuschreibung von Bewusstsein.
2019. EZW-Texte, (264), 27–35 
Wendland, K.
"Im Fokus" Künstliche Intelligenz.
2019. dgfs-echo, 1 (19), 26–28 
Presentations
Wadephul, C.
Maschinelles Bewusstsein - Science Fiction oder realistisches Szenario?.
2019. Von Technik bis Künstlicher Intelligenz: Geistes- und Sozialwissenschaftliche Perspektiven (2019), Shanghai, China, October 10, 2019 
Wendland, K.
Wie viel Hirn hat die Künstliche Intelligenz? Alles nur Science Fiction, oder wird es langsam ernst?.
2019. Vortragsreihe Katholisches Bildungswerk Stuttgart (2019), Stuttgart, Germany, November 5, 2019 
Wendland, K.
Wird die Krone der Schöpfung auf ein neues Haupt gesetzt? Bewusste KI-Systeme im Fokus technischer Entwicklungen.
2019. Die Herrschaft der Algorithmen. Konferenz zur Interaktion von Mensch und KI. Karlsruher Forum für Kultur, Recht und Technik (2019), Karlsruhe, Germany, October 17, 2019 
Wendland, K.
Wird die Krone der Schöpfung auf ein neues Haupt umgesetzt? Bewusste KI-Systeme im Fokus technischer Entwicklungen.
2019. 11. Digitale Bildung mit und gegen künstilche Intelligenz – survival of the fittest!? Wissenschaft trifft Praxis (AKAD Forum 2019), Stuttgart, Germany, September 18, 2019 
Wendland, K.
Expectations on AI Consciousness.
2019. Somaiya Vidyavihar Public Lecture (2019), Mumbai, India, August 21, 2019 
Wendland, K.
Industry 4.0 and the Future of Artificial Intelligence.
2019. NMIMS University Public Lecture (2019), Mumbai, India, August 20, 2019 
Wendland, K.
Expectations on AI Consciousness.
2019. MIT Aurangabad Invited Talk (2019), Aurangabad, India, August 22, 2019 
Wendland, K.
Industry 4.0 and the Future of Artificial Intelligence.
2019. IMC Mumbai Board of Directors Discussion Circle (2019), Mumbai, India, August 19, 2019 
2018
Presentations
Wendland, K.
Das Wesen der Technik : Zugänge zum Maschinellen Bewusstsein.
2018. IGPP-Kolloquium (2018), Freiburg, Germany, April 11, 2018 

Contact

Prof. Dr. Karsten Wendland
Karlsruhe Institute of Technology (KIT)
Institute for Technology Assessment and Systems Analysis (ITAS)
P.O. Box 3640
76021 Karlsruhe
Germany

Tel.: +49 721 608-22648
E-mail