Home | english  | Sitemap | Impressum | Datenschutz | KIT

Abklärung des Verdachts aufsteigenden Bewusstseins in der Künstlichen Intelligenz (KI-Bewusstsein)

Abklärung des Verdachts aufsteigenden Bewusstseins in der Künstlichen Intelligenz (KI-Bewusstsein)
Projektteam:

Wendland, Karsten (Projektleitung); Christian Wadephul

Förderung:

BMBF / Fördermaßnahme: Innovations- und Technikanalyse (ITA)

Starttermin:

2019

Endtermin:

2020

Forschungsbereich:

Innovationsprozesse und Technikfolgen

Projektbeschreibung

Die Idee einer „erwachenden“, sich selbst bewusst werdenden Künstlichen Intelligenz hat in den vergangenen Jahren zunehmend Popularität erfahren, u.a. durch verbrauchernahe KI-gestützte Systeme wie „Siri“ von Apple und den auf „Alexa“ hörenden Smart Speaker, den eingebürgerten Roboter „Sophia“ und auch IBMs dialogfähigen „Watson“. Renommierte KI-Akteure melden sich begeistert, mahnend oder warnend zu Wort und stellen die Entwicklung einer „Superintelligenz“ in Aussicht, die alles planetarisch Dagewesene in den Schatten stellen und den Menschen in seinen Fähigkeiten überholen werde.

In der KI-Community ist die Fragestellung zum so genannten „maschinellen Bewusstsein“ zwar bekannt, aber kaum systematisch erforscht – das mystisch aufgeladene Nischenthema geht mit dem Risiko einher, sich einen wissenschaftlichen Reputationsschaden einzuhandeln. Gleichzeitig nähren KI-Forschung und -Marketing genau diese Mystik, indem sie vermenschlichende Sprachbilder verwenden, die ein aufkeimendes Bewusstsein verheißen, wenn etwa der Roboter „denkt“ oder „fühlt“, das autonome Fahrzeug mit einer „environment perception“ ausgestattet ist oder das Smart Home „weiß“, wie es seinen Bewohnern „helfen“ kann. Hierdurch werden Redeweisen und Narrative aufgebaut, die in der (medialen) Öffentlichkeit Vorstellungen zu einer „bewussten KI“ verbreiten, ohne dass hierzu wissenschaftlich belastbare Aussagen geliefert würden. Auch der transdisziplinäre Dialog zur Frage, was am sogenannten maschinellen Bewusstsein „dran“ sein könnte, ist bislang kaum vorhanden.

An diesem Defizit setzt das Projekt an mit dem Ziel, eine Abklärung zum Verdacht aufsteigenden Bewusstseins in der KI herbeizuführen, indem bestehende Diskurse analysiert, empirisch untersucht, einschlägige Akteure fächerübergreifend zusammengeführt, offene Fragen identifiziert und bearbeitet werden, ein gemeinsames, transdisziplinär tragfähiges Verständnis erarbeitet wird und die Ergebnisse in den öffentlichen Diskurs eingebracht werden.

Kontakt

Prof. Dr. Karsten Wendland
Karlsruher Institut für Technologie (KIT)
Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Postfach 3640
76021 Karlsruhe

Tel.: 0721 608-22648
E-Mail