Daten, Informationen, Wissen

Die Digitalisierung großer Bereiche der menschlichen Lebenswelt schreitet in schnellem Tempo voran. Sie führt nicht nur zu einem technischen und wirtschaftlichen, sondern auch zu sozialem Wandel. IT-Infrastrukturen sorgen dafür, dass unsere moderne Gesellschaft funktioniert. Vernetzte Informations- und Kommunikationstechnologien machen intelligente Stromnetze, neue medizinische Infrastrukturen, neue Formen industrieller Logistik und Produktion sowie einen raschen Wandel in der Arbeitswelt möglich. Dahinter stecken Algorithmen und riesige Datenmengen, die genauso große Potenziale, wie auch gesellschaftliche Herausforderungen, z.B. an adäquate Regulierung, mit sich bringen.
Die Reichweite und Dynamik der digitalen Transformation spiegelt sich in vielen Projekten am ITAS, etwa zur Governance von und durch Algorithmen, zu ethischen Fragen lernender Systeme, zur fortschreitenden Automatisierung, zu Industrie 4.0 sowie zu den Folgen der Digitalisierung für den Arbeitsmarkt. Von besonderer Bedeutung ist die Frage, wie verantwortlich mit den Entwicklungen der Digitalisierung und konkreten Anwendungen der Künstlichen Intelligenz umgegangen werden kann.
Digitale Arbeit
Technische Fortschritte in der Robotik, Sensorik und in digitalen Verfahren verändern die Arbeitswelt grundlegend. Die digitale Transformation betrifft alle Qualifikationsstufen. Gleichzeitig entstehen neue Geschäftsfelder, für Digitalkonzerne, aber auch für Start-ups. Neben dem Wandel der industriellen Produktion untersucht das ITAS verstärkt Veränderungen im Dienstleistungsbereich: Im EU-Projekt Crowdwork 21 steht beispielsweise das Phänomen der Plattformarbeit, bei der Arbeitsaufgaben über das Netz verteilt werden, im Mittelpunkt.
Governance und Algorithmen
Sei es bei Fragen der Vergabe von Krediten, Arbeitsstellen oder Studienplätzen, der Bemessung juristischer Strafen oder sogar bei der Identifizierung von Terroristen. Immer häufiger „sprechen“ Computersysteme bei Entscheidungen mit, die die Möglichkeiten der freien Persönlichkeitsentfaltung maßgeblich beeinflussen. Das ITAS untersucht Diskriminierungsrisiken durch Algorithmen und beschäftigt sich im Projekt GOAL mit Strukturen und Gestaltungsmöglichkeiten der Governance von Algorithmen, insbesondere im Hinblick auf Risiken für Grundrechte und weitere gesellschaftliche Werte.
Künstliche Intelligenz
Ein weiterer Forschungsschwerpunkt am ITAS sind lernende Systeme. Forschende untersuchen hier die zentrale Frage nach dem gesellschaftlichen Vertrauen in Technologien, die Künstliche Intelligenz einsetzen. Für das Europäische Parlament nimmt das ITAS politische Optionen im Umgang mit Deepfakes – mittels KI manipulierte, aber realistisch wirkende Foto, Audio- und Videoaufnahmen – in den Blick. Darüber hinaus untersuchen die Forschenden auch gesellschaftliche Perspektiven auf Digitalisierung und den Einsatz von KI in Landwirtschaft und Bioökonomie, etwa im Projekt DESIRA. Auch vorherrschende Diskurse und Erwartungen, wie die Idee einer sich selbst bewussten, den Menschen übertreffenden Künstlichen Intelligenz, sind Gegenstand der Forschung.
(Un-)Sicherheit, Risiko und Politik
Sicherheit hat eine große Bedeutung für moderne Gesellschaften. Dennoch oder gerade deshalb müssen sie ständig mit Unsicherheit umgehen. Insbesondere die Politik kann bei ihren Entscheidungen oft nur auf unsicheres Wissen zurückgreifen. Das Projekt MOTRA analysiert exemplarisch, wie im Themenfeld der Extremismusprävention das Streben nach Sicherheit und das Entstehen neuer Unsicherheit miteinander verschränkt sind.
Projekte zum Thema
- EU-Projekt Crowdwork
- Diskriminierungsrisiken durch Algorithmen
- Governance von und durch Algorithmen (GOAL)
- Gesellschaftlichen Vertrauen in lernende Systeme
- Umgang mit Deepfakes im neuen KI-Rechtsrahmen
- Abklärung des Verdachts aufsteigenden Bewusstseins in der Künstlichen Intelligenz (KI-Bewusstsein)
- MOTRA-TM – Technologiemonitoring im Rahmen des Verbundprojektes „Monitoringsystem und Transferplattform Radikalisierung
- DESIRA - Ökonomische und soziale Auswirkungen der Digitalisierung im ländlichen Raum
Zur vollständigen Projektliste
Expertinnen und Experten
Digitale Arbeit: Dr. Linda Nierling
Digitalisierung in der Landwirtschaft: Dr. Christine Rösch
Governance von/durch Algorithmen: Dr. Carsten Orwat
Künstliche Intelligenz: Prof. Dr. Karsten Wendland
(Un-)Sicherheit, Risiko und Politik: Dr. Christian Büscher, PD Dr. Isabel Kusche
Publikationen zum Thema
Verheißung, Verdammung oder einfach ein Selbstmissverständnis? Sprachkritische Überlegungen zum Umgang mit KI und ihren Beschreibungen.
2021. Künstliche Intelligenz : Die große Verheißung. Hrsg.: A. Strasser, 221–240, xenomoi verlag e.K
Freiwilligenarbeit als Arbeit : Potenziale und Grenzen im Lichte der Anerkennungstheorie.
2020. Voluntaris, 8 (1), 41–56. doi:10.5771/2196-3886-2020-1-41
The Landscape of Crowd work in Germany An overview of the scientific and public discourse.
2020. Karlsruher Institut für Technologie (KIT). doi:10.5445/IR/1000123935
Prospektive Weiterbildung für Industrie 4.0: Analyse- und Gestaltungsperspektiven.
2020. Digitale Welt – Herausforderungen für die berufliche Bildung und die Professionalität der Lehrenden : Ergebnisse des 5. und 6. Chinesisch-Deutschen Workshops zur Berufsbildungsforschung. Hrsg.: W. Jiping, 157–186, Eusl
Risks of Discrimination through the Use of Algorithms. A study compiled with a grant from the Federal Anti-Discrimination Agency.
2020. Federal Anti-Discrimination Agency. doi:10.5445/IR/1000123477
Risikoregulierung der KI: normative Herausforderungen und politische Entscheidungen. Stellungnahme zum Weißbuch der Europäischen Kommission „Zur Künstlichen Intelligenz ‒ ein europäisches Konzept für Exzellenz und Vertrauen“.
2020. Karlsruher Institut für Technologie (KIT). doi:10.5445/IR/1000121489
Robotik und die Zuschreibung von Bewusstsein.
2019. EZW-Texte, (264), 27–35
Digitalisierung und erweiterte Arbeit.
2019. Tätigsein in der Postwachstumsgesellschaft. Hrsg.: I. Seidl, 175–190, Metropolis
Diskriminierungsrisiken durch Verwendung von Algorithmen : Eine Studie erstellt mit einer Zuwendung der Antidiskriminierungsstelle des Bundes.
2019. Nomos Verlagsgesellschaft