Die Digitalisierung großer Bereiche der menschlichen Lebenswelt schreitet in schnellem Tempo voran. Sie führt nicht nur zu einem technischen und wirtschaftlichen, sondern auch zu sozialem Wandel. IT-Infrastrukturen sorgen dafür, dass unsere moderne Gesellschaft funktioniert. Vernetzte Informations- und Kommunikationstechnologien machen intelligente Stromnetze, neue medizinische Anwendungen und neue Formen der Arbeit möglich. Dahinter stecken Algorithmen und riesige Datenmengen, die genauso große Potenziale, wie auch gesellschaftliche Herausforderungen, z.B. an adäquate Regulierung, mit sich bringen.
Die Reichweite und Dynamik der digitalen Transformation spiegelt sich in vielen Projekten am ITAS. Forschende bearbeiten zum einen konzeptionelle Fragen, etwa zu Vertrauen und Risiko, Governance von und durch Algorithmen oder zur Ethik lernender Systeme. Zum anderen führen sie Analysen zur fortschreitenden Automatisierung und Digitalisierung der Gesellschaft anhand konkreter digitaler Technologien durch. Von besonderer Bedeutung ist die Frage, wie verantwortlich mit den Entwicklungen der Digitalisierung umgegangen werden kann.
Digitale Arbeit
Technische Fortschritte in der Robotik, Sensorik und in digitalen Verfahren verändern die Arbeitswelt grundlegend. Die digitale Transformation betrifft alle Qualifikationsstufen. Gleichzeitig entstehen neue Geschäftsfelder, für Digitalkonzerne, aber auch für Start-ups. Neben dem Wandel der industriellen Produktion untersucht das ITAS verstärkt Veränderungen im Dienstleistungsbereich: Im EU-Projekt Crowdwork 21 steht beispielsweise das Phänomen der Plattformarbeit, bei der Arbeitsaufgaben über das Netz verteilt werden, im Mittelpunkt. Hierbei werden nicht zuletzt auch Visionen für eine gelingende Gestaltung der digitalen Transformation der Arbeitswelt in den Blick genommen.
Governance und Algorithmen
Sei es bei Fragen der Vergabe von Krediten, Arbeitsstellen oder Studienplätzen, der Bemessung juristischer Strafen oder sogar bei der Identifizierung von Terroristen. Immer häufiger „sprechen“ Computersysteme bei Entscheidungen mit, die die Möglichkeiten der freien Persönlichkeitsentfaltung maßgeblich beeinflussen. Das ITAS untersucht Diskriminierungsrisiken durch Algorithmen und beschäftigt sich im Projekt GOAL mit Strukturen und Gestaltungsmöglichkeiten der Governance von Algorithmen, insbesondere im Hinblick auf Risiken für Grundrechte und weitere gesellschaftliche Werte.
Künstliche Intelligenz
Ein weiterer Forschungsschwerpunkt am ITAS sind lernende Systeme. Forschende untersuchen die zentrale Frage nach dem gesellschaftlichen Vertrauen in Technologien, die Künstliche Intelligenz einsetzen. So nahm das ITAS beispielsweise politische Optionen im Umgang mit Deepfakes – mittels KI manipulierte, aber realistisch wirkende Foto, Audio- und Videoaufnahmen – für das Europäische Parlament in den Blick. Darüber hinaus untersuchen die Forschenden auch gesellschaftliche Perspektiven auf Digitalisierung und den Einsatz von KI in Landwirtschaft und Bioökonomie, etwa im Projekt DESIRA. Auch vorherrschende Diskurse und gesellschaftliche Bedarfe sind Gegenstand der Forschung, wie zum Beispiel die Gestaltungsoptionen oder die Inklusion benachteiligter Gruppen.
(Un-)Sicherheit, Risiko und Politik
Sicherheit hat eine große Bedeutung für moderne Gesellschaften. Dennoch oder gerade deshalb müssen sie ständig mit Unsicherheit umgehen. Insbesondere die Politik kann bei ihren Entscheidungen oft nur auf unsicheres Wissen zurückgreifen. Das Projekt MOTRA analysiert exemplarisch, wie im Themenfeld der Extremismusprävention das Streben nach Sicherheit und das Entstehen neuer Unsicherheit miteinander verschränkt sind.
Projekte zum Thema
- DESIRA - Ökonomische und soziale Auswirkungen der Digitalisierung im ländlichen Raum
- Diskriminierungsrisiken durch Algorithmen
- EU-Projekt Crowdwork
- Gesellschaftlichen Vertrauen in lernende Systeme
- Governance von und durch Algorithmen (GOAL)
- Graduiertenkolleg KATE (Accessibility through AI-based Assistive technology)
- MOTRA-TM – Technologiemonitoring im Rahmen des Verbundprojektes „Monitoringsystem und Transferplattform Radikalisierung
- Reallabor „Robotische Künstliche Intelligenz“
- Umgang mit Deepfakes im neuen KI-Rechtsrahmen
- Visionen und Best Practices für die digitale Transformation
Zur vollständigen Projektliste
Expertinnen und Experten
- Digitale Arbeit:
Dr. Linda Nierling - Digitalisierung in der Landwirtschaft:
Dr. Christine Rösch - Governance von/durch Algorithmen:
Dr. Carsten Orwat - Künstliche Intelligenz:
Reinhard Heil - (Un-)Sicherheit, Risiko und Politik:
Dr. Christian Büscher
Weiterer Kontakt
Jonas Moosmüller
Presse- und Öffentlichkeitsarbeit
Tel.: +49 721 608-26796
E-Mail
Publikationen zum Thema
Künstliche Intelligenz außer Kontrolle?
2024. TATuP - Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis, 33 (1), 64–67. doi:10.14512/tatup.33.1.64
KI-Textgeneratoren als soziotechnisches Phänomen – Ansätze zur Folgenabschätzung und Regulierung
2024. KI:Text – Diskurse über KI-Textgeneratoren. Ed.: G. Schreiber, 341–354, De Gruyter. doi:10.1515/9783111351490-021
Technology hype : Dealing with bold expectations and overpromising = Technologie-Hype: Der Umgang mit überzogenen Erwartungen und Versprechungen
2023. Oekom Verlag
Technology hypes: Practices, approaches and assessments
2023. TATuP - Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis, 32 (3), 11–16. doi:10.14512/tatup.32.3.11
Die soziomaterielle Konstitution von Cybersicherheit in der Dynamik kritischer Informationsinfrastrukturen
2023. Polarisierte Welten : Verhandlungen des 41. Kongresses der Deutschen Gesellschaft für Soziologie 2022. Hrsg.: P.-I. Villa
Einige ethische Implikationen großer Sprachmodelle
2023. Karlsruher Institut für Technologie (KIT). doi:10.5445/IR/1000158914
MOTRA-Monitor 2022
2023. Monitoringsystem und Transferplattform Radikalisierung (MOTRA). doi:10.53168/ISBN.978-3-9818469-6-6_2023_MOTRA
Ein sicherer Raum für alle – Plädoyer für ein demokratisches und partizipatives Metaverse
2023
Aktuelle Befunde aus dem Technologiemonitoring – Extremismus und Radikalisierung imMetaverse. MOTRA-Spotlight 08/23
2023. Monitoringsystem und Transferplattform Radikalisierung (MOTRA)
Technologiemonitoring: Das Potenzial von Metaverse und KI für extremistische Verwendungszwecke
2023. MOTRA-Monitor 2022. Hrsg.: U. Kemmesies, 226–252, Monitoringsystem und Transferplattform Radikalisierung (MOTRA)
Digitalisierung, Theologie und Technikfolgenabschätzung: Interview mit Gernot Meier
2023. TATuP - Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis, 32 (2), 58–61. doi:10.14512/tatup.32.2.58
Talking AI into Being: The Narratives and Imaginaries of National AI Strategies and Their Performative Politics
2022. Science, technology, & human values, 47 (5), 855–881. doi:10.1177/01622439211030007
Trends der zukünftigen Technologienutzung im Kontext von Extremismus und Terrorismus: erste Erkenntnisse aus dem MOTRA-Technologiemonitoring
2022. Kemmesies, Uwe; Wetzels, Peter; Austin, Beatrix; Büscher, Christian; Dessecker, Axel; Grande, Edgar; Rieger, Diana (Hg.): MOTRA-Monitor 2021, 248–281, Monitoringsystem und Transferplattform Radikalisierung (MOTRA). doi:10.53168/isbn.978-3-9818469-4-2_2022_MOTRA
Drivers, barriers and impacts of digitalisation in rural areas from the viewpoint of experts
2022. Information & software technology, 145, Art.Nr. 106816. doi:10.1016/j.infsof.2021.106816