Die Digitalisierung großer Bereiche der menschlichen Lebenswelt führt nicht nur zu einem technischen und wirtschaftlichen, sondern auch zu sozialem Wandel. IT-Systeme und Infrastrukturen sorgen dafür, dass unsere moderne Gesellschaft funktioniert, bergen aber gleichzeitig Risiken nicht nur von Dysfunktionen, sondern auch der Steigerung von Ungleichheiten und Ungerechtigkeiten. Die Digitalisierung und insbesondere die Entwicklungen im Feld der Künstlichen Intelligenz nehmen zudem wesentlichen Einfluss auf wissenschaftliche sowie politische Entscheidungsprozesse. Aufgabe der Technikfolgenabschätzung ist es diese Transformationen zu erforschen und Vorschläge für ihre verantwortungsvolle Gestaltung zu unterbreiten.

Die Reichweite und Dynamik der digitalen Transformationen spiegeln sich in vielen Projekten am ITAS. Forschende bearbeiten zum einen konzeptionelle Fragen, etwa zu Vertrauen und Risiko, der Governance von und durch Algorithmen oder zur Ethik der KI-Systeme. Zum anderen analysieren sie die fortschreitende Automatisierung und Digitalisierung der Gesellschaft anhand konkreter digitaler Technologien.

Künstliche Intelligenz

Ein wichtiger Forschungsschwerpunkt am ITAS sind KI-Systeme. Untersucht werden die Diskrepanz zwischen ethischen Werten und ihrer praktischen Anwendung in der Technik. Hierfür wird ein Bottom-up-Ansatz zur Operationalisierung der KI-Ethik entwickelt. Es werden die Auswirkungen von schädigenden und missbräuchlichen Deepfakes auf die Gesellschaft und die Wirksamkeit bestehender rechtlicher Regelungen und Maßnahmen untersucht. Gegenstand der Forschung sind auch systemische und existenzielle Risiken von KI sowie die Auswirkungen generativer KI auf die Wissensbeschaffung, politische Prozesse und menschliche Verhaltensmuster. Nachgegangen wird den konzeptionellen und empirischen Verflechtungen von Vertrauen, Künstlicher Intelligenz / Maschinellem Lernen und der Smart-Grid-Entwicklung. Adressiert werden die Auswirkungen von KI auf Inklusion, u.a. indem Risiken und Unterstützungspotentiale assistiver Technologien für marginalisierte Gruppen untersucht werden. Zudem werden die gesellschaftlichen Bedarfe für Robotik in sozialen Arbeitsbereichen, die besondere Anforderungen an die Mensch-Technik-Interaktion stellen, analysiert und Gestaltungsoptionen erarbeitet.

Darüber hinaus untersuchen die Forschenden auch gesellschaftliche Perspektiven auf Digitalisierung und den Einsatz von KI in Landwirtschaft und Bioökonomie.

Digitale Arbeit

Im Themenfeld „Digitale Arbeit“ werden der Einsatz und die Folgen von digitalen Technologien mit Blick auf emergierende Technologien wie z.B. generative KI oder Robotik analysiert, mit dem Ziel eine mensch-zentrierte Gestaltung von KI in der Arbeitswelt zu ermöglichen. Die Veränderung von Arbeitsprozessen im Kontext der Einführung von KI in unterschiedlichen Branchen wird empirisch untersucht und hinsichtlich ihrer sozialen und ethischen Auswirkungen bewertet. Dies umfasst auch Ansätze inklusiver Software-Entwicklung sowie die Gestaltung von Arbeitszeiten.

Gegenstand der Forschung sind zudem Visionen für eine gelingende und partizipative Gestaltung der digitalen Transformation.

(Un-)Sicherheit, Risiko und Politik

Moderne Gesellschaften sehen sich mit einer Reihe von digitalen Risiken konfrontiert. Organisationen im Umfeld kritischer Infrastrukturen und insbesondere die Politik streben danach die Grundlagen gesellschaftlicher Routinen zu sichern, können in ihren Entscheidungen jedoch oft nur auf unsicheres Wissen zurückgreifen. Zudem ist dieses Wissen umkämpft, die digitalen Technologien beschleunigen den Wandel dessen, was zuvor noch als gewiss galt und die Bedrohungen entwickeln sich dynamisch. In diesem Forschungsschwerpunkt wird das Themenfeld der Extremismusprävention sowie die Resilienz kritischer (Informations-)Infrastrukturen analysiert, in dem das Streben nach Sicherheit und das Entstehen neuer Unsicherheit miteinander verschränkt sind. 

Governance und Algorithmen

Sei es bei Fragen der Vergabe von Krediten, Arbeitsstellen oder Studienplätzen, der Bemessung juristischer Strafen oder sogar bei der Identifizierung von Terroristen. Immer häufiger „sprechen“ Computersysteme bei Entscheidungen mit, die die Möglichkeiten der freien Persönlichkeitsentfaltung maßgeblich beeinflussen. Das ITAS untersucht Diskriminierungsrisiken durch Algorithmen und beschäftigt sich mit Strukturen und Gestaltungsmöglichkeiten der Governance von Algorithmen, insbesondere im Hinblick auf Risiken für Grundrechte und weitere gesellschaftliche Werte.

Digitale Transformation von Forschung

Digitale Technologien und KI verändern die Art und Weise, wie wissenschaftliches Wissen generiert wird, wie Forschungsergebnisse entstehen, sie ergänzen empirische Forschungsmethoden und wirken sich auf die Publikation und Kommunikation von Forschungsergebnissen aus. Die damit verbundenen Chancen und Herausforderungen werden mit einem Fokus auf Veränderungen im Wissenschaftssystem, aber auch mit Blick auf Implikationen für Forschungsdaten und Forschungsinfrastrukturen untersucht. Die digitale Transformation betrifft auch die Technikfolgenabschätzung selbst, deshalb werden die Implikationen des Einsatzes von generativer KI für die Technikfolgenabschätzung praktisch erprobt und kontinuierlich reflektiert, sowie computer-gestützte Erhebungsmethoden in Forschungsprojekte integriert.