Die Digitalisierung großer Bereiche der menschlichen Lebenswelt führt nicht nur zu technischem und wirtschaftlichem, sondern auch zu sozialem Wandel. IT-Systeme und ‑Infrastrukturen gewährleisten, dass unsere moderne Gesellschaft funktioniert, bergen aber gleichzeitig auch Risiken – nicht nur in Form von Dysfunktionen, sondern auch in Form zunehmender Ungleichheiten und Ungerechtigkeiten. Die Digitalisierung und insbesondere die Entwicklungen im Feld der künstlichen Intelligenz haben zudem erhebliche Auswirkungen auf wissenschaftliche und politische Entscheidungsprozesse. Die Aufgabe der Technikfolgenabschätzung besteht darin, diese Transformationen zu erforschen und Vorschläge für ihre verantwortungsvolle Gestaltung zu unterbreiten.

Die Reichweite und Dynamik der digitalen Transformation spiegeln sich in vielen Projekten am ITAS wider. Die Forschenden befassen sich zum einen mit konzeptionellen Fragen, etwa zu Vertrauen und Risiko, zur Governance von und durch Algorithmen sowie zur Ethik von KI-Systemen. Zum anderen analysieren sie die fortschreitende Automatisierung und Digitalisierung der Gesellschaft anhand konkreter digitaler Technologien.

Künstliche Intelligenz

KI-Systeme bilden einen wichtigen Forschungsschwerpunkt am ITAS. Untersucht wird beispielsweise die Diskrepanz zwischen ethischen Werten und ihrer praktischen Anwendung in der Technik. Hierfür wird ein Bottom-up-Ansatz zur Operationalisierung der KI-Ethik entwickelt. Weiterhin werden die Auswirkungen von schädigenden und missbräuchlichen Deepfakes auf die Gesellschaft und die Wirksamkeit bestehender rechtlicher Regelungen und Maßnahmen untersucht. Gegenstand der Forschung sind auch systemische und existenzielle Risiken von KI sowie die Auswirkungen generativer KI auf die Wissensbeschaffung, politische Prozesse und menschliche Verhaltensmuster. Darüber hinaus wird den konzeptionellen und empirischen Verflechtungen von Vertrauen, Künstlicher Intelligenz / Maschinellem Lernen und der Smart-Grid-Entwicklung nachgegangen. Adressiert werden auch die Auswirkungen von KI auf Inklusion, u.a. durch eine Untersuchung der Risiken und Unterstützungspotentiale assistiver Technologien für marginalisierte Gruppen untersucht werden. Zudem werden die gesellschaftlichen Bedarfe für Robotik in sozialen Arbeitsbereichen, die besondere Anforderungen an die Mensch-Technik-Interaktion stellen, analysiert und Gestaltungsoptionen erarbeitet.

Außerdem befassen sich die Forschenden mit gesellschaftlichen Perspektiven auf Digitalisierung und den Einsatz von KI in Landwirtschaft und Bioökonomie.

Digitale Arbeit

Im Themenfeld „Digitale Arbeit“ werden der Einsatz und die Folgen von digitalen Technologien mit Blick auf emergierende Technologien wie z.B. generative KI oder Robotik analysiert, mit dem Ziel eine menschen-zentrierte Gestaltung von KI in der Arbeitswelt zu ermöglichen. Veränderungen von Arbeitsprozessen im Zusammenhang mit der Einführung von KI in unterschiedlichen Branchen werden empirisch untersucht und hinsichtlich ihrer sozialen und ethischen Auswirkungen bewertet. Dies umfasst auch Ansätze zur inklusive Software-Entwicklung sowie zur Gestaltung von Arbeitszeiten.

Gegenstand der Forschung sind zudem Visionen für eine gelingende und partizipative Gestaltung der digitalen Transformation.

(Un-)Sicherheit, Risiko und Politik

Moderne Gesellschaften sehen sich mit einer Reihe von digitalen Risiken konfrontiert. Organisationen im Umfeld kritischer Infrastrukturen und insbesondere die Politik streben danach, die Grundlagen gesellschaftlicher Routinen zu sichern, können in ihren Entscheidungen jedoch oft nur auf unsicheres Wissen zurückgreifen. Zudem ist dieses Wissen umkämpft, die digitalen Technologien beschleunigen den Wandel dessen, was zuvor noch als gewiss galt, und die Bedrohungen entwickeln sich dynamisch weiter. In diesem Forschungsschwerpunkt wird das Themenfeld der Extremismusprävention und der Resilienz kritischer (Informations-)Infrastrukturen analysiert, in dem das Streben nach Sicherheit und das Entstehen neuer Unsicherheit miteinander verschränkt sind. 

Governance und Algorithmen

Ob es um die Vergabe von Krediten, Arbeits- oder Studienplätzen, die Bemessung juristischer Strafen oder sogar die Identifizierung von Terroristen geht: Immer häufiger „sprechen“ Computersysteme bei Entscheidungen mit, die einen erheblichen Einfluss auf die Möglichkeiten der freien Persönlichkeitsentfaltung haben. Das ITAS untersucht Diskriminierungsrisiken durch Algorithmen und beschäftigt sich mit Strukturen und Gestaltungsmöglichkeiten der Governance von Algorithmen, insbesondere im Hinblick auf Risiken für Grundrechte und weitere gesellschaftliche Werte.

Digitale Transformation von Forschung

Digitale Technologien und KI verändern die Art und Weise, wie wissenschaftliches Wissen generiert wird, und wie Forschungsergebnisse entstehen; sie ergänzen empirische Forschungsmethoden und wirken sich auf die Publikation und Kommunikation von Forschungsergebnissen aus. Die damit verbundenen Chancen und Herausforderungen werden mit einem Fokus auf Veränderungen im Wissenschaftssystem, aber auch mit Blick auf die Auswirkungen auf Forschungsdaten und Forschungsinfrastrukturen untersucht. Die digitale Transformation wirkt sich auch auf die Technikfolgenabschätzung selbst aus, deshalb werden die Implikationen des Einsatzes von generativer KI für die Technikfolgenabschätzung praktisch erprobt und kontinuierlich reflektiert und computer-gestützte Erhebungsmethoden in Forschungsprojekte integriert.