Deepfakes: Annäherung an vielschichtiges Phänomen

Deepfakes sind realistisch wirkende Fotos, Audios oder Videos, die durch KI-Technologien manipuliert und weitgehend autonom erzeugt werden. Die Technik eröffnet neue Möglichkeiten für Kunst, Medizin und Bildung – birgt allerdings auch erhebliche Gefahren. „Deepfakes können zur Verbreitung von Fake News und Desinformation genutzt werden oder einzelne Personen diskreditieren“, sagt Jutta Jahnel, die sich am ITAS mit den Folgen dieser Technologie beschäftigt. „Sie sind zudem eine ernste Gefahr für Wissenschaft und Demokratie, da diese Systeme besonders auf eine belastbare Faktenbasis angewiesen sind“, so die Expertin für die Technikfolgenabschätzung zu lernenden Systemen.

Vor diesem Hintergrund will ein vom ITAS geleitetes Projekt nun die Perspektiven verschiedener Disziplinen für eine verantwortungsvolle Nutzung der neuen technischen Möglichkeiten berücksichtigen. Mit an Bord sind neben der Technikfolgenabschätzung die Informatik, Kommunikations- und Rechtwissenschaft sowie die qualitative Sozialforschung des KIT. Über Disziplingrenzen hinweg wollen die Forschenden die gesellschaftlichen Auswirkungen von Deepfakes und Desinformation herausarbeiten und Lücken bestehender Regulierungsvorschläge identifizieren. Dabei berücksichtigen sie auch die Interessen und Bedürfnisse gesellschaftlicher Akteure aus Politik, Wissenschaft, Journalismus sowie von Bürgerinnen und Bürgern. Eine geplante Pilotstudie soll insbesondere die Nutzer und Nutzerinnen in den Blick nehmen.

Aufbauen kann das Projektteam auf Ergebnissen eines Forschungsprojekts für das Panel for the Future of Science and Technology (STOA) des Europäischen Parlaments. Forschende des ITAS haben dabei zusammen mit Kolleginnen und Kollegen aus den Niederlanden, Tschechien und Deutschland (Fraunhofer ISI) die Regulierung von Deepfakes in der EU untersucht. Ihr Abschlussbericht wird Mitte Oktober offiziell vorgestellt. Er empfiehlt unter anderem, nicht nur die Herstellung von Deepfakes zu regulieren, sondern insbesondere die Umstände ihrer gesellschaftlichen Verbreitung und Rezeption in den Blick zu nehmen. (20.10.21)