Umgang mit Deepfakes im neuen KI-Rechtsrahmen

Projektbeschreibung

Der Begriff „Deepfake“ setzt sich zusammen aus den Begriffen „Deep Learning“ und „Fake“ und beschreibt realistisch wirkende Medieninhalte (Foto, Audio und Video), welche durch Techniken der künstlichen Intelligenz abgeändert und/oder verfälscht werden. Die Manipulation von Medien ist an sich kein neues Phänomen, doch Deepfakes nutzen Methoden des maschinellen Lernens und künstlicher neuronaler Netzwerke, um Fälschungen weitgehend autonom zu erzeugen. Weiterhin unterstützen leicht nutzbare und kostengünstige Software und Apps die Ausbreitung derartiger Produkte und Dienstleistungen. Zudem führen der zunehmend visuell basierte Medienkonsum sowie die digitale Durchdringung des Alltags zur Verstärkung dieses neuen Phänomens.

Zwar gibt es durchaus nützliche Anwendungen von Deepfakes im Bereich der Bildung, der Kunst und auch der Medizin, doch sind gerade im Feld öffentlicher Meinungsbildung eine Vielzahl von Risiken zu benennen: Diese liegen nicht nur auf der individuellen Ebene, sondern besitzen auch durch die mögliche Desinformation und Beeinflussung demokratischer Prozesse eine gesamtgesellschaftliche Dimension.

Im Rahmen des Projekts werden Literaturanalysen und Experteninterviews durchgeführt, um Deepfake-Techniken, künftige Anwendungsszenarien und ihre ökonomischen, sozialen, ethischen und rechtlichen Auswirkungen in den Blick zu nehmen. Anhand der Ergebnisse werden politische Optionen entwickelt, die für die Ausschüsse des Europäischen Parlaments, einschließlich des neuen Sonderausschusses für künstliche Intelligenz (AIDA), relevant sind und die aktuellen Aktivitäten der Europäischen Kommission begleiten. Diese hat in ihrem Weißbuch einen Rahmen für einen künftigen Gesetzesvorschlag zum Umgang mit Risiken durch künstliche Intelligenz vorgestellt.

Das ITAS Team wird in Experteninterviews mit relevanten Akteuren aus Wissenschaft, NGOs und Unternehmen die sozialen, ethischen und rechtlichen Aspekte von Deepfake-Technologien adressieren. Es werden Auswirkungen auf einzelne Personen, auf wichtige Sektoren und Bereiche wie z. B. die sozialen Medien, aber auch gesamtgesellschaftliche Konsequenzen hinsichtlich der Erosion von Vertrauen in Informationen analysiert. Zudem bearbeitet ITAS die sozialen und ethischen Dimensionen von Deepfakes und entsprechender politischer Optionen.

Die Ergebnisse dieses Projektes fließen außerdem in ein weiteres Projekt der Universität Graz in Zusammenarbeit mit dem ITAS ein: „Wie Desinformation die Demokratie ins Wanken bringt“. Das Projekt soll vermitteln, welche Strategien die EU gegen Fake News und Desinformation verfolgt und was wir alle gegen die Verbreitung falscher Nachrichten tun können. Dazu wird ein Diskussionsforum mit Bürger*innen aus Graz und Karlsruhe angeboten.

Kontakt

Dr. Jutta Jahnel
Karlsruher Institut für Technologie (KIT)
Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Postfach 3640
76021 Karlsruhe

Tel.: 0721 608-26133
E-Mail