Privatheit und weitere Rechte der Bürgerinnen und Bürger schützen vor Missbrauch durch Deepfakes (DEEP-PRISMA)
- Projektteam:
Jahnel, Jutta (Projektleitung ITAS); Dana Mahr
- Förderung:
BMFTR
- Starttermin:
2026
- Endtermin:
2029
- Projektpartner:
Fraunhofer-Institut für System- und Innovationsforschung (ISI); Universität Tübingen, Internationales Zentrum für Ethik in den Wissenschaften (IZEW); Universität Kassel, Fachgebiet Öffentliches Recht, IT-Recht und Umweltrecht
- Forschungsgruppe:
Projektbeschreibung
Im Projekt DEEP-PRISMA werden die Auswirkungen von schädigenden und missbräuchlichen Deepfakes auf die Gesellschaft empirisch untersucht. Darüber hinaus wird die Wirksamkeit bestehender rechtlicher Regelungen und Maßnahmen zum Umgang mit Deepfakes analysiert. Insbesondere sexualisierende, diffamierende und betrügerische Deepfakes stellen nicht nur eine juristische und ethische Herausforderung dar, sondern sind auch als soziokulturelles Phänomen zu verstehen, das historisch gewachsene Macht- und Geschlechter-strukturen reproduziert.
ITAS bringt diese soziale Dimension in den konzeptionellen Rahmen des Forschungsprojektes ein. In Fokusgruppendiskussionen (insbesondere mit Schüler*innen und jungen Erwachsenen als potenziell besonders Betroffenen) wird vertieftes Kontext- und Prozesswissen zu Wahrnehmungen, Erfahrungen und Bewältigungsstrategien im Umgang mit Deepfakes erarbeitet.
Auf dieser Grundlage wird in einem kollaborativen Prozess ein Deepfake-Action-Kit entwickelt. Dieses stellt zielgruppengerechte Handlungsempfehlungen sowie praxisnahe Informationen zu Initiativen und Anlaufstellen für Betroffene von Deepfake-basierten Angriffen bereit. Diese proaktiven Mitigationsmaßnahmen zielen darauf ab, die Resilienz potenziell Betroffener zu stärken. Ergänzend werden bestehende Präventions- und Bildungsansätze berücksichtigt, um Erkenntnisse zur Betroffenenintegration sowie zu wirksamen Awareness-Formaten umzusetzen.
Zusammenfassend lassen sich die übergeordneten Ziele des Projekts DEEP-PRISMA drei Themenbereichen zuordnen:
- Unterstützung von Bürger*innen in der Wahrnehmung ihres Grundrechts auf informationelle Selbstbestimmung sowie weiterer Schutzrechte bei der Nutzung von Kommunikationstechnologien.
- Empirische Untersuchung der Folgen missbräuchlicher Deepfakes für Bürger*innen sowie der Wirksamkeit bestehender Rechte und Regulierungen.
- Kollaborative Erarbeitung von Empfehlungen zur verbesserten Durchsetzung bestehender Regelungen sowie zur Weiterentwicklung gesetzlicher und flankierender gesellschaftlicher Maßnahmen.
Kontakt
Karlsruher Institut für Technologie (KIT)
Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Postfach 3640
76021 Karlsruhe
Tel.: 0721 608-26133
E-Mail
