Interdisziplinäre Zugänge zu Deepfakes

Projektbeschreibung

Der Begriff Deepfake steht für realistisch wirkende Medieninhalte (Foto, Audio und Video), welche durch besondere Techniken der KI manipuliert und weitgehend autonom erzeugt werden können. Deepfake-Technologien können potenziell in vielen Bereichen im Kontext von Kultur, Medizin und Bildung nützliche Anwendungen finden, können aber auch auf kriminelle Art und Weise missbraucht werden. Eine verantwortliche Gestaltung der Technologie und die Berücksichtigung der Grundsätze der Technikfolgenabschätzung, die zeitlich vor der weiteren Verbreitung von Deepfakes liegt, ist hier eine dringliche Aufgabe. Bereits laufende Projekte im ITAS thematisieren die mögliche Governance von KI (z. B. GOAL, gefördert vom BMBF) und beraten das Europäische Parlament über Handlungsoptionen im Umgang mit Deepfakes (STOA). Über diese spezifischen Projektaufgaben hinaus soll in diesem Projekt insbesondere der Mehrwert der Einbeziehung unterschiedlicher Disziplinen bei der Betrachtung dieses soziotechnischen Phänomens in den Mittelpunkt gerückt werden. Dazu sollen in einem Workshop die unterschiedlichen disziplinären Zugänge aus der Informatik, der (Wissenschafts-)Kommunikationsforschung und den Rechtwissenschaften sowie der qualitativen Sozialforschung zur Identifizierung gesellschaftlich relevanter Fragestellungen dargestellt und integriert werden. Themenbereiche wie die sozialen und ethischen Folgen, die Frage nach der adäquaten Regulierung sowie die Wirkung von Interventionen im Sinne einer Awareness-Bildung werden berücksichtigt. Auch Aspekte wie Glaubwürdigkeit von und Vertrauen in verschiedene Institutionen, die für die Informationsweitergabe und darauf basierende Einstellungen und Entscheidungen große Bedeutung haben, werden betrachtet. Dabei stellt sich auch die Frage, welche Rolle verschiedene gesellschaftliche Akteure (Forschende, politische Entscheidungsträger*innen, Journalist*innen, Medienunternehmen, Bürger*innen) bei der Verbreitung und Aufdeckung von Deepfakes spielen (sollen). Eine Auslotung dieser Aspekte bildet die Grundlage für die Entwicklung einer gemeinsamen interdisziplinären Pilotstudie. Dieser innovative, inklusive und kreative Forschungsansatz soll langfristig das Potenzial für die Entwicklung größerer Projekte in einem sich entwickelnden, international sichtbaren Forschungsfeld erschließen.

Kontakt

Dr. Jutta Jahnel
Karlsruher Institut für Technologie (KIT)
Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Postfach 3640
76021 Karlsruhe

Tel.: 0721 608-26133
E-Mail