Technologiemonitoring: Das Potenzial von Metaverse und KI für Extremismus

Im Projekt MOTRA untersuchen Forschende des ITAS das Potenzial von Metaverse und KI-Anwendungen in Bezug auf Radikalisierungsprozesse. Im aktuellen „MOTRA-Monitor“ formulieren sie Empfehlungen, wie diesen unerwünschten Technikfolgen begegnet werden kann.
Cover Technologiemonitoring: Das Potenzial von Metaverse und KI für extremistische Verwendungszwecke
(Quelle: MOTRA)

Das Metaverse steht für die Vision, soziale Medien durch virtuelle Realität zu erweitern und damit eine neue Qualität sozialer Interaktionen zu ermöglichen. Auf künstlicher Intelligenz basierende Anwendungen ermöglichen die Automatisierung von immer mehr kognitiven menschlichen Tätigkeiten. Aufgrund dieser neuen Möglichkeiten ist davon auszugehen, dass beide Technologien in absehbarer Zukunft auch für Personenkreise von Interesse sein werden, die extremistisch agieren oder Radikalisierungsprozesse vorantreiben.

Dynamische Technikentwicklung als besondere Herausforderung

Der Beitrag des ITAS-Projektteams zum kürzlich erschienenen MOTRA-Monitor 2022 beschäftigt sich mit der Frage, wie einer solchen unerwünschten Techniknutzung entgegengewirkt werden kann. Die hochdynamische Entwicklung der Technologien würde sowohl für die Gesellschaft als auch für die Technikfolgenabschätzung eine besondere Herausforderung darstellen, so die Autorinnen und Autoren Octavia Madeira, Georg Plattner, Alexandros Gazos, Tim Röller und Christian Büscher.

Besonders wichtig sei daher die frühzeitige Einbindung verschiedener Stakeholder in die Technikentwicklung. Hierbei gelte es, Wege für einen Dialog von Vertreterinnen und Vertretern von Technologieunternehmen, Politik und Sicherheitsbehörden sowie Akteuren aus Zivilgesellschaft und Wissenschaft zu finden und dadurch demokratische Kontrolle zu ermöglichen.

Neue Anforderungen an Präventionsarbeit

Mehr noch als technische Lösungsansätze sei der sozio-technische Kontext entscheidend, so die Autorinnen und Autoren. Neue Technologien würden insbesondere die Anforderungen an Präventionsarbeit und Bildungsangebote verändern. Dabei sollte neben der Vermittlung von technischem Wissen und allgemein der Stärkung demokratischer Resilienz auch die Ansprache von durch neue Technologien besonders vulnerablen Gruppen berücksichtigt werden. (19.12.2023)

Weiterführende Links und Dokumente: