Institut für Technikfolgen­abschätzung und System­analyse (ITAS)

KI-Entwicklung: Fokus auf den Menschen

Künstliche Intelligenz soll helfen, unser Leben in vielen Bereichen zu verbessern. Doch wie stellen wir sicher, dass die Systeme der Gesellschaft auch wirklich zu Gute kommen? Diese Frage steht nun im Mittelpunkt eines Promotionsprojekts am ITAS.
KI mit Herz? Ein Promotionsprojekt am ITAS sucht nach Wegen, ethische Prinzipien bei der Entwicklung zu berücksichtigen.
KI mit Herz? Ein Promotionsprojekt am ITAS sucht nach Wegen, ethische Prinzipien bei der Entwicklung zu berücksichtigen. (Quelle: Alexander Sinn/Unsplash)

Die Diskussion um die Auswirkungen von KI wird von einer Vielzahl hoher Erwartungen dominiert. Versprechen von ökonomischem oder ökologischem Fortschritt stehen neben der Hoffnung auf eine Steigerung der Lebensqualität. Auch in Bereichen der Forschung sind die Erwartungen hoch. So verspricht sich etwa die Medizin, mithilfe von KI neue und schnellere Erkenntnisse über die Ursachen und Behandlungsmöglichkeiten von Krankheiten.

„KI muss menschliche Bedürfnisse berücksichtigen“

„Diese wohlklingenden Versprechen und Erwartungen haben jedoch nur dann eine Chance Realität zu werden, wenn die dafür vorgesehenen KI-Systeme menschliche Bedürfnisse und Verhaltensweisen angemessen berücksichtigen“, sagt Pascal Vetter. Als wissenschaftlicher Mitarbeiter in der ITAS-Forschungsgruppe „Digitale Technologien und gesellschaftlicher Wandel“ und Doktorand beschäftigt er sich deshalb mit Fragen der menschzentrierten Technikgestaltung. Systeme, die lernende Algorithmen verwenden, so Vetter, müssten verständlich kommunizieren, ihre Tätigkeiten erklären und dürften bei den Menschen, mit denen sie in Kontakt kommen, keine Sorgen um deren Wohlbefinden auslösen.

Ethische Gestaltungsprozesse

Aufbauend auf diesen Überlegungen erforscht Pascal Vetter in seinem Promotionsprojekt Methoden, die es ermöglichen, etablierte gesellschaftliche, ethische und moralische Grundprinzipien in die Gestaltungsprozesse von KI-Systemen einfließen zu lassen. Dazu greift er vorhandenes Wissen aus den Bereichen Technikfolgenabschätzung und Technikethik auf. (09.07.2020)

Weiterführende Links oder Dokumente: