TRR 318 - Teilprojekt B6 - Ethik und Normativität der erklärbaren KI

Project Period: 2023-07-01 – 2025-12-31
Externally Funded
Alternative Name
TRR 318 - Subproject B6 - Ethics and normativity of explainable AI
Acronym
TRR 318 - B06
Coordinator
Kai Biermeier
Principal Investigator
Suzana Alpsancar, Tobias Matzner
Department(s)
Angewandte Ethik mit Schwerpunkt Technikethik in der digitalen Welt
Kulturen der Digitalität
Description

Die Forschung zum Thema Erklären und Erklärbarkeit bedarf einer ethischen Reflexion, da Erklärungen dazu verwendet werden können, Nutzer zu manipulieren oder Akzeptanz für eine Technologie zu schaffen, die ethisch oder rechtlich inakzeptabel ist. Zudem müssen ethische Prinzipien (z.B. Erklärbarkeit für Rechtfertigbarkeit, Verantwortbarkeit) und partikulare Interessen im Design systematisch unterschieden werden, da diese nicht zwangsläufig zusammenfallen müssen. Die in unserem Projekt vorgeschlagene ethische Reflexion umfasst drei miteinander verknüpfte Untersuchungsstränge: Erstens werden wir eine systematische Klassifizierung der verschiedenen Zwecke, Bedürfnisse und Anforderungen von Erklärungen vornehmen. Zweitens wird unser Projekt die technologische Entwicklung innerhalb des TRR 318 ethisch reflektieren. Drittens werden wir beide Forschungslinien kombinieren, um sowohl ein theoretisches als auch ein praktisches Ziel zu verfolgen: Einerseits wollen wir das Modell des TRR 318 über das Erklären als soziale Praxis zu einem ethischen Rahmen für das Erklären von KI erweitern. Andererseits werden wir diesen Rahmen auf konkrete Projekte innerhalb des TRR 318 anwenden, um (a) zu erklären, wie aktuelle Designentscheidungen ethische Überlegungen und die Anforderungen der Nutzer widerspiegeln, indem wir die methodischen Schritte des wertorientierten Designs (VSD) befolgen. Auf der Grundlage dieser Erkenntnisse werden wir dann (b) konkrete Gestaltungsempfehlungen formulieren, um die weitere Entwicklung innerhalb des TRR 318 zu unterstützen. Langfristig wird B06 Vorstellungen des TRR zu den sozialen Kontexten verbessern, da es Aspekte aufzeigt, die nicht technisch gelöst werden können, sondern auf sozialer oder rechtlicher Ebene angegangen werden müssen.

Grant Number
Funding Organisation
Deutsche Forschungsgemeinschaft

3 Publications

2023 | Conference Paper | LibreCat-ID: 44853 | OA
What is AI Ethics? Ethics as means of self-regulation and the need for critical reflection
S. Alpsancar, in: International Conference on Computer Ethics 2023, 2023, pp. 1--17.
LibreCat | Download (ext.)
 
2024 | Book Chapter | LibreCat-ID: 55869 | OA
Warum und wozu erklärbare KI? Über die Verschiedenheit dreier paradigmatischer Zwecksetzungen
S. Alpsancar, in: R. Adolphi, S. Alpsancar, S. Hahn, M. Kettner (Eds.), Philosophische Digitalisierungsforschung  Verantwortung, Verständigung, Vernunft, Macht, transcript, Bielefeld, 2024, pp. 55–113.
LibreCat | Download (ext.)
 
2024 | Conference Abstract | LibreCat-ID: 56217 | OA
Unpacking the purposes of explainable AI
S. Alpsancar, T. Matzner, M. Philippi, in: Smart Ethics in the Digital World: Proceedings of the ETHICOMP 2024. 21th International Conference on the Ethical and Social Impacts of ICT, Universidad de La Rioja, 2024, pp. 31–35.
LibreCat | Download (ext.)