Contribution to a book

FZJ-2025-04568

http://join2-wiki.gsi.de/foswiki/pub/Main/Artwork/join2_logo100x88.png Der KI Grenzen setzen? Vom Verhältnis zu moralischen Normen.

Heinrichs, J.-H. (Corresponding author)FZJ*

2025
W. Kohlhammer GmbH Stuttgart
ISBN: 978-3-17-045343-2

This record in other databases:  

Please use a persistent id in citations: doi:10.34734/FZJ-2025-04568

Abstract: Dieser Artikel expliziert ein verbreitetes Paradigma der Maschinenethik, das Nebenbedingungsparadigma. Gemäß diesem Paradigma werden künstliche moralische Akteure1 geschaffen, um das durch komplexe und selbständige Systeme entstehende Risiko zu begrenzen. Zu diesem Zweck müssen sie so ausgelegt sein, dass ihr Verhalten den Vorgaben moralischer Regeln entspricht. Ein künstlicher moralischer Akteur wäre demnach ein umweltwirksames System, dessen Verhalten moralischen Normen schlicht entspricht. Weil dieses Paradigma für KI-Systeme ausschließlich ein Subordinationsverhältnis zu moralischen Normen erlaubt, schränkt es die Art von künstlichem Akteur, die entwickelt wird, über Gebühr ein. Gemäß dem Sprachgebrauch der Ethik stehen moralische Akteure und Akteurinnen in komplexeren Verhältnissen zu moralischen Normen. Es sind jedoch aktuell Systeme möglich, die moralische Normen nicht nur einhalten, sondern diese explizieren, repräsentieren und zueinander in Beziehung setzen. KIs können sich also in anderer Weise zu moralischen Grenzen verhalten als vom Nebenbedingungsparadigma vorgesehen. Damit würden alternative, wissenschaftlich und gesellschaftlich wertvolle Umgangsweisen von KIs mit moralischen Normen wie etwa deren Überprüfung und Kritik angeregt.

---

Contributing Institute(s):

1. Gehirn & Verhalten (INM-7)

Research Program(s):

1. 5255 - Neuroethics and Ethics of Information (POF4-525) (POF4-525)

Appears in the scientific report 2025

---

Database coverage:

---