% IMPORTANT: The following is UTF-8 encoded.  This means that in the presence
% of non-ASCII characters, it will not work with BibTeX 0.99 or older.
% Instead, you should use an up-to-date BibTeX implementation like “bibtex8” or
% “biber”.

@INBOOK{Heinrichs:1048348,
      author       = {Heinrichs, Jan-Hendrik},
      title        = {{D}er {KI} {G}renzen setzen? {V}om {V}erhältnis zu
                      moralischen {N}ormen.},
      address      = {Stuttgart},
      publisher    = {W. Kohlhammer GmbH},
      reportid     = {FZJ-2025-04568},
      isbn         = {978-3-17-045343-2},
      pages        = {121 - 138},
      year         = {2025},
      comment      = {Grenzen Künstlicher Intelligenz},
      booktitle     = {Grenzen Künstlicher Intelligenz},
      abstract     = {Dieser Artikel expliziert ein verbreitetes Paradigma der
                      Maschinenethik, das Nebenbedingungsparadigma. Gemäß diesem
                      Paradigma werden künstliche moralische Akteure1 geschaffen,
                      um das durch komplexe und selbständige Systeme entstehende
                      Risiko zu begrenzen. Zu diesem Zweck müssen sie so
                      ausgelegt sein, dass ihr Verhalten den Vorgaben moralischer
                      Regeln entspricht. Ein künstlicher moralischer Akteur wäre
                      demnach ein umweltwirksames System, dessen Verhalten
                      moralischen Normen schlicht entspricht. Weil dieses
                      Paradigma für KI-Systeme ausschließlich ein
                      Subordinationsverhältnis zu moralischen Normen erlaubt,
                      schränkt es die Art von künstlichem Akteur, die entwickelt
                      wird, über Gebühr ein. Gemäß dem Sprachgebrauch der
                      Ethik stehen moralische Akteure und Akteurinnen in
                      komplexeren Verhältnissen zu moralischen Normen. Es sind
                      jedoch aktuell Systeme möglich, die moralische Normen nicht
                      nur einhalten, sondern diese explizieren, repräsentieren
                      und zueinander in Beziehung setzen. KIs können sich also in
                      anderer Weise zu moralischen Grenzen verhalten als vom
                      Nebenbedingungsparadigma vorgesehen. Damit würden
                      alternative, wissenschaftlich und gesellschaftlich wertvolle
                      Umgangsweisen von KIs mit moralischen Normen wie etwa deren
                      Überprüfung und Kritik angeregt.},
      cin          = {INM-7},
      cid          = {I:(DE-Juel1)INM-7-20090406},
      pnm          = {5255 - Neuroethics and Ethics of Information (POF4-525)},
      pid          = {G:(DE-HGF)POF4-5255},
      typ          = {PUB:(DE-HGF)7},
      doi          = {10.34734/FZJ-2025-04568},
      url          = {https://juser.fz-juelich.de/record/1048348},
}