ATGC hat geschrieben: ↑3. Feb 2018, 09:52
Das Argument, dass es doch uns selbst betrifft, ist zirkulär und somit nicht universell gültig, so dass man es einer hypothetischen KI nicht plausibel darlegen kann. Umgekehrt könnte eine KI ihrerseits ihre eigene Existenz als oberste Prämisse setzen und auf diese Weise die Ausrottung der Menschheit rechtfertigen.
Ja, mit einer genügend intelligenten KI kann diese Konfliktsituation entstehen.
Ich denke aber, das Problem ist bereits ohne KI in bestimmten Szenarien unlösbar.
Zunächst ein (fast) lösbares Szenario: angepasstes Fahren inkl. verpflichtendem elektronischem Assistenzsystem zur gesicherten Einhaltung von Geschwindigkeiten und Abstand zu anderen Verkehrsteilnehmern inkl. Fußgängern. Bis auf absolute Ausnahmesituationen (siehe anderer Thread) erfüllen wir damit die vorgeschlagene oberste Prämisse der Bewahrung von menschlichem Leben.
Schwieriger ist die Situation beim finalen Rettungsschuss, einem drohenden Angriffskrieg, Tyrannenmord u.ä. Hier hilft diese Prämisse alleine nicht weiter, weil wir lediglich die Wahl haben, welches Leben wir bewahren und welches wir auslöschen wollen bzw. sollen.
Prinzipiell unlösbar ist die Frage in einer extrem offenen Situation wie der Einführung einer neuen Technologie. Wie hätte man - rückblickend - die Einführung der industriellen Produktion anders gestalten sollen, um die heutigen Todesfälle in Folge extremer Luftverschmutzung vermeiden zu können?
Ein ganz heikles Thema wäre Geburtenkontrolle im Falle einer weiterhin stark wachsenden Erdbevölkerung.
Eine Lösung wird übrigens im Film "Die Matrix" gezeigt. Wären tatsächlich alle Menschen in die Matrix integriert, würden auch alle Menschen von den Maschinen möglichst lange ernährt und am Leben gelassen werden. Es gäbe praktisch keine realen Konflikte, die das Leben von Menschen gefährden. Die Programmierung könnte diesbzgl. optimiert werden. Generell ist jedenfalls die Opferzahl ggü. unserer Zivilisation deutlich geringer. Trotzdem würden wir so nicht leben wollen - wenn wir wüssten, dass wir so leben (wobei das nicht für alle Figuren in dem Film gilt; einer wählt tatsächlich freiwillig die Illusion statt der Realität).
Worauf ich hinauswill ist, dass Bewahrung von menschlichem Leben als oberste Prämisse nicht ausreichend ist, da dies deutlich zu eng gefasst ist. Insbs. müssen Menschenwürde und allgemeine Menschenrechte eine Rolle spielen. Z.B. handelt es sich bei der Existenzweise in "Die Matrix" um eine extreme Form der Sklaverei, die offensichtlich nicht ausgeschlossen wird. Ich denke, Kants kategorischer Imperativ sowie die Versuche dessen Weiterentwicklung (z.B. nach Hans Jonas) leisten bessere Dienste. Diese sind jedoch nicht als Handlungsprämissen zu verstehen, sondern als Rahmen, innerhalb dessen derartige Prämissen herausgebildet werden müssen.