Abenteuer-Universum

Hallo zusammen,

im Zusammenhang mit den beiden Threads

Algorithmen auf dem Richterstuhl
Darf künstliche Intelligenz Tötungen billigend in Kauf nehmen ?

zitiere ich einmal aus Toms Vorschlag:

tomS hat geschrieben: ↑

2. Feb 2018, 14:24

ralfkannenberg hat geschrieben: ↑

2. Feb 2018, 12:48

- denen ich übrigens zustimme, dann genügt es insgesamt nicht, sich nur auf einen Spezialfall zu beschränken, sondenr dann ist aufgrund der Bedeutung der Sachverhaltes auch eine umfassender Lösung zu untersuchen.

Die dann erfordert, dass man die Bewahrung von (menschlichem) Leben ausnahmslos als oberste Prämisse ansetzt.

Das ist nun ein völlig anderes Thema, das du zunächst vollständig ohne KI diskutieren könntest und solltest. Dabei solltest auch sofort Themen wie Klimawandel und Verzicht auf fossile Brennstoffe, das Aufstreben von Schwellenländern, aber auch Überbevölkerung und Geburtenkontrolle mit einbeziehen, da es dir ja sicher nicht nur um die Bewahrung des heute existierenden menschlichen Lebens geht.

An sich ist mir dieser Themenkomplex zu umfangreich, was aber nicht heissen soll, dass man hierzu keine Ideen und Impulse gewinnen kann. Ich will es deswegen einmal wagen.


Freundliche Grüsse, Ralf

ATGC hat geschrieben: ↑

3. Feb 2018, 09:52

Das Argument, dass es doch uns selbst betrifft, ist zirkulär und somit nicht universell gültig, so dass man es einer hypothetischen KI nicht plausibel darlegen kann. Umgekehrt könnte eine KI ihrerseits ihre eigene Existenz als oberste Prämisse setzen und auf diese Weise die Ausrottung der Menschheit rechtfertigen.

Ja, mit einer genügend intelligenten KI kann diese Konfliktsituation entstehen.


Ich denke aber, das Problem ist bereits ohne KI in bestimmten Szenarien unlösbar.


Zunächst ein (fast) lösbares Szenario: angepasstes Fahren inkl. verpflichtendem elektronischem Assistenzsystem zur gesicherten Einhaltung von Geschwindigkeiten und Abstand zu anderen Verkehrsteilnehmern inkl. Fußgängern. Bis auf absolute Ausnahmesituationen (siehe anderer Thread) erfüllen wir damit die vorgeschlagene oberste Prämisse der Bewahrung von menschlichem Leben.

Schwieriger ist die Situation beim finalen Rettungsschuss, einem drohenden Angriffskrieg, Tyrannenmord u.ä. Hier hilft diese Prämisse alleine nicht weiter, weil wir lediglich die Wahl haben, welches Leben wir bewahren und welches wir auslöschen wollen bzw. sollen.

Prinzipiell unlösbar ist die Frage in einer extrem offenen Situation wie der Einführung einer neuen Technologie. Wie hätte man - rückblickend - die Einführung der industriellen Produktion anders gestalten sollen, um die heutigen Todesfälle in Folge extremer Luftverschmutzung vermeiden zu können?

Ein ganz heikles Thema wäre Geburtenkontrolle im Falle einer weiterhin stark wachsenden Erdbevölkerung.

Eine Lösung wird übrigens im Film "Die Matrix" gezeigt. Wären tatsächlich alle Menschen in die Matrix integriert, würden auch alle Menschen von den Maschinen möglichst lange ernährt und am Leben gelassen werden. Es gäbe praktisch keine realen Konflikte, die das Leben von Menschen gefährden. Die Programmierung könnte diesbzgl. optimiert werden. Generell ist jedenfalls die Opferzahl ggü. unserer Zivilisation deutlich geringer. Trotzdem würden wir so nicht leben wollen - wenn wir wüssten, dass wir so leben (wobei das nicht für alle Figuren in dem Film gilt; einer wählt tatsächlich freiwillig die Illusion statt der Realität).

Worauf ich hinauswill ist, dass Bewahrung von menschlichem Leben als oberste Prämisse nicht ausreichend ist, da dies deutlich zu eng gefasst ist. Insbs. müssen Menschenwürde und allgemeine Menschenrechte eine Rolle spielen. Z.B. handelt es sich bei der Existenzweise in "Die Matrix" um eine extreme Form der Sklaverei, die offensichtlich nicht ausgeschlossen wird. Ich denke, Kants kategorischer Imperativ sowie die Versuche dessen Weiterentwicklung (z.B. nach Hans Jonas) leisten bessere Dienste. Diese sind jedoch nicht als Handlungsprämissen zu verstehen, sondern als Rahmen, innerhalb dessen derartige Prämissen herausgebildet werden müssen.

tomS hat geschrieben: ↑

3. Feb 2018, 11:06

ATGC hat geschrieben: ↑

3. Feb 2018, 09:52

Das Argument, dass es doch uns selbst betrifft, ist zirkulär und somit nicht universell gültig, so dass man es einer hypothetischen KI nicht plausibel darlegen kann. Umgekehrt könnte eine KI ihrerseits ihre eigene Existenz als oberste Prämisse setzen und auf diese Weise die Ausrottung der Menschheit rechtfertigen.

Ja, mit einer genügend intelligenten KI kann diese Konfliktsituation entstehen.

Das ist das "Böse", von dem ich geschrieben hatte. Ich bin der Meinung, dass eine genügend intelligente AI nicht böse ist, und zwar aus "Überzeugung".

Insbesondere wird die AI redundant ausgelegte Komponenten benötigen, die bösartige Software erkennen und deaktivieren.

Im Übrigen ist das kein "neuer" Ansatz: wenn Krankheitserreger unseren Körper befallen, wird unsere Immunabwehr diese ebenfalls zu erkennen und zu deaktivieren versuchen und dabei auch darauf bedacht sein, all die Nutzbakterien, deren Anzahl im und auf dem menschlichen Körper dreimal grösser ist als der Körper Zellen enthält, zu erhalten.


Freundliche Grüsse, Ralf

tomS hat geschrieben: ↑

3. Feb 2018, 16:20

Geht es jetzt speziell um künstliche Intelligenz? Dann brauchen wir nicht unbedingt einen vierten Thread, oder?

Oder geht es allgemein um die im Titel genannte Prämisse? Dann sollten wir das auch so allgemein diskutieren.

Hallo Tom,

es ging um die Korrektur der Aussage, dass mit einer genügend intelligenten AI diese Konfliktsituation entstehen kann.

Wo man diese Korrektur anbringen möchte ist an sich egal, zunächst aber der Einfachheit halber dort, wo sie aufgetreten ist. Wenn Bedarf an einer ausführlichen Weiterdiskussion zu dieser Aussage besteht, kann man sich ja einen geeigneteren Ort dafür aussuchen, wenn das hier offtopic ist.


Freundliche Grüsse, Ralf