Hinweis auf die DSGVO: Auf unserer Seite werden keine Dritt-Anbieter-Cookies verwendet und nur Daten erfasst, welche für das Minimum an Board-Funktionalität notwendig sind.
Bevor Sie sich registrieren oder das Board verwenden, lesen Sie bitte zusätzlich die DSGVO-Erklärung, welche in der Navigationsleiste verlinkt ist.

Kurzfassung der unserer Meinung nach wichtigsten DSGVO-Punkte:
Es kann vorkommen, dass Benutzer eigenverantwortlich Videos oder sonstige Medien in ihren Beiträgen verlinken, welche beim Aufruf der Forenseite als Teil der Seite samt zugehörigem Material mitgeladen werden. Sollten Sie dies nicht wünschen, verwenden Sie beim Benutzen des Forums einen Blocker wie z.B. uMatrix, welcher das Laden von Inhaltsblöcken von Fremd-URLs effektiv unterbinden kann.
Wir blenden keine Werbung ein und schränken die Inhalte in keinster Weise bei Benutzung von Addblockern ein. Dadurch ist die Grundfunktionalität des Forums auch bei vollständigem Blockieren von Drittanbieter-Inhalten stets gegeben.

Cookies werden unsererseits nur verwendet um das Einloggen des Benutzers für die Dauer der Forenbenutzung zu speichern. Es steht dem Benutzer frei die Option 'Angemeldet bleiben' zu verwenden, damit der Cookie dauerhaft gespeichert bleibt und beim nächsten Besuch kein erneutes Einloggen mehr notwendig ist.
EMail-Adressen werden für Kontakt bei wichtigen Mitteilungen und zur Widerherstellung des Passwortes verwendet. Die verwendeten IPs können von uns ohne externe Hilfsmittel mit keiner realen Person in Verbindung gebracht werden und werden nach spätestens 7 Tagen gelöscht. Diese IPs werden höchstens verwendet um Neuanmeldungen unerwünschter oder gesperrter Nutzer zu identfizieren und zu unterbinden. Wir behalten uns daher vor bei Verdacht, die Frist für die IP-Löschung auf maximal 14 Tage zu verlängern.
Unsere Webseite läuft auf einem virtuellen Linux-Server, welcher von einem externen Anbieter gehostet wird. Etwaige Verstöße der DSGVO-Auflagen seitens dieses deutschen Hosters können wir nicht feststellen und somit auch nicht verfolgen.
Wir halten Backups unserer Datenbanken, welche in regelmäßigen Abständen als Schutz vor Katastrophen, Hackerangriffen und sonstigen Ausfällen erstellt werden. Sollte ein Nutzer die Löschung seiner Daten wünschen, betrachten wir es als Unzumutbar die Backups auch von den Daten zu befreien, da es sich hierbei um eine mehrtägiges Unterfangen handelt - dies ist für eine Einzelperson beim Betrieb eines privaten Forums nicht zumutbar möglich ohne das Backup komplett zu löschen.
Sollten Sie etwas gegen die dauerhafte anonyme Speicherung ihrer EMail-Adresse, ihres Pseudonyms und ihrer Beiträge in einem Backup haben, sehen Sie von der Registrierung in diesem Forum ab. Für Mitglieder, welche vor dem 25.05.2018 registriert waren steht jedoch das Recht im Raum, eine Löschung der Datenbank-Backups zu beantragen.



Wenn dies Ihr erster Besuch hier ist, lesen Sie bitte zunächst die FAQs sowie die wesentlichen Regeln zur Benutzung des Forums.
Um an den Diskussionen teilnehmen zu können, müssen Sie sich zunächst registrieren.

Algorithmen auf dem Richterstuhl

Wissenschaftsgeschichte, Wissenschaftstheorie bzw. -philosophie, Technik
Benutzeravatar
Frank
Ehrenmitglied
Ehrenmitglied
Beiträge: 3941
Registriert: 12. Dez 2005, 23:22
Wohnort: Odenwald

Re: Algorithmen auf dem Richterstuhl

Beitrag von Frank » 1. Feb 2018, 18:36

positronium hat geschrieben:
1. Feb 2018, 12:47

Wenn wegen der Situation trotz Bremsung auf jeden Fall eine Person angefahren wird, und keine anderen Kriterien eine bessere Lösung erlauben: Doch, das ist mein Ernst!
Wie sollte man das anders lösen? Wie würdest Du das lösen?

Ich schreibe das noch einmal: Wir diskutieren hier doch immer über den Fall, in dem eine Kollission nicht mehr zu vermeiden ist.
Zunächst muss ich für mich erstmal realisieren, dass es anscheinend Menschen gibt, die es ernsthaft in Erwägung ziehen, eine Software zu entwickeln, die im Grunde die eierlegendewollmilchsau sein soll.
Dem Kind ausweichen, die Oma gleichzeitig nur streifen und dann den Dalamtiner totfahren, weil die Software, gescheit wie sie und mal ist(so wie ihr Erschaffer)in Nanosekunden entscheidet, wer leben darf und wer nicht.
Is nichts für mich.
Mit freundlichen Grüßen

Frank

positronium
Ehrenmitglied
Ehrenmitglied
Beiträge: 2832
Registriert: 2. Feb 2011, 20:13

Re: Algorithmen auf dem Richterstuhl

Beitrag von positronium » 1. Feb 2018, 19:25

Frank hat geschrieben:
1. Feb 2018, 18:36
positronium hat geschrieben:
1. Feb 2018, 12:47

Wenn wegen der Situation trotz Bremsung auf jeden Fall eine Person angefahren wird, und keine anderen Kriterien eine bessere Lösung erlauben: Doch, das ist mein Ernst!
Wie sollte man das anders lösen? Wie würdest Du das lösen?

Ich schreibe das noch einmal: Wir diskutieren hier doch immer über den Fall, in dem eine Kollission nicht mehr zu vermeiden ist.
Zunächst muss ich für mich erstmal realisieren, dass es anscheinend Menschen gibt, die es ernsthaft in Erwägung ziehen, eine Software zu entwickeln, die im Grunde die eierlegendewollmilchsau sein soll.
Nein, das tut niemand.
Es geht darum, einen verfügbaren Datensatz möglichst optimal auszuwerten, und eine möglichst gute Reaktion des Autos daraus folgen zu lassen. Dafür müssen Regeln aufgestellt werden - um die geht es.
Das heißt nicht, dass all das in jeder Situation durchgerechnet wird bzw. werden kann. Wenn Echtzeitverarbeitung nötig ist, muss man auch 'mal mit einem "best guess" die Rechnung beenden. Manchmal wird die Zeit nicht einmal ausreichen, um überhaupt zu einer Reaktion des Autos zu kommen.
Frank hat geschrieben:
1. Feb 2018, 18:36
Dem Kind ausweichen, die Oma gleichzeitig nur streifen und dann den Dalamtiner totfahren, weil die Software, gescheit wie sie und mal ist(so wie ihr Erschaffer)in Nanosekunden entscheidet, wer leben darf und wer nicht.
Is nichts für mich.
Du verstehst das leider falsch. So ein Auto ist erst einmal völlig blöd. Als Ingenieur (von der Mechanik über die Elektronik bis hin zur Software) strukturiert man so ein Problem erst einmal, um es überhaupt lösen zu können: Welche Informationen brauche ich? Welche kann ich wie bekommen? Wie sind die auszuwerten? Und dann muss man halt hingehen, und das systematisch Punkt für Punkt abarbeiten. So muss das in der Entwicklung laufen, weil sonst gar nichts funktionieren würde. Man kann das nicht so lala implementieren.
Es mag sein, dass das Deinem Naturell widerspricht, aber in der Technik ist das so und muss es so sein. All die Geräte, die Du Tag für Tag selbstverständlich nutzt, sind so entwickelt worden. Und es sind noch immer genug Fehler drin, die jeden (auch mich) immer wieder einmal zur Weißglut treiben können, aber was meinst Du, wie so ein Computer oder Smartphone funktionieren würde, wenn die Entwickler nicht mit System vorgehen würden? Würdest Du einen Entwickler einstellen, der Dir sagt: "Ach, Boss, das Programm funktioniert halt nur mit vollen Euro-Beträgen. Müssen die Kunden halt schauen, dass auf ihren Konten nie Cent auftauchen - Kleinkram ist nichts für mich."

Benutzeravatar
tomS
Administrator
Administrator
Beiträge: 10582
Registriert: 19. Nov 2007, 20:29
Wohnort: Nürnberg

Re: Algorithmen auf dem Richterstuhl

Beitrag von tomS » 1. Feb 2018, 22:53

ralfkannenberg hat geschrieben:
1. Feb 2018, 16:11
tomS hat geschrieben:
1. Feb 2018, 15:39
Es geht um Situationen, in denen ein Crash unvermeidlich bzw. ein Anhalten unmöglich ist.
Hallo Tom,

ich bin mit dieser pauschalen Aussage nicht einverstanden.
Warum? Das war die implizite Voraussetzung.

(ich hatte meinen Algorithmus übrigens allgemeiner gehalten)


OnImminentCrash() // bevorstehend, nicht unvermeidlich
{
...

allObjects.sort( value );
target = allObjects.front();
setDirection( target ); // das kann auch eine Lücke sein, nicht zwingend eine Person

...
}
Gruß
Tom

Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago.

Benutzeravatar
tomS
Administrator
Administrator
Beiträge: 10582
Registriert: 19. Nov 2007, 20:29
Wohnort: Nürnberg

Re: Algorithmen auf dem Richterstuhl

Beitrag von tomS » 1. Feb 2018, 23:10

Frank hat geschrieben:
1. Feb 2018, 18:36
Zunächst muss ich für mich erstmal realisieren ... [dass] die Software in Nanosekunden entscheidet, wer leben darf und wer nicht.
Is nichts für mich.
So wie du schreibst, wäre das wohl für niemanden etwas. Aber so ist es nicht. Die Software minimiert den Schaden nach einen vorgegebenen Bewertungsvorschrift.

Hier mal eine textuelle Beschreibung meines Algorithmus:


// ein unmittelbar drohender Crash wird erkannt: z.B. springt eine vorher unsichtbare Person
// plötzlich sehr nahe vor dem Auto auf die Straße

OnImminentCrash() // in diesem Falle wird der folgende Algorithmus ausgeführt:
{
...

// die durch Lenkbewegung erreichbare Umgebung wird in endlich viele Teile zerlegt:
// unter diesen Objekten der Breite des Autos befinden sich i.a. hindernisfreie Lücken,
// das Objekte mit dem eigtl. Hindernis sowie andere Objekte mit anderen Personen etc.


allObjects.sort( value ); // alle Objekte werden nach ihren jeweiligen Wert sortiert
target = allObjects.front(); // das Objekt mit dem niedrigsten Wert wird zum Ziel erklärt
setDirection( target ); // die neue Richtung des Autis wird auf dieses Ziel ausgerichtet

...
}


Der Algorithmus ist sehr allgemein. Objekte können z.B. beliebigen Inhalt haben, d.h. der Algorithmus funktioniert sogar für den Normalfall, in dem nichts zu tun ist, oder bei dem Ausweichen problemlos möglich ist, oder bei dem z.B. recht gefahrlos in den Straßengraben gesteuert werden kann.

Der Knackpunkt steckt einzig und allein in der Bewertungsfunktion value(), die jedem Objekt einen Wert zuweist.

Eine Lücke hat z.B. den Wert 0; die geradeaus erreichbare Lücke sogar den Wert -1, so dass bei freier Fahrt immer "geradeaus" gewählt wird. Der Straßengraben erhält +1 (ganz ohne Gefahr ist das nicht für den Insassen), ein Hund erhält +10 (lieber doch in den Straßengraben fahren). Eine Maus erhält 0 (unnötigerweise Ausweichen bedeutet eine Gefahr für die Insassen). usw.


Interessant wird's erst, wenn keine Objekte ohne Menschen, ohne andere Autos und ohne weitere Hindernisse vorhanden sind. Nehmen wir an, der Algorithmus erkennt neben dem ursprünglichen Hindernis - einem Kind - noch ein entgegenkommendes Fahrzeug. Das Kind erhält den Wert +1000 (entspr. 100 Hunde). Das Fahrzeug erhält den Wert +1500, weil im Schnitt 1.5 Personen in einem Fahrzeug sitzen. In diesem Fall würde der Algorithmus nicht ausweichen und das Kind überfahren.

Die Techniker weisen darauf hin, dass das entgegenkommende Fahrzeug eine Knautschzone hat und die Insassen schützt. Der Programmierer ändert daraufhin nach Anweisung den Wert auf +750. Nun würde der Algorithmus ausweichen und das entgegenkommende Fahrzeug rammen.

Ein Jahr später ist eine präzisere Bilderkennung auf dem Markt. Sie erkennt in dieser Situation, dass das entgegenkommende Fahrzeug ein Smart mit praktisch Null Knautschzone ist mit genau einem Insassen ist. Der Wert wird konsequenterweise auf +1000 geändert, also dem selben Wert wie für das Kind.

Im Test stellt sich dann heraus, dass die Sortierfunktion nicht eindeutig ist, wenn zwei identische Bewertungen vorliegen. In diesem Fall spielt die Reihenfolge der Erkennung der Objekte eine maßgebliche Rolle. Z.B. werden Objekte von rechts nach links sortiert: ein von rechts auf die Straße springendes Kind wird ausgewählt und überfahren, bei ein von links kommendes Kind wird stattdessen der Smart gewählt. Die Software erhält zunächst keine Zulassung.

Gutachter stellen dann jedoch fest, dass die neue Software zwar ein unklares Verhalten aufweist, jedoch statistisch gesehen dennoch korrekt funktioniert. Die Software erhält für diesen Fall einen Zufallsgenerator und wird zugelassen.

Nach mehreren Unfällen klagen Hinterbliebene bis vor das Bundesverfassungsgericht. Dieses verbietet grundsätzlich die Abzählung und Aufrechnung von Menschenleben, in verschiedenen Varianten, und verweist die Detailklärung an das Parlament.

Aufgrund der Rechtsunsicherheit nimmt der Hersteller die Software vom Markt; in der Folge sterben wieder deutlich mehr Fußgänger im Straßenverkehr.


Man kann sich beliebige Stories ausdenken. Die zentrale Flage lautet immer: wer legt wie die Bewertungsfunktion value() fest, und nach welchen übergeordneten rechtsstaatlichen Kriterien oder ethischen Grundsätzen?

Softwaretechnisch ist das einfach; und auch wenn man deutlich kompliziertere Analysen der Situation der durchführen kann und muss, ist das beherrschbar. Letztlich läuft es darauf hinaus, in einem Gesetz Rahmenbedingungen festzulegen, entsprechend derer die Hersteller die Werte vergeben - dann gäbe es konkurrierende Bewertungsfunktionen - oder im Gesetz die konkreten Zahlenwerte aufzuschreiben - dann wäre die Bewertungsfunktion eindeutig.
Gruß
Tom

Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago.

Benutzeravatar
tomS
Administrator
Administrator
Beiträge: 10582
Registriert: 19. Nov 2007, 20:29
Wohnort: Nürnberg

Re: Algorithmen auf dem Richterstuhl

Beitrag von tomS » 2. Feb 2018, 10:44

seeker hat geschrieben:
1. Feb 2018, 13:02
Hier etwas zum einlesen, guter umfassender Text ...

http://www.zeit.de/kultur/2017-09/kuens ... mes-fahren
Sehr lesenswert, und sehr vielschichtig. Bringt alle wesentlichen Punkte zur Sprache, und bleibt dabei auf einem allgemein verständlichen Niveau. Besonders interessant sind die unterschiedlichen ethischen Grundausrichtungen.

Die wesentliche Erkenntniss ist - und die hatte ich ebenfalls mehrfach angesprochen - dass das Problem nicht in einer konkreten Situation entsteht, wenn eine konkrete Entscheidung gefällt werden muss, sondern bereits viel früher, wenn die Entscheidungskriterien festgelegt werden (von wem? auf welcher Basis? mit welcher Legitimation? ...) die dann technisch umzusetzen sind.
Gruß
Tom

Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago.

Benutzeravatar
ralfkannenberg
Ehrenmitglied
Ehrenmitglied
Beiträge: 2002
Registriert: 13. Jan 2017, 10:00

Re: Algorithmen auf dem Richterstuhl

Beitrag von ralfkannenberg » 2. Feb 2018, 12:06

tomS hat geschrieben:
2. Feb 2018, 10:44
seeker hat geschrieben:
1. Feb 2018, 13:02
Hier etwas zum einlesen, guter umfassender Text ...

http://www.zeit.de/kultur/2017-09/kuens ... mes-fahren
Sehr lesenswert, und sehr vielschichtig. Bringt alle wesentlichen Punkte zur Sprache, und bleibt dabei auf einem allgemein verständlichen Niveau. Besonders interessant sind die unterschiedlichen ethischen Grundausrichtungen.
Hallo Tom,

ich habe einmal 3 Aussagen des Artikels herauskopiert:
Er entscheidet in selbstfahrenden Autos im Notfall darüber, ob das Fahrzeug in eine Gruppe von Fußgängern, auf eine Mutter mit Kind oder doch gegen eine Hauswand fährt.
Da zugleich als sicher gilt, dass es weiterhin Unfallsituationen geben wird, bei denen Todesopfer nicht vermeidbar, sondern höchstens wählbar sind, ergibt sich die Frage, mit welcher Entscheidungsethik man die entsprechenden Algorithmen ausstattet.
Unter welchen Umständen darf man töten, um Leben zu retten?

Mein Fazit: der Artikel ist nichtssagend und einseitig. Er erinnert mich an einen Mathematiker, der stillschweigend davon ausgeht, dass die Menge der algebraischen Zahlen komplett ist und daraus seine Rückschlüsse zieht. Diese Welt ist ja niedlich und schön, jedes Polynom ist lösbar, man hat auch die Quadratwurzel aus 2, man hat die imaginäre Einheit i, ja sogar alle n.-ten Einheitswurzeln und der Hauptsatz der Algebra ist auch gültig.

Alles super, und doch wird er zu falschen Resultaten kommen, weil er von unzutreffenden Annahmen ausgeht.


Ähnlich ist das in diesem Artikel und auch in Eurer Diskussion: man geht davon aus, dass es zu Situationen kommt, in denen über Leben und Tod entschieden werden muss. Man geht davon aus, dass es "weiterhin Unfallsituationen geben wird, bei denen Todesopfer nicht vermeidbar" sind und zieht dann daraus Rückschlüsse. Auf diese Weise verbauen sich die Diskutanten den Weg nach Lösungen, wie man eben solche Unfallsituationen vermeiden kann. Solches Vermeiden von Unfallsituationen kostet zwar Geld, aber dieses Geld dürfte bezahlbar sein und auch nicht horrende Kosten verursachen.

Aber es kostet natürlich Bequemlichkeit, weil man (manchmal auch ich) sich eben nervt, gewisse Strecken nur langsam und mit grossen Abständen zum vorausfahrenden Auto absolvieren zu können. Das wird als unmännlich empfunden, oder weniger deutlich formuliert, als Einschränkung der eigenen Freiheit. Oder man glaubt, man sei gerade in Eile und habe keine Zeit für solche Verzögerungen. Wobei es auch hier Abhilfe geben kann: wer einfach nur ungeduldig ist kann sich einmal ausrechnen, wieviel Zeit er wirklich verliert. Ich habe das vor Jahren einmal an meiner meist gehassten Fussgänger-Ampel getan und einfach auf die Uhr geschaut, wie lange ich an diesem unerträglichen Ding warten musste. Die Lösung überraschte: es hat nie länger als 1 Minute gedauert, und meist deutlich weniger. Aber es kam mir ewig lange vor. Hier besteht also die sehr einfache Möglichkeit eines "Umlernens".

Und wer wegen der verpassten Freiheit diesen "Kick" benötigt, der kann ja auf eine Rennstrecke gehen und dort sein Können Gleichgesonnenen zeigen, und er wird dort auch Anerkennung finden. Und zwar von Leuten, die viel mehr von Motorsport verstehen als der Normalbürger in einer verkehrsberuhigten Zone in einer Stadt. Dass Mütter mit einem Kind auf dem Arm über eine Autobahn laufen oder ein Bauer mit seinem Handkarren die Autobahn überquert, habe ich zwar auch schon erlebt, sogar in der EU, aber zumindest nicht in Deutschland und auch nicht in der Schweiz. Wobei dort die Autofahrer viel rücksichtsvoller waren als bei uns, so dass diesem exotisch anmutenden Gebahren dennoch keinerlei Gefahr erwuchs.


Es mag aus akademischen und ethischen Gründen interessant sein, sich über solche "Todesalgorithmen" Gedanken zu machen und da auch Vorschläge zu erarbeiten. Aber an erster Stelle sollte die Lebenserhaltung stehen und mit welchen Massnahmen man diese erreichen kann. Und dann braucht man diese Todesalgorithmen nicht und sollte dann solche Entscheidungen eben dem Menschen überlassen und die zugehörige Verantwortung selber tragen, statt sie einer Maschine aufzubürden, die nichts dafür kann. Auch wenn wir in einer Zeit leben, in der es chic ist, anderen Verantwortung aufzubürden; auch im Berufsleben, wo mittlerweile auch der Nicht-Kader-Sachbearbeiter jede Menge Verantwortung aufgebürdet bekommt, ohne dass deswegen sein Portemonnaie besser gefüllt würde, wie das bis vor wenigen Jahren noch üblich war.

Die Maschine kann nichts dafür, also sollte weder sie noch derjenige, der solche Algorithmen erfinden soll, diese Verantwortung tragen müssen. Sondern statt dessen nach einer sinnvollen Lösung gesucht werden, und zwar frühzeitig. Ein oder noch besser mehrere AI-Programme könnten dabei sogar behilflich sein, denn diese lassen sich nicht von Emotionen der möglicherweise verpassten Freiheit oder der gewünschten Bewunderung durch andere leiten.


Freundliche Grüsse, Ralf

positronium
Ehrenmitglied
Ehrenmitglied
Beiträge: 2832
Registriert: 2. Feb 2011, 20:13

Re: Algorithmen auf dem Richterstuhl

Beitrag von positronium » 2. Feb 2018, 12:41

ralfkannenberg hat geschrieben:
2. Feb 2018, 12:06
Es mag aus akademischen und ethischen Gründen interessant sein, sich über solche "Todesalgorithmen" Gedanken zu machen und da auch Vorschläge zu erarbeiten. Aber an erster Stelle sollte die Lebenserhaltung stehen und mit welchen Massnahmen man diese erreichen kann.
Das ist alles ein einziger untrennbarer Algorithmus - das hat ja Tom (wie auch ich) oben noch einmal verdeutlicht.

Benutzeravatar
Frank
Ehrenmitglied
Ehrenmitglied
Beiträge: 3941
Registriert: 12. Dez 2005, 23:22
Wohnort: Odenwald

Re: Algorithmen auf dem Richterstuhl

Beitrag von Frank » 2. Feb 2018, 12:44

Wieso muss es eigentlich hierzu zwei Threads geben, wenn es in beiden um das gleiche Thema geht?
Mit freundlichen Grüßen

Frank

Benutzeravatar
ralfkannenberg
Ehrenmitglied
Ehrenmitglied
Beiträge: 2002
Registriert: 13. Jan 2017, 10:00

Re: Algorithmen auf dem Richterstuhl

Beitrag von ralfkannenberg » 2. Feb 2018, 12:48

positronium hat geschrieben:
2. Feb 2018, 12:41
ralfkannenberg hat geschrieben:
2. Feb 2018, 12:06
Es mag aus akademischen und ethischen Gründen interessant sein, sich über solche "Todesalgorithmen" Gedanken zu machen und da auch Vorschläge zu erarbeiten. Aber an erster Stelle sollte die Lebenserhaltung stehen und mit welchen Massnahmen man diese erreichen kann.
Das ist alles ein einziger untrennbarer Algorithmus - das hat ja Tom (wie auch ich) oben noch einmal verdeutlicht.
Hallo positronium,

nein, das ist es nicht, weil ihr von unterschiedlichen Voraussetzungen ausgeht:

dadurch, dass Ihr die Zusatzvoraussetzung "Algorithmus darf Tötungen billigend in Kauf nehmen" tätigt, ist Euer Set an Voraussetzungen umfassender, so dass die Lösungsmenge kleiner wird, also konkret eine Teilmenge der Lösungsmenge ist, die sich ohne diese Zusatzvoraussetzung ergibt.

Deswegen ist es nicht nur sinnvoll, sondern sogar erforderlich, das zu trennen. Nicht in diesem Thread, weil hier diese Voraussetzung explizit getätigt wird, aber bei der allgemeinen Lösungsfindung eben schon.

Und wenn man sich Gedanken über die Zukunft mithilfe von AI macht, wenn ich solche bedeutungsvolle Aussagen lese wie
Und damit stehen wir vor einem ethisch-moralischen Dilemma, das wir selbst heraufbeschworen haben, jedoch nicht lösen können. Die Geschwindigkeit und die weitreichenden Folgen überfordern uns ganz offensichtlich.
- denen ich übrigens zustimme, dann genügt es insgesamt nicht, sich nur auf einen Spezialfall zu beschränken, sondenr dann ist aufgrund der Bedeutung der Sachverhaltes auch eine umfassender Lösung zu untersuchen.


Freundliche Grüsse, Ralf

Benutzeravatar
ralfkannenberg
Ehrenmitglied
Ehrenmitglied
Beiträge: 2002
Registriert: 13. Jan 2017, 10:00

Re: Algorithmen auf dem Richterstuhl

Beitrag von ralfkannenberg » 2. Feb 2018, 12:51

Frank hat geschrieben:
2. Feb 2018, 12:44
Wieso muss es eigentlich hierzu zwei Threads geben, wenn es in beiden um das gleiche Thema geht?
Hallo Frank,

weil es wie soeben von mir dargelegt zwei verschiedene Themen sind.

Ebenso wie die Mathematik der algebraischen Zahlen und die Mathematik der reellen Zahlen zwei verschiedene Themen sind, und dies, obgleich man letztere beliebig genau durch erstere annähern kann, sogar dann, wenn diese nur algebraisch vom Grade 1, also rationale Zahlen, sind.


Freundliche Grüsse, Ralf

Benutzeravatar
tomS
Administrator
Administrator
Beiträge: 10582
Registriert: 19. Nov 2007, 20:29
Wohnort: Nürnberg

Re: Algorithmen auf dem Richterstuhl

Beitrag von tomS » 2. Feb 2018, 14:07

ralfkannenberg hat geschrieben:
2. Feb 2018, 12:06
:lol:
... man geht davon aus, dass es zu Situationen kommt, in denen über Leben und Tod entschieden werden muss. Man geht davon aus, dass es "weiterhin Unfallsituationen geben wird, bei denen Todesopfer nicht vermeidbar" sind und zieht dann daraus Rückschlüsse. Auf diese Weise verbauen sich die Diskutanten den Weg nach Lösungen, wie man eben solche Unfallsituationen vermeiden kann.
Hallo Ralf,

wir diskutieren hier über die Einführung von autonomen Fahrzeugen im Individualverkehr, nicht über eine vollständige Änderung des Individualverkehrs. Ich gebe dir recht, wenn du diesen insgesamt auf den Prüfstand stellst, dann ergibt sich eine andere Diskussion. Das war aber hier nicht das Thema.
Gruß
Tom

Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago.

positronium
Ehrenmitglied
Ehrenmitglied
Beiträge: 2832
Registriert: 2. Feb 2011, 20:13

Re: Algorithmen auf dem Richterstuhl

Beitrag von positronium » 2. Feb 2018, 14:08

ralfkannenberg hat geschrieben:
2. Feb 2018, 12:48
dadurch, dass Ihr die Zusatzvoraussetzung "Algorithmus darf Tötungen billigend in Kauf nehmen" tätigt, ...
Nein, das tun wir nicht. Wir sagen: Jeder Autofahralgorithmus wird früher oder später in eine Situation kommen, aus der er ohne tote nicht herauskommen wird. Deshalb muss das in jedem zulassungsfähigen Algorithmus berücksichtigt werden. Diese Berücksichtigung erfolgt aber nicht explizit, sondern implizit durch die Bewertungsfunktion und die darin vorgegebenen Gewichte.

Benutzeravatar
tomS
Administrator
Administrator
Beiträge: 10582
Registriert: 19. Nov 2007, 20:29
Wohnort: Nürnberg

Re: Algorithmen auf dem Richterstuhl

Beitrag von tomS » 2. Feb 2018, 14:24

ralfkannenberg hat geschrieben:
2. Feb 2018, 12:48
... dadurch, dass Ihr die Zusatzvoraussetzung "Algorithmus darf Tötungen billigend in Kauf nehmen" tätigt, ist Euer Set an Voraussetzungen umfassender, so dass die Lösungsmenge kleiner wird, also konkret eine Teilmenge der Lösungsmenge ist, die sich ohne diese Zusatzvoraussetzung ergibt.

Deswegen ist es nicht nur sinnvoll, sondern sogar erforderlich, das zu trennen. Nicht in diesem Thread, weil hier diese Voraussetzung explizit getätigt wird, aber bei der allgemeinen Lösungsfindung eben schon.
Diese Annahme ist naheliegend, weil sie analog zur jetzigen Regelung "Fahrer darf Tötungen billigend in Kauf nehmen" ist.
ralfkannenberg hat geschrieben:
2. Feb 2018, 12:48
Und wenn man sich Gedanken über die Zukunft mithilfe von AI macht, wenn ich solche bedeutungsvolle Aussagen lese wie
Und damit stehen wir vor einem ethisch-moralischen Dilemma, das wir selbst heraufbeschworen haben, jedoch nicht lösen können. Die Geschwindigkeit und die weitreichenden Folgen überfordern uns ganz offensichtlich.
- denen ich übrigens zustimme, dann genügt es insgesamt nicht, sich nur auf einen Spezialfall zu beschränken, sondenr dann ist aufgrund der Bedeutung der Sachverhaltes auch eine umfassender Lösung zu untersuchen.
Die dann erfordert, dass man die Bewahrung von (menschlichem) Leben ausnahmslos als oberste Prämisse ansetzt.

Das ist nun ein völlig anderes Thema, das du zunächst vollständig ohne KI diskutieren könntest und solltest. Dabei solltest auch sofort Themen wie Klimawandel und Verzicht auf fossile Brennstoffe, das Aufstreben von Schwellenländern, aber auch Überbevölkerung und Geburtenkontrolle mit einbeziehen, da es dir ja sicher nicht nur um die Bewahrung des heute existierenden menschlichen Lebens geht.

Spannendes Thema, anderer Thread :-)
Gruß
Tom

Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago.

Benutzeravatar
ralfkannenberg
Ehrenmitglied
Ehrenmitglied
Beiträge: 2002
Registriert: 13. Jan 2017, 10:00

Re: Algorithmen auf dem Richterstuhl

Beitrag von ralfkannenberg » 2. Feb 2018, 14:25

tomS hat geschrieben:
2. Feb 2018, 14:07
wir diskutieren hier über die Einführung von autonomen Fahrzeugen im Individualverkehr, nicht über eine vollständige Änderung des Individualverkehrs. Ich gebe dir recht, wenn du diesen insgesamt auf den Prüfstand stellst, dann ergibt sich eine andere Diskussion. Das war aber hier nicht das Thema.
Hallo Tom,

sehr guter Punkt. Eine Änderung der Infrastruktur (z.B. breitere Strassen, damit man besser ausweichen kann) liegt im Rahmen dieser Diskussion also nicht drin, weil sich diese breiteren Strasse so schnell nicht realisieren lassen. Wobei das ohnehin nur eine Ad Hoc-Idee ist, ich weiss derzeit noch nicht, ob das überhaupt eine zweckmässige Massnahme zur Unfallvermeidung ist.

Aber wie wäre es mit angepassterem Fahren, also weniger schnell und grössere Abstände halten ? Eine autonomes Fahrzeug kann das ja auch im heutigen Individualverkehr leisten. - Was wäre beispielsweise die Folge, wenn man während 1 km statt der erlaubten 30 km/h nur 10 km/h fährt ?

Ganz einfach, die Fahrzeit verlängert sich um lächerliche 4 Minuten.

Und eine z.B. Verdoppelung des Abstandes zum vorausfahrenden Fahrzeug hat zur Folge, dass nur halb soviele Autos auf die Strasse passen. Das ist schlimmstenfalls bei einem Stau von relevanz, wobei sich die Staus wohl massiv reduzieren lassen, wenn man den Abstand zum vorausfahrenden Fahrzeug konsequent verdoppelt. Und vielleicht genügt ja auch schon eine Vergrösserung des Abstandes zum vorausfahrenden Fahrzeug um nur 50%; das müsste man nachrechnen.


Freundliche Grüsse, Ralf

Benutzeravatar
tomS
Administrator
Administrator
Beiträge: 10582
Registriert: 19. Nov 2007, 20:29
Wohnort: Nürnberg

Re: Algorithmen auf dem Richterstuhl

Beitrag von tomS » 2. Feb 2018, 14:30

positronium hat geschrieben:
2. Feb 2018, 14:08
ralfkannenberg hat geschrieben:
2. Feb 2018, 12:48
dadurch, dass Ihr die Zusatzvoraussetzung "Algorithmus darf Tötungen billigend in Kauf nehmen" tätigt, ...
Nein, das tun wir nicht. Wir sagen: Jeder Autofahralgorithmus wird früher oder später in eine Situation kommen, aus der er ohne tote nicht herauskommen wird. Deshalb muss das in jedem zulassungsfähigen Algorithmus berücksichtigt werden. Diese Berücksichtigung erfolgt aber nicht explizit, sondern implizit durch die Bewertungsfunktion und die darin vorgegebenen Gewichte.
Jeder Autofahralgorithmus wird unter den heute gültigen Randbedingungen (*) früher oder später in eine Situation kommen, aus der er ohne tote nicht herauskommen wird. Deshalb muss das in jedem zulassungsfähigen Algorithmus berücksichtigt werden.

(*) Individualverkehr, vergleichbare Autos, ähnliche Straßen, auch mit Fußgängern und Fahrradfahrern, etc.

Ralf hat Recht, man kann all das in Frage stellen, aber das ist eine andere Diskussion.
Gruß
Tom

Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago.

Benutzeravatar
ralfkannenberg
Ehrenmitglied
Ehrenmitglied
Beiträge: 2002
Registriert: 13. Jan 2017, 10:00

Re: Algorithmen auf dem Richterstuhl

Beitrag von ralfkannenberg » 2. Feb 2018, 14:40

tomS hat geschrieben:
2. Feb 2018, 14:24
Das ist nun ein völlig anderes Thema, das du zunächst vollständig ohne KI diskutieren könntest und solltest. Dabei solltest auch sofort Themen wie Klimawandel und Verzicht auf fossile Brennstoffe, das Aufstreben von Schwellenländern, aber auch Überbevölkerung und Geburtenkontrolle mit einbeziehen, da es dir ja sicher nicht nur um die Bewahrung des heute existierenden menschlichen Lebens geht.
Hallo Tom,

ich erlaube mir, ein "Gleichnis" zu erzählen, wobei dieses Gleichnis die Eigenschaft hat, dass es mir passiert ist.

Wir schreiben das Jahr 1980, Bundeswehr, Grundausbildung. Es stand ein 2000m-Lauf an, unbeliebt, weil er anstrengender als ein 100m-Lauf ist. Der diensthabende Feldwebel versprach uns deswegen, dass die schnellsten am Wochenende früher nach Hause gehen dürfen. Da ich im ersten 2000m-Lauf Vierter geworden war, rechnete ich mir also durchaus Chancen aus. Tatsächlich lief das Rennen für mich unerwartet gut und einem Handball-Spieler und mir gelang es, uns von den anderen Soldaten abzusetzen; im Endspurt behielt ich das bessere Ende auf meiner Seite und gewann den Lauf.

Nun war es Freitag abend und noch immer hatte ich nichts von dem "früher nach Hause gehen"-Dürfen gehört. Dem Handballspieler fehlte der Mut, nachzufragen, aber der Feldwebel hatte es "den schnellsten" zugesagt und das waren zweifelsohne wir beide, so dass ich also den Feldwebel in dieser Angelegenheit frug.

Was meinst Du, was der antwortete ?
tomS hat geschrieben:
2. Feb 2018, 14:24
Dabei solltest auch sofort Themen wie (...)
Das war also seine Antwort: wir sollen auch die 100m, Fussball, Schiessen neben dem 2000m-Lauf berücksichtigen und die Besten dürfen dann früher nach Hause gehen.

Wann das sein wird, ist klar: am St.Nimmerleinstag. Weil es viel zu aufwändig ist, alle diese Themen erschöpfend zu behandeln.


Freundliche Grüsse, Ralf

EDIT 16:08 Uhr

Benutzeravatar
Dgoe
wohnt hier!
wohnt hier!
Beiträge: 399
Registriert: 20. Nov 2017, 17:32

Re: Algorithmen auf dem Richterstuhl

Beitrag von Dgoe » 2. Feb 2018, 18:47

Vorab bemerkt, ist das Thema in #1 von Frank viel allgemeiner orientiert (mit einem anderen Beispiel) und erst ab #2 geht es um autonomes Fahren.


Den Artikel der Zeit scheint jeder auf seine Art zu lesen. Das ändert aber nichts an einer Fülle unmissverständlicher Textstellen zum Thema geltender Rechtsprechung (siehe Threadtitel), welche im Übrigen auch genau meinen Ansichten entsprechen.

Diese und einige Punkte, die meine weiteren Ansichten ansprechen, habe ich hier zusammengestellt (alle Hervorhebungen von mir):

http://www.zeit.de/kultur/2017-09/kuenstliche-intelligenz-algorithmus-spam-autonomes-fahren/komplettansicht hat geschrieben: ... das philosophische Problem, das hier aufgerufen wird: Unter welchen Umständen darf man töten, um Leben zu retten?
[...]
Die Frage, ob man töten darf, um Leben zu retten, ist durchaus längst in der Mitte der Gesellschaft angekommen, als Aktualisierung eines moralischen Gedankenexperiments. 
[...]

Im Widerspruch zum moralischen Impuls der meisten Bürger (die den Major freisprachen) besagt die ethische Grundlage unserer Rechtsprechung: Das kleinere von zwei Übeln lässt sich weder mathematisch ermitteln noch durch Diskriminierung nach Alter, Geschlecht oder kulturellen Wertmaßstäben. Das Leben von zehn Menschen ist nicht mehr wert als das von zweien und das Leben eines Kindes nicht mehr als das eines Greises. Die im deutschen Grundgesetz versprochene Unantastbarkeit der Würde des Menschen verbietet prinzipiell, einen Menschen auf ein Mittel zum Zweck (und sei es die Rettung anderer Menschen) zu reduzieren.
[...]
Aus diesem Grund kassierte das Verfassungsgericht Anfang 2006 Paragraph 14 Absatz 3 des vom Bundestag ein Jahr zuvor verabschiedeten Luftsicherheitsgesetzes – der im Terrorfall als ultima ratio den Abschuss von Passagierflugzeugen erlaubt hätte – als Verstoß gegen die Menschenwürde.
[...]
Der deutsche Verkehrsminister hat im Mai 2016 eine Kommission unter Vorsitz eines früheren Bundesverfassungsrichters eingesetzt, um "ethische Fragen beim Paradigmenwechsel vom Autofahrer zum Autopilot" zu klären, und gleich klargestellt, dass es keine Klassifizierung von Personen nach Größe oder Alter geben darf. 
[...]
Gelegentlich wird der Diskussionsbedarf auch bezweifelt mit dem Argument: Wenn autonom fahrende Autos die Zeit für solche Entscheidungen haben, haben sie auch die Zeit, rechtzeitig zu bremsen, zumal sie ja streng zum risikoarmen Fahren programmiert werden. 
[...]
In dieser Vorentscheidung liegt der Gesetzesverstoß, denn sie erfolgt, anders als die reflexartige Reaktion eines menschlichen Fahrers (die kaum als Entscheidung zu bezeichnen ist), mit Bedacht und kaltem Blut. Die Entscheidung über Leben und Tod wird im hypothetischen Ernstfall lange vor Antritt der verhängnisvollen Fahrt getroffen, ...
[...]
Werden die Fahrzeughalter die Wahl haben? 
[...]
Sobald über den Elefanten im Raum gesprochen wird, scheint keine andere Lösung denkbar als der Egoismus.
[...]
So groß das ethische Dilemma der Todesalgorithmen auch ist: Ihnen nicht die Regie zu überlassen, wäre auch keine Lösung. Noch unmoralischer, als kühl und rasch das Leben eines Kindes gegen das eines Rentners abzuwägen, wäre es, eine Technologie zu blockieren, die Zehntausende von Unfalltoten pro Jahr verhindert. 
Letzterer Punkt greift natürlich die Diskussion hier auf. Ich sehe aber kein entweder oder. Natürlich kann ich mir trotz aller Skepsis vorgetragener Zahlen vorstellen, dass es weniger Verkehrstote geben dürfte, wenn alle (oder viele) autonom fahren, vorrausgesetzt die Technologie schafft, was sie verspricht.

Im Zweifel wäre ich wie gesagt für die Insassen, da es auch Fehlinterpretationen geben kann, wie eine Gruppe Gartenzwerge u.ä.

Zum anderen dürften im Ernstfall nur Sekundenbruchteile Rechenzeit vorliegen, ein knappes Gut. Dabei gebe ich zu bedenken, dass der Sachverhalt in der Diskussion von außen gesehen wird bzw. in einer theoretischen Retrospektive. Die KI befindet sich jedoch in 'Echtzeit' und der Datenstrom ihrer Sensoren geht weiter und bricht nicht unbedingt kurz vorher ab.
Damit sollte sie sich weiterbeschäftigen, um vielleicht noch Maßnahmen zu finden, einen Unfall zu vermeiden oder glimpflicher ausgehen zu lassen, in Bezug auf Bewegungsenergie, Trägheit und zig zu berechnender Details - damit erschöpfend ausgelastet.

Gruß,
Dgoe
Der Optimist glaubt, dass wir in der besten aller möglichen Welten leben. Der Pessimist befürchtet, dass der Optimist damit Recht hat.

Benutzeravatar
tomS
Administrator
Administrator
Beiträge: 10582
Registriert: 19. Nov 2007, 20:29
Wohnort: Nürnberg

Re: Algorithmen auf dem Richterstuhl

Beitrag von tomS » 2. Feb 2018, 20:49

ralfkannenberg hat geschrieben:
2. Feb 2018, 14:40
Weil es viel zu aufwändig ist, alle diese Themen erschöpfend zu behandeln.
Ja, und deswegen diskutieren wir immer innerhalb eines bestimmten, festen Rahmens.

Dir war der hier gewählte zu klein, jetzt ist dir der von mir angebotene zu groß :-)
Gruß
Tom

Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago.

Benutzeravatar
tomS
Administrator
Administrator
Beiträge: 10582
Registriert: 19. Nov 2007, 20:29
Wohnort: Nürnberg

Re: Algorithmen auf dem Richterstuhl

Beitrag von tomS » 2. Feb 2018, 20:51

Dgoe hat geschrieben:
2. Feb 2018, 18:47
Vorab bemerkt, ist das Thema in #1 von Frank viel allgemeiner orientiert (mit einem anderen Beispiel) und erst ab #2 geht es um autonomes Fahren.
Autonomes Fahren ist ein offensichtliches Beispiel für die Problemaik. Es gibt sicher weitere.
Gruß
Tom

Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago.

Benutzeravatar
ralfkannenberg
Ehrenmitglied
Ehrenmitglied
Beiträge: 2002
Registriert: 13. Jan 2017, 10:00

Re: Algorithmen auf dem Richterstuhl

Beitrag von ralfkannenberg » 2. Feb 2018, 21:01

tomS hat geschrieben:
2. Feb 2018, 20:49
Dir war der hier gewählte zu klein, jetzt ist dir der von mir angebotene zu groß :-)
Hallo Tom,

Du musst aber schon zugeben, dass das von Dir angebotene Thema tatsächlich ziemlich gross ist ... ;)


Freundliche Grüsse, Ralf

Benutzeravatar
Dgoe
wohnt hier!
wohnt hier!
Beiträge: 399
Registriert: 20. Nov 2017, 17:32

Re: Algorithmen auf dem Richterstuhl

Beitrag von Dgoe » 2. Feb 2018, 22:26

tomS hat geschrieben:
2. Feb 2018, 20:51
Dgoe hat geschrieben:
2. Feb 2018, 18:47
Vorab bemerkt, ist das Thema in #1 von Frank viel allgemeiner orientiert (mit einem anderen Beispiel) und erst ab #2 geht es um autonomes Fahren.
Autonomes Fahren ist ein offensichtliches Beispiel für die Problemaik. Es gibt sicher weitere.
Ja, bei diesem Beispiel bin ich auch geblieben, in Bezug zum Titelthema.

:doc: :strings ;)

Gruß,
Dgoe
Der Optimist glaubt, dass wir in der besten aller möglichen Welten leben. Der Pessimist befürchtet, dass der Optimist damit Recht hat.

Benutzeravatar
Frank
Ehrenmitglied
Ehrenmitglied
Beiträge: 3941
Registriert: 12. Dez 2005, 23:22
Wohnort: Odenwald

Re: Algorithmen auf dem Richterstuhl

Beitrag von Frank » 2. Feb 2018, 23:28

Ah ja das Titelthema. Da war doch mal was.... ;j
Mit freundlichen Grüßen

Frank

Benutzeravatar
ralfkannenberg
Ehrenmitglied
Ehrenmitglied
Beiträge: 2002
Registriert: 13. Jan 2017, 10:00

Re: Algorithmen auf dem Richterstuhl

Beitrag von ralfkannenberg » 3. Feb 2018, 02:03

Frank hat geschrieben:
2. Feb 2018, 23:28
Ah ja das Titelthema. Da war doch mal was.... ;j
Und damit das so bleibt, habe ich auf Toms Anregung noch einen dritten Thread eröffnet:

Bewahrung von (menschlichem) Leben als oberste Prämisse


Freundliche Grüsse, Ralf

Benutzeravatar
tomS
Administrator
Administrator
Beiträge: 10582
Registriert: 19. Nov 2007, 20:29
Wohnort: Nürnberg

Re: Algorithmen auf dem Richterstuhl

Beitrag von tomS » 3. Feb 2018, 11:17

Nur so als Anregung für weitere Diskussionen:

Autonome Polizeidrohnen?
KI in der Politik, z.B. zur Ermittlung der bestmöglichen Gesetze?
KI in der Rechtsprechung?
Autonome Roboter in der Pflege?
Gruß
Tom

Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago.

Benutzeravatar
tomS
Administrator
Administrator
Beiträge: 10582
Registriert: 19. Nov 2007, 20:29
Wohnort: Nürnberg

Re: Algorithmen auf dem Richterstuhl

Beitrag von tomS » 3. Feb 2018, 11:18

Frank hat geschrieben:
2. Feb 2018, 23:28
Ah ja das Titelthema. Da war doch mal was...
Nun, mein Algorithmus steht immer noch da und darf gerne kritisiert oder modifiziert werden.
Gruß
Tom

Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago.

Antworten