Hinweis auf die DSGVO: Auf unserer Seite werden keine Dritt-Anbieter-Cookies verwendet und nur Daten erfasst, welche für das Minimum an Board-Funktionalität notwendig sind.
Bevor Sie sich registrieren oder das Board verwenden, lesen Sie bitte zusätzlich die DSGVO-Erklärung, welche in der Navigationsleiste verlinkt ist.

Kurzfassung der unserer Meinung nach wichtigsten DSGVO-Punkte:
Es kann vorkommen, dass Benutzer eigenverantwortlich Videos oder sonstige Medien in ihren Beiträgen verlinken, welche beim Aufruf der Forenseite als Teil der Seite samt zugehörigem Material mitgeladen werden. Sollten Sie dies nicht wünschen, verwenden Sie beim Benutzen des Forums einen Blocker wie z.B. uMatrix, welcher das Laden von Inhaltsblöcken von Fremd-URLs effektiv unterbinden kann.
Wir blenden keine Werbung ein und schränken die Inhalte in keinster Weise bei Benutzung von Addblockern ein. Dadurch ist die Grundfunktionalität des Forums auch bei vollständigem Blockieren von Drittanbieter-Inhalten stets gegeben.

Cookies werden unsererseits nur verwendet um das Einloggen des Benutzers für die Dauer der Forenbenutzung zu speichern. Es steht dem Benutzer frei die Option 'Angemeldet bleiben' zu verwenden, damit der Cookie dauerhaft gespeichert bleibt und beim nächsten Besuch kein erneutes Einloggen mehr notwendig ist.
EMail-Adressen werden für Kontakt bei wichtigen Mitteilungen und zur Widerherstellung des Passwortes verwendet. Die verwendeten IPs können von uns ohne externe Hilfsmittel mit keiner realen Person in Verbindung gebracht werden und werden nach spätestens 7 Tagen gelöscht. Diese IPs werden höchstens verwendet um Neuanmeldungen unerwünschter oder gesperrter Nutzer zu identfizieren und zu unterbinden. Wir behalten uns daher vor bei Verdacht, die Frist für die IP-Löschung auf maximal 14 Tage zu verlängern.
Unsere Webseite läuft auf einem virtuellen Linux-Server, welcher von einem externen Anbieter gehostet wird. Etwaige Verstöße der DSGVO-Auflagen seitens dieses deutschen Hosters können wir nicht feststellen und somit auch nicht verfolgen.
Wir halten Backups unserer Datenbanken, welche in regelmäßigen Abständen als Schutz vor Katastrophen, Hackerangriffen und sonstigen Ausfällen erstellt werden. Sollte ein Nutzer die Löschung seiner Daten wünschen, betrachten wir es als Unzumutbar die Backups auch von den Daten zu befreien, da es sich hierbei um eine mehrtägiges Unterfangen handelt - dies ist für eine Einzelperson beim Betrieb eines privaten Forums nicht zumutbar möglich ohne das Backup komplett zu löschen.
Sollten Sie etwas gegen die dauerhafte anonyme Speicherung ihrer EMail-Adresse, ihres Pseudonyms und ihrer Beiträge in einem Backup haben, sehen Sie von der Registrierung in diesem Forum ab. Für Mitglieder, welche vor dem 25.05.2018 registriert waren steht jedoch das Recht im Raum, eine Löschung der Datenbank-Backups zu beantragen.



Wenn dies Ihr erster Besuch hier ist, lesen Sie bitte zunächst die FAQs sowie die wesentlichen Regeln zur Benutzung des Forums.
Um an den Diskussionen teilnehmen zu können, müssen Sie sich zunächst registrieren.

Algorithmen auf dem Richterstuhl

Wissenschaftsgeschichte, Wissenschaftstheorie bzw. -philosophie, Technik
Benutzeravatar
tomS
Administrator
Administrator
Beiträge: 10590
Registriert: 19. Nov 2007, 20:29
Wohnort: Nürnberg

Re: Algorithmen auf dem Richterstuhl

Beitrag von tomS » 27. Aug 2018, 14:22

Fangen wir mal von hinten an.

Ja, du hast natürlich völlig recht, dass diese Entwicklungen ein erheblich größeres Gefährdungspotential aufweist. Autonomes Fahren ist - wenn man‘s richtig macht - ein ausschließlich ethisches Problem! Wenn man voll-autonomes Fahren erst dann zulässt, wenn es nachweislich deutlich sicherer ist als nicht- oder teil-autonomes Fahren, wird die Zahl und die Schwere der Unfälle deutlich reduziert; das verbleibende ethische Problem besteht lediglich darin, ob man durch etwas frühere oder spätere Zulassung dies im positiven Sinne hätte beeinflussen können, und natürlich, wie man mit den verbleiben Opfern umgeht.

Voll-autonome Waffensysteme könnten natürlich außer Kontrolle oder unter den Einfluss von Hackern geraten - wobei voll-autonom m.E. nicht die Exietenz eines Not-Aus ausschließen muss.

Der Vorteil voll-autonomer Waffen ist auch - jedoch nicht ausschließlich - die Geschwindigkeit der Entscheidungsfindung. Ein essentieller Vorteil ist die Vollautonomie an sich, da sie den ganz- oder teilweisen sowie vollständig oder zeitweisen Verzicht auf eine Entscheidungskette ermöglicht. Z.B. kann man ein Drohnenschwarm mit einem bestimmten Auftrag aussenden, der vollständig autonom durchführbar ist. Man benötigt keine Rücksprache mit einer Zentrale, die z.B. gestört sein kann, überlastet ist usw.

Man stelle sich vor, dass nicht der Taliban-Chef sondern zig Taliban-Kämpfer ausgeschaltet werden sollen: Zur Überwachung würden Dutzende von Spezialisten benötigt; die Kommunikation wäre anfällig; Absprachen in der Leitstelle wären kompliziert, ... Stattdessen erhält jede Drohne eine SW zur Gesichts- und Bewegungsmustererkennung, Photos der Zielpersonen sowie einen groben Einsatzplan sowie -bereich. Die Drohnen können autark oder ggf. vernetzt operieren, sie können das Waffensytestem selbst wählen, sie können töten oder lähmen. Der Drohnenschwarm muss nicht aus der Nähe von einem Flugzeugträger gestartet und koordniert werden, sondern kann von einem unbemannten Spezialflugzeug in großer Höhe freigesetzt werden. Durch den Schwarm erhält man eine hohe Redundanz.

Die notwendige Technik und Infrastruktur sind evtl. schlichtweg billiger bereitzustellen und zu betreiben; das ist sogar für amerikanische Militärs ein entscheidender Punkt.
Gruß
Tom

Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago.

Benutzeravatar
seeker
Ehrenadmin
Ehrenadmin
Beiträge: 6369
Registriert: 26. Dez 2009, 10:29

Re: Algorithmen auf dem Richterstuhl

Beitrag von seeker » 28. Aug 2018, 08:40

tomS hat geschrieben:
27. Aug 2018, 14:22
Autonomes Fahren ist - wenn man‘s richtig macht - ein ausschließlich ethisches Problem!
Besser formuliert: "Ist im Kern zunächst ein ethisches Problem." Hinzu kommen hier rechtliche, verwaltungtechnische, versicherungetechnische, technische, gesellschaftliche, infrastrukturtechnische, ... Probleme. Der Punkt ist hier: Das scheint alles irgendwie lösbar zu sein, damit wird man leben können, man wird mit dieser Technik voraussichtlich sogar besser leben können.
tomS hat geschrieben:
27. Aug 2018, 14:22
Der Vorteil voll-autonomer Waffen ist auch - jedoch nicht ausschließlich - die Geschwindigkeit der Entscheidungsfindung. Ein essentieller Vorteil ist die Vollautonomie an sich, da sie den ganz- oder teilweisen sowie vollständig oder zeitweisen Verzicht auf eine Entscheidungskette ermöglicht. Z.B. kann man ein Drohnenschwarm mit einem bestimmten Auftrag aussenden, der vollständig autonom durchführbar ist. Man benötigt keine Rücksprache mit einer Zentrale, die z.B. gestört sein kann, überlastet ist usw.
Genau.
tomS hat geschrieben:
27. Aug 2018, 14:22
Voll-autonome Waffensysteme könnten natürlich außer Kontrolle oder unter den Einfluss von Hackern geraten - wobei voll-autonom m.E. nicht die Exietenz eines Not-Aus ausschließen muss.
Ja. Darin sehe ich aber nicht einmal das Hauptproblem.
Ein Hauptproblem liegt m.E. darin, dass Kriege oder gezielte Eliminierungen von Personen oder Objekten damit eine geringere Hemmschwelle bekommen: sie werden leichter durchführbar, weil mit direkten eigenen Verlusten an Menschenleben nicht zu rechnen ist (die man vor der eigenen Bevölkerung immer irgendwie rechtfertigen muss und wo man aufwändige gesellschaftliche Mechanismen auffahren muss: Heldenverehrung, Gedenkfeiern, Propaganda, Erklärungen, Entschädigungen, Ehre, "Für das Vaterland", usw.).
Außerdem wird damit u.U. viel unklarer, wer welchen Angriff überhaupt durchgeführt hat: Einen feindlichen Soldaten kann man meist leicht identifizieren, eine feindliche Maschine nicht immer, deren Herkunft lässt sich leichter verschleiern. Das haben wir bei ferngesteuerten Drohnen zwar auch schon, aber mit autonomen Maschinen wäre es u.a. wegen der unkontrollierbaren Geschwindigkeit nochmals ein deutlich anderes Spiel.

Dass man die Herkunft von Angriffen zunehmend gerne verschleiert, weil der Informations- und Wissenfluss in der Öffentlichkeit immer wichtiger wird, haben wir kürzlich in Fall Ukraine/Russland deutlich sehen können.
tomS hat geschrieben:
27. Aug 2018, 14:22
Die notwendige Technik und Infrastruktur sind evtl. schlichtweg billiger bereitzustellen und zu betreiben
Das ist ein weiterer entscheidender Punkt. Denn: Wenn eine sehr effektive Technik billig und allgemein verfügbar ist, dann kann und wird und muss sie jeder anwenden - die großen Akteure dabei sehr massiv.
Damit wird die Welt deutlich unsicherer, d.h. die Konflikte nehmen zu, die Hemmschwelle nimmt ab.
Fängt man mit dieser Technik erst einmal an, so führt das zu einem erzwungenem neuen Wettrüsten (wegen der erforderlichen schnellen Entscheidungsfindung insbesondere auch in Richtung autonom entscheidender Algorithmen), das schnell außer Kontrolle geraten wird.
Und dann hat man schnell einen Krieg Maschinen gegen Maschinen, den keiner befohlen hat, den vornehmlich Algorithmen ausgelöst haben, vielleicht nur noch mit einem Miniumum an menschlichem Zutun. Bei solchen Kriegen besteht -wie immer- die Gefahr, dass sie sich unkontrolliert ausbreiten, im schlimmsten Fall bis hin zu einem Weltkrieg.

Weiterhin:
Wäre so etwas erst einmal im militärischen Bereich etabliert, ist es nur noch ein kleiner und logischer Schritt, sie auch im polizeilichen Bereich gegen die eigene Bevölkerung einzusetzen.
Grüße
seeker


Kritisches Denken bedeutet nicht, sich einseitig nur aus kritischen Quellen zu versorgen und die dortigen Darstellungen unkritisch zu übernehmen. Viele überschätzen ihre eigene Medienkompetenz massiv. Dies wird von Verführern ausgenutzt.

Benutzeravatar
tomS
Administrator
Administrator
Beiträge: 10590
Registriert: 19. Nov 2007, 20:29
Wohnort: Nürnberg

Re: Algorithmen auf dem Richterstuhl

Beitrag von tomS » 28. Aug 2018, 09:28

Zustimmung.

Außer bei
seeker hat geschrieben:
28. Aug 2018, 08:40
... wäre so etwas erst einmal im militärischen Bereich etabliert, ist es nur noch ein kleiner und logischer Schritt, sie auch im polizeilichen Bereich gegen die eigene Bevölkerung einzusetzen.
Ich denke, rein praktisch - nicht rechtlich - gesehen wäre das eher eine Vorstufe.

Autonome Drohnen wären bei Beschattung, Verfolgung und Festnahmen klar im Vorteil. Dabei ist Tötung natürlich nie das primäre Ziel, müsste jedoch in die SW integriert werden. Bei einer Festnahme wird die Drohne die Zielperson möglichst nicht verletzen, allenfalls lähmen; der Selbstschutz der Drohne könnte im Gegensatz zum menschlichen Polizeibeamten dabei deutlich niedrigere Priorität haben. Allerdings kann ein flüchtiger Verbrecher natürlich nach wie vor zu Mitteln wie Geiselnahmen greifen, und dann muss die Drohne alle Maßnahmen ergreifen können, bis hin zum finalen Rettungsschuss. Ziel wäre es ja, dass der Drohneneinsatz die Sicherheit Unbeteiligter oder potentieller Opfer besser gewährleisten kann.

Das wäre auch für private Sicherheitsdienste interessant, z.B. in Banken, Juwelierläden, bei Großveranstaltungen wie Fußballspielen etc. Wenn ich Überwachung per Video plus Mechanismus zur Festnahme eines Hooligans in ein Gerät integrieren kann, bin ich klar im Vorteil.

Schwieriger als bei militärischen Drohnen ist die Mustererkennung, da es keine klare Frontlinie gibt. Allerdings kennen wir das bereits heute von asymmetrischen Konflikten mit Zivilisten als menschlichen Schutzschilden.

Das Problem ist - wie immer - das Wettrüsten sowie die illegale Beschaffung von Waffen durch Kriminelle, Terroristen oder Schurkenstaaten. Wäre das nicht gegeben, dann wäre rein praktisch - nicht ethisch - der Drohneneinsatz tatsächlich vorteilhaft. Warum soll ich als Politiker Soldaten oder Polizisten gefährden müssen, um Kriminelle oder Terroristen zu fassen, insbs. wenn Selbstmordattentäter sich selbst bewusst opfern wollen? Isoliert betrachtet wäre der Einsatz autonomer Drohnen hier kein ethisches Problem. Das Problem resultiert - wie du schon richtig sagst - aus der prinzipiell niedrigeren Hemmschwelle, des Rüstungswettlaufes etc.
Gruß
Tom

Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago.

Benutzeravatar
Frank
Ehrenmitglied
Ehrenmitglied
Beiträge: 3946
Registriert: 12. Dez 2005, 23:22
Wohnort: Odenwald

Re: Algorithmen auf dem Richterstuhl

Beitrag von Frank » 28. Aug 2018, 10:47

tomS hat geschrieben:
27. Aug 2018, 14:22


Ja, du hast natürlich völlig recht, dass diese Entwicklungen ein erheblich größeres Gefährdungspotential aufweist. Autonomes Fahren ist - wenn man‘s richtig macht - ein ausschließlich ethisches Problem!
Nö, ist es nicht. Hier hängen soviele Dinge dran, wie Manipulationen, technische Probleme , Materialbversagen und den daraus entstehenden Haftungen z.B. ( und es gibt noch zig andere nicht ethische Gründe)

tomS hat geschrieben:
27. Aug 2018, 14:22
Voll-autonome Waffensysteme könnten natürlich außer Kontrolle oder unter den Einfluss von Hackern geraten - wobei voll-autonom m.E. nicht die Exietenz eines Not-Aus ausschließen muss.

Der Vorteil voll-autonomer Waffen ist auch - jedoch nicht ausschließlich - die Geschwindigkeit der Entscheidungsfindung. Ein essentieller Vorteil ist die Vollautonomie an sich, da sie den ganz- oder teilweisen sowie vollständig oder zeitweisen Verzicht auf eine Entscheidungskette ermöglicht. Z.B. kann man ein Drohnenschwarm mit einem bestimmten Auftrag aussenden, der vollständig autonom durchführbar ist. Man benötigt keine Rücksprache mit einer Zentrale, die z.B. gestört sein kann, überlastet ist usw.

Man stelle sich vor, dass nicht der Taliban-Chef sondern zig Taliban-Kämpfer ausgeschaltet werden sollen: Zur Überwachung würden Dutzende von Spezialisten benötigt; die Kommunikation wäre anfällig; Absprachen in der Leitstelle wären kompliziert, ... Stattdessen erhält jede Drohne eine SW zur Gesichts- und Bewegungsmustererkennung, Photos der Zielpersonen sowie einen groben Einsatzplan sowie -bereich. Die Drohnen können autark oder ggf. vernetzt operieren, sie können das Waffensytestem selbst wählen, sie können töten oder lähmen. Der Drohnenschwarm muss nicht aus der Nähe von einem Flugzeugträger gestartet und koordniert werden, sondern kann von einem unbemannten Spezialflugzeug in großer Höhe freigesetzt werden. Durch den Schwarm erhält man eine hohe Redundanz.

Die notwendige Technik und Infrastruktur sind evtl. schlichtweg billiger bereitzustellen und zu betreiben; das ist sogar für amerikanische Militärs ein entscheidender Punkt.
Der größte Vorteil von autonomen Waffen ist der praktisch nicht vorhandene Verlust von Menschenleben, der in jeder aufgeklärten Zivilisattion immer schwerer vermittenbar ist.
Und zu deiner Gesichts und Personenerekennung:
Wieviele Doppelgänger hatte z.B. Bin Laden nochmal?
Willst du mir jetzt ernsthaft erzählen, deine KI könnte gezielt eine Person in einer Menschenansammlung treffen, ohne Kollateralschäden?

Das Bauchgefühl des Menschen, was deine KI nie haben wird, was zwar nicht vor Fehlentscheidungen bewahrt,aber zumindest noch Skrupel aufkommen lässt, hat schon so manche Katastrophe in der Vergangenheit verhindert.

Man überlege sich die Kuba Krise damals in Händen von KI........ nicht auszudenken.... :? :shock:
Mit freundlichen Grüßen

Frank

Benutzeravatar
tomS
Administrator
Administrator
Beiträge: 10590
Registriert: 19. Nov 2007, 20:29
Wohnort: Nürnberg

Re: Algorithmen auf dem Richterstuhl

Beitrag von tomS » 28. Aug 2018, 11:04

Frank hat geschrieben:
28. Aug 2018, 10:47
tomS hat geschrieben:
27. Aug 2018, 14:22


Ja, du hast natürlich völlig recht, dass diese Entwicklungen ein erheblich größeres Gefährdungspotential aufweist. Autonomes Fahren ist - wenn man‘s richtig macht - ein ausschließlich ethisches Problem!
Nö, ist es nicht. Hier hängen soviele Dinge dran, wie Manipulationen, technische Probleme , Materialbversagen und den daraus entstehenden Haftungen z.B. ( und es gibt noch zig andere nicht ethische Gründe)
Wenn man es richtig macht, ich das alles kein Thema.

Heute kommen in den USA ca. 30000 Menschen überwiegend durch menschliches Versagen im Straßenverkehr zu tode. Wenn man diese Zahl auf 1/10 oder weniger reduziert, dann sind andere Themen vernachlässigbar, 100 Tote durch technische Fehlfunktion irrelevant - mit Ausnahme der ethischen Frage.

Letztere muss man zuerst klären, bevor man daraus Rechtsnormen etc. ableiten kann. Das Umsetzen in Gesetze ist lediglich Fleißarbeit, wenn man die ethische Debatte geführt hat.
Gruß
Tom

Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago.

Benutzeravatar
tomS
Administrator
Administrator
Beiträge: 10590
Registriert: 19. Nov 2007, 20:29
Wohnort: Nürnberg

Re: Algorithmen auf dem Richterstuhl

Beitrag von tomS » 28. Aug 2018, 11:13

Frank hat geschrieben:
28. Aug 2018, 10:47
Und zu deiner Gesichts und Personenerekennung:
Wieviele Doppelgänger hatte z.B. Bin Laden nochmal?
Willst du mir jetzt ernsthaft erzählen, deine KI könnte gezielt eine Person in einer Menschenansammlung treffen, ohne Kollateralschäden?
Dann lähmt man die Gruppe und analysiert anschließend in Ruhe :-) Es geht nicht um eine sofortige Tötung.

Bei einen Doppelgänger wird ein Mensch genau die selben Probleme haben wie eine KI; letztere wird auf absehbare Zeit sicher besser sein als wir.

Zu den Skrupeln: da hast du absolut recht; ich habe auch nur gesagt, dass ich die nicht hätte oder dass sie irrelevant wären.

Anderes Beispiel: man stelle sich vor, wir hätten bereits heute vollautonome Drohnenschwärme; rein militärisch wäre das ganze IS-Grauen sehr einfach und ohne Gefährdung eigener Soldaten vermeidbar gewesen (gleiches gilt für Stebrenica, Ruanda, ...). Wiederum bleiben „nur“ ethische und natürlich politische Fragen.
Gruß
Tom

Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago.

Antworten