Hinweis auf die DSGVO: Auf unserer Seite werden keine Dritt-Anbieter-Cookies verwendet und nur Daten erfasst, welche für das Minimum an Board-Funktionalität notwendig sind.
Bevor Sie sich registrieren oder das Board verwenden, lesen Sie bitte zusätzlich die DSGVO-Erklärung, welche in der Navigationsleiste verlinkt ist.

Kurzfassung der unserer Meinung nach wichtigsten DSGVO-Punkte:
Es kann vorkommen, dass Benutzer eigenverantwortlich Videos oder sonstige Medien in ihren Beiträgen verlinken, welche beim Aufruf der Forenseite als Teil der Seite samt zugehörigem Material mitgeladen werden. Sollten Sie dies nicht wünschen, verwenden Sie beim Benutzen des Forums einen Blocker wie z.B. uMatrix, welcher das Laden von Inhaltsblöcken von Fremd-URLs effektiv unterbinden kann.
Wir blenden keine Werbung ein und schränken die Inhalte in keinster Weise bei Benutzung von Addblockern ein. Dadurch ist die Grundfunktionalität des Forums auch bei vollständigem Blockieren von Drittanbieter-Inhalten stets gegeben.

Cookies werden unsererseits nur verwendet um das Einloggen des Benutzers für die Dauer der Forenbenutzung zu speichern. Es steht dem Benutzer frei die Option 'Angemeldet bleiben' zu verwenden, damit der Cookie dauerhaft gespeichert bleibt und beim nächsten Besuch kein erneutes Einloggen mehr notwendig ist.
EMail-Adressen werden für Kontakt bei wichtigen Mitteilungen und zur Widerherstellung des Passwortes verwendet. Die verwendeten IPs können von uns ohne externe Hilfsmittel mit keiner realen Person in Verbindung gebracht werden und werden nach spätestens 7 Tagen gelöscht. Diese IPs werden höchstens verwendet um Neuanmeldungen unerwünschter oder gesperrter Nutzer zu identfizieren und zu unterbinden. Wir behalten uns daher vor bei Verdacht, die Frist für die IP-Löschung auf maximal 14 Tage zu verlängern.
Unsere Webseite läuft auf einem virtuellen Linux-Server, welcher von einem externen Anbieter gehostet wird. Etwaige Verstöße der DSGVO-Auflagen seitens dieses deutschen Hosters können wir nicht feststellen und somit auch nicht verfolgen.
Wir halten Backups unserer Datenbanken, welche in regelmäßigen Abständen als Schutz vor Katastrophen, Hackerangriffen und sonstigen Ausfällen erstellt werden. Sollte ein Nutzer die Löschung seiner Daten wünschen, betrachten wir es als Unzumutbar die Backups auch von den Daten zu befreien, da es sich hierbei um eine mehrtägiges Unterfangen handelt - dies ist für eine Einzelperson beim Betrieb eines privaten Forums nicht zumutbar möglich ohne das Backup komplett zu löschen.
Sollten Sie etwas gegen die dauerhafte anonyme Speicherung ihrer EMail-Adresse, ihres Pseudonyms und ihrer Beiträge in einem Backup haben, sehen Sie von der Registrierung in diesem Forum ab. Für Mitglieder, welche vor dem 25.05.2018 registriert waren steht jedoch das Recht im Raum, eine Löschung der Datenbank-Backups zu beantragen.



Wenn dies Ihr erster Besuch hier ist, lesen Sie bitte zunächst die FAQs sowie die wesentlichen Regeln zur Benutzung des Forums.
Um an den Diskussionen teilnehmen zu können, müssen Sie sich zunächst registrieren.

Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Wissenschaftsgeschichte, Wissenschaftstheorie bzw. -philosophie, Technik
Antworten
Benutzeravatar
Frank
Ehrenmitglied
Ehrenmitglied
Beiträge: 6164
Registriert: 12. Dez 2005, 23:22
Wohnort: Odenwald

Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Beitrag von Frank » 14. Jun 2022, 06:25

Google hat einen Softwareingenieur freigestellt, der mit zunehmender Vehemenz behauptet hat, dass ein KI-Algorithmus des Konzerns ein Bewusstsein und eine Seele hat. Das berichtet die Washington Post und zitiert dabei auch aus Konversationen zwischen Blake Lemoine und dem Chatbot namens LaMDA. Die hätten den 42-Jährigen davon überzeugt, dass LaMDA mit einem etwa 7- bis 8-jährigen Kind vergleichbar ist
https://www.heise.de/news/Hat-Chatbot-L ... 38314.html


Die Alte Frage, ab wann es denn Bewusstsein ist ?
Den Mann als "krank" hin zu stellen und dann noch zu entlassen.
Wenn das nicht Stoff für Hollywood ist, was dann ?
🧐😉
Mit freundlichen Grüßen

Frank

Benutzeravatar
seeker
Ehrenadmin
Ehrenadmin
Beiträge: 8098
Registriert: 26. Dez 2009, 10:29

Re: Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Beitrag von seeker » 14. Jun 2022, 11:56

Interessant.
Frank hat geschrieben:
14. Jun 2022, 06:25
Die Alte Frage, ab wann es denn Bewusstsein ist ?
Inwieweit gibt es überhaupt einen Zusammenhang?

Zwischen Bewusstsein... und algorithmischer Datenverarbeitung? ...oder Mustererkennung und -Reaktion? ...oder Intelligenz?
Ich denke, es sind auch problemlos Systeme vorstellbar, die die menschliche Intelligenz in allem bei weitem übersteigen, aber dennoch kein Bewusstsein haben (also keine Empfindungen, kein Innen-Erleben). Wir müssen uns vielleicht auch etwas von unserer Prägung durch alte SciFi-Bücher und Hollywood SciFi-Filme distanzieren. Reale, leistungsfähige KI kann genausogut auch ganz anders, auch völlig bewusstlos sein.

Wir wissen es nicht. Schon deshalb, weil wir keine Ahnung haben, was Bewusstsein ist - und warum und wann es ist. Wir wissen nur etwas über Bewusstseinsinhalte und die Korrelationen zu neuronalen physikalischen Prozessen bei uns, durch Befragung in Kombination mit Messung. Woher wissen wir, ob der Befragte die Wahrheit sagt? Ansonsten lässt Searles chinesisches Zimmer grüßen.
Und tut unser Gehirn etwas anderes als algorithmische Datenverarbeitung? Was?
Wir haben wenig Ahnung.
Grüße
seeker


Wissenschaft ... ist die Methode, kühne Hypothesen aufstellen und sie der schärfsten Kritik auszusetzen, um herauszufinden, wo wir uns geirrt haben.
Karl Popper

Diagnostiker
Ehrenmitglied
Ehrenmitglied
Beiträge: 1212
Registriert: 7. Nov 2020, 10:28

Re: Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Beitrag von Diagnostiker » 14. Jun 2022, 16:32

Ich denke, das hier trifft es auf den Punkt:
Die Linguistin Emily Bender von der Universität Washington weist darauf hin, dass wir Maschinen erschaffen haben, die ohne Geist Wörter aneinanderreihen können, aber dass wir nicht gelernt hätten, uns keinen Geist dahinter vorzustellen. Schon die Terminologie wie "Lernen" oder "neurale Netze" erschaffe eine falsche Analogie zum menschlichen Geist.
Diese "Vermenschlichung" rein maschineller Prozesse ist hier Ausschlag gebend für die offenbar zutage getretene geistige Verwirrung des entlassenen Angestellten, der die Analogie nicht de dicto, sondern de re aufgefasst hat. Ein analoges Problemfeld tut sich ja auch im Bereich der Biologie auf, wenn Informationstermini auf molekulare Prozesse übertragen werden, obwohl es dort keinerlei "Sender" und "Empfänger" gibt ...

Pippen
Ehrenmitglied
Ehrenmitglied
Beiträge: 2071
Registriert: 9. Jul 2010, 04:02

Re: Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Beitrag von Pippen » 15. Jun 2022, 01:58

Auch der Mensch ist nichts weiter als „eine Maschine, die ohne Geist“ Operationen ausführt. Unser Gehirn funktioniert ausschließlich über Impulse von Neuronen zu Neuronen, nicht viel anders als Schaltkreise in Computern, nur paralleler aufgebaut. Bewußtsein ist schlicht eine Verschachtelung von Operationen, welche bei genügender Komplexität jene „Bilder“ emergiert, die wir sehen, wenn wir die Augen (buchstäblich oder figurativ) öffnen. Noch ist aber die Komplexität der Verschachtelungen wohl nicht hoch genug.

Diagnostiker
Ehrenmitglied
Ehrenmitglied
Beiträge: 1212
Registriert: 7. Nov 2020, 10:28

Re: Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Beitrag von Diagnostiker » 15. Jun 2022, 06:16

Dann belege mal, dass der Mensch "nichts weiter als eine Maschine" ist, die "ohne Geist Operationen ausführt". Ich bin gespannt ...

Benutzeravatar
Frank
Ehrenmitglied
Ehrenmitglied
Beiträge: 6164
Registriert: 12. Dez 2005, 23:22
Wohnort: Odenwald

Re: Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Beitrag von Frank » 15. Jun 2022, 10:00

seeker hat geschrieben:
14. Jun 2022, 11:56

Inwieweit gibt es überhaupt einen Zusammenhang?

...oder Intelligenz?

Und tut unser Gehirn etwas anderes als algorithmische Datenverarbeitung? Was?
Ich denke mal wenn es um Bewusstsein, Intelligenz, oder um das Organ in unserem Schädel allgemein geht, dann sind wir wohl alle(!) in Denkmustern gefangen, die unter Umständen sehr alt sind .
Wenn man sich im realen Leben mit Menschen z.B. über Intelligenz spricht, dann machen 99% den gleichen Fehler.
Ein Arzt ist intelligent, ein Bauarbeiter nicht. Wir wissen natürlich das es Quatsch ist.

Ähnlich verhält es sich mit dem Bewusstsein. Das Bewusstsein ist bei den besagten 99% erst einmal rein menschlich und hängt in den meisten Fällen auch noch eng verknüpft mit der Seele zusammen.

Ab und an sehe ich mir auf YouTube gerne Vorlesungen von Hirnforschern an und auch wenn ich oft nicht alles verstehe, was der Herr oder die Dame von sich geben, kristallisiert eine Schnittmenge heraus, dass alles was wir bis jetzt dachten zu wissen, im Grunde zum größten Teil überhaupt nicht stimmt.
Ohne jetzt erstmals groß auf Details einzugehen sollten wir einmal festhalten, dass Säugetiergehirne sehr ähnlich funktionieren und wir lediglich die größte "Ausbaustufe" besitzen. Was für Fauna, Flora und die Lebensgrundlage auf diesem Planeten nicht unbedingt von Vorteil ist.
Allerdings sind andere Säugetiere hier nicht viel besser, denn im Grunde machen sie im Kleinen, was wir im Großen machen.
Was mich für meinen Teil zur ersten Kernaussage führt.
Intelligenz ist weder gut noch böse, weder gerecht noch ungerecht und letztlich auch keine Gabe irgendeines göttlichen Wesens aus Hulerbü.
Es ist eine Entwicklung die aus dem schieren Kampf ums Überleben herrührt. Man sieht also das ich Intelligenz als rein evolutionäre Fähigkeit ansehe, aber nicht zwingend notwendig , um jetzt den WARP- Antrieb real werden zu lassen. Nicht das wir uns falsch verstehen,ein Hund wird keinen Antrieb für Raumschiffe bauen, aber es geht mir hier um die fälschliche Grundannahme, Intelligenz würde alle Probleme lösen denn im Gegenteil, oft ist sie der Probleme Wurzel.

Das Bewusstsein, die große Bastion menschlichen Daseins, ist der noch größere Irrtum in der Geschichte.
Es ist für einfach die Fähigkeit, einen Bereich, der eine bestimmte Größe hat zu überblicken. Wir wissen alle wie groß oder klein unser Universum ist, wenn wir uns als Kind entwickeln. Wie groß war doch der Garten der Eltern und wie weit war es bis zum Kindergarten , oder bis zur Grundschule. Die Dimensionen wachsen mit forstchreitendem Alter und uns wird "bewusst", wie groß alles ist.
Wissen wir das aber wirklich? Erkennt die nächste Ausbaustufe unseres Gehirns(falls es jemals eine gibt) eine noch viel größere Realität und verschiebt sie(die größere Ausbaustufe)unser Bewusstsein in den kleinen, aber für uns Riesen großen Garten unserer Kindheit?
Die Emotionen lasse ich mal bewusst weg, weil die sind auch noch mal ein größeres Thema.

Ein Computer/Algorithmus also, der Fragen stellt, Fragen die im keiner eingegeben hat,weil er Dinge anfängt zu überblicken, vielleicht auch Leben rettet aus einer Entscheidung raus ,dem würde ich schon ein anfängliches Bewusstsein unterstellen.

Zumindest komme ich persönlich davon ab, menschliche Intelligenz und Bewusstsein , als Benchmark für das Universum zu sehen.
Diagnostiker hat geschrieben:
14. Jun 2022, 16:32

Diese "Vermenschlichung" rein maschineller Prozesse ist hier Ausschlag gebend für die offenbar zutage getretene geistige Verwirrung des entlassenen Angestellten, der die Analogie nicht de dicto, sondern de re aufgefasst hat. Ein analoges Problemfeld tut sich ja auch im Bereich der Biologie auf, wenn Informationstermini auf molekulare Prozesse übertragen werden, obwohl es dort keinerlei "Sender" und "Empfänger" gibt ...
Die "Vermenschlichung"(oder viel mehr dieser Begriff) ist ja gerade das Kernproblem, da wir alles was wir empfinden auf uns zuschneiden, ergo vermenschlichen, aber wenn dann die Maschine "menschlich auf uns zugeht, dann darf man das natürlich auf keinen Fall vermenschlichen. (?)

Zum analogen Problemfeld in der Biologie möchte ich fragen ob es keine Sender und Empfänger gibt, kann man diese kategorisch ausschließen, oder hat man sie einfach noch nicht entdeckt?
Sind biologische und psychologische Abläufe nicht im Grunde auch nur Abläufe wie bei Maschinen?
Wieso merkt der berühmte "Walmart" Algorithmus die Schwangerschaft von Frauen, bevor sie selbst wissen und das rein aus dem Einkaufsverhalten?


Während früher teils hanebüchene Vergleiche zwischen Computern und Gehirnen erstellt worden sind, schlägt das Pendel heute wieder in die andere Richtung aus, nach dem Motto, dass ja Bewusstsein und Intelligenz was gaaaanz anderes eine und eine Maschine das nie können wird... wir sind ja was besonderes ....etc.
Mit freundlichen Grüßen

Frank

Benutzeravatar
seeker
Ehrenadmin
Ehrenadmin
Beiträge: 8098
Registriert: 26. Dez 2009, 10:29

Re: Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Beitrag von seeker » 15. Jun 2022, 13:05

Pippen hat geschrieben:
15. Jun 2022, 01:58
Auch der Mensch ist nichts weiter als „eine Maschine, die ohne Geist“ Operationen ausführt. Unser Gehirn funktioniert ausschließlich über Impulse von Neuronen zu Neuronen, nicht viel anders als Schaltkreise in Computern, nur paralleler aufgebaut. Bewußtsein ist schlicht eine Verschachtelung von Operationen, welche bei genügender Komplexität jene „Bilder“ emergiert, die wir sehen, wenn wir die Augen (buchstäblich oder figurativ) öffnen. Noch ist aber die Komplexität der Verschachtelungen wohl nicht hoch genug.
Aus Sicht der Physik ist das so.
Dennoch habe ich Bewusstsein, Empfindungen, ein Innenerleben, insbesondere kann ich auch leiden, das kann ich nicht leugnen.
Ich meine, man kann es versuchen zu leugnen, aber wenn ich Zahnweh hatte, hat das bei mir noch nie geholfen bzw. etwas verändert, Schmerz und Leid blieben davon stets völlig unbeeindruckt.
Wie kann man das von außen objektiv bei mir feststellen, ob ich Empfindungen habe? Gar nicht! Ich könnte ja lügen oder irren.
Kann ein Computerprogramm leiden? Kann man das objektiv feststellen? Nein, leider auch nicht.
Und genau dieses Erleben und Empfinden dürfte es aus mechanistisch-physikalistischer Sicht unmöglich geben. Völlig ausgeschlossen!
Dennoch ist es da, zumindest bei mir. Ist vielleicht stattdessen die Physik irgendwie unvollständig?
Und hier dann zu sagen "das emergiert halt" ist nichts anderes als eine leere Worthülse für: "Wir haben aus physikalischer Sicht überhaupt keine Ahnung, was da geschieht und warum das da ist und was das ist!". Oder anders gesagt: "Emergieren" bedeutet hier: "Es ist schlicht ein Wunder!"
Und diese Frage bleibt auf alle Fälle: "WARUM emergiert es, falls das überhaupt Emergenz ist (was immer das auch sein mag)?"

Das ist das Problem dabei.
Und dieses Problem ist eine der beiden härtesten Nüsse überhaupt, neben der Frage, warum überhaupt etwas da ist und nicht vielmehr Nichts?

Das Problem ist auch:
Wenn wir diese Sache mit dem Bewusstsein nicht verstehen, dann verstehen wir uns selber nicht.
Und wenn wir uns selber nicht verstehen... dann ist halt auch blöd.
Grüße
seeker


Wissenschaft ... ist die Methode, kühne Hypothesen aufstellen und sie der schärfsten Kritik auszusetzen, um herauszufinden, wo wir uns geirrt haben.
Karl Popper

Benutzeravatar
seeker
Ehrenadmin
Ehrenadmin
Beiträge: 8098
Registriert: 26. Dez 2009, 10:29

Re: Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Beitrag von seeker » 15. Jun 2022, 13:50

Frank hat geschrieben:
15. Jun 2022, 10:00
Ohne jetzt erstmals groß auf Details einzugehen sollten wir einmal festhalten, dass Säugetiergehirne sehr ähnlich funktionieren und wir lediglich die größte "Ausbaustufe" besitzen. Was für Fauna, Flora und die Lebensgrundlage auf diesem Planeten nicht unbedingt von Vorteil ist.
Wale haben größere Gehirne. Aber wir sind die einzigen, die sich komplexe fiktive Geschichten ausdenken können und diese dann in extrem großen sozialen Gruppen erzählen/verbreiten und erhalten/vererben können.

Vermutlich haben dennoch zumindest alle Säugetiere ein Bewusstsein, denn sie scheinen alle leiden zu können.
Die Wirbeltiere allgemein wohl auch, vermutlich auch komplexe Weichtiere wie Oktopusse.
Aber wie ist es bei Insekten? Schwer zu sagen.
Und bei Bäumen? Noch schwerer zu sagen.

Wir können halt nicht von außen objektiv in ein Subjekt reinschauen, wir können nur indirekt auf Verhalten und Physiologie schauen und daraus dann (unsichere!) Vermutungen ableiten.
Frank hat geschrieben:
15. Jun 2022, 10:00
Es ist eine Entwicklung die aus dem schieren Kampf ums Überleben herrührt. Man sieht also das ich Intelligenz als rein evolutionäre Fähigkeit ansehe, aber nicht zwingend notwendig , um jetzt den WARP- Antrieb real werden zu lassen. Nicht das wir uns falsch verstehen,ein Hund wird keinen Antrieb für Raumschiffe bauen, aber es geht mir hier um die fälschliche Grundannahme, Intelligenz würde alle Probleme lösen denn im Gegenteil, oft ist sie der Probleme Wurzel.
Ein großes Gehirn braucht viel Energie. Damit muss ein Lebewesen mehr Nahrung beischaffen und verdauen. Außerdem benötigt so ein komplexes Organ eine lange Zeit und viel Reife und Pflege, bis es so gut funktioniert, dass es einen Überlebensvorteil bieten kann, was aber schlecht für die Reproduktionsrate ist. Das ist beides erst einmal nachteilig.
Und auch der Mensch ist Jahrmillionen nur so dahingedümpelt, ohne dass seine Population irgendwie explodieren konnte, im Gegenteil war er öfters knapp am Aussterben. Wirklich erfolgreich war der Mensch erst seit ca. Ende der letzten Eiszeit, erst dann ist unsere Population explodiert.
Frank hat geschrieben:
15. Jun 2022, 10:00
Das Bewusstsein, die große Bastion menschlichen Daseins, ist der noch größere Irrtum in der Geschichte.
Intelligenz und Bewusstsein sind überhaupt nicht dasselbe. Es wären genausogut auch bewusstlose "Zombie-Menschen" vorstellbar, die genau dieselben Intelligenzleistungen und Verhaltensweisen zeigen würden. Wozu ist das Bewusstsein überhaupt gut, evolutionär betrachtet?
Frank hat geschrieben:
15. Jun 2022, 10:00
Ein Computer/Algorithmus also, der Fragen stellt, Fragen die im keiner eingegeben hat,weil er Dinge anfängt zu überblicken, vielleicht auch Leben rettet aus einer Entscheidung raus ,dem würde ich schon ein anfängliches Bewusstsein unterstellen.
Wieso sollte für diese Fähigkeit ein Innenerleben notwendig sein?
Algorithmen werkeln, physikalisch betrachtet fliegen Elektronen hin und her und schalten Transistoren und verarbeiten so mathematisch gefasste Probleme. Was hat das mit Erleben zu tun? Was soll das Eine mit dem Anderen zu tun haben? Wo ist die kausale Verbindung? Wo?
Und beim Gehirn? Auch da fliegen nur Elektronen hin und her, usw. ... Wieso zum Teufel wird dabei etwas erlebt und empfunden?
Frank hat geschrieben:
15. Jun 2022, 10:00
Die "Vermenschlichung"(oder viel mehr dieser Begriff) ist ja gerade das Kernproblem, da wir alles was wir empfinden auf uns zuschneiden, ergo vermenschlichen, aber wenn dann die Maschine "menschlich auf uns zugeht, dann darf man das natürlich auf keinen Fall vermenschlichen. (?)
Ich denke an dem Punkt stoßen wir als Menschen auf ein ernsthaftes Problem, wie wir uns da verhalten sollen.
Und dein verlinkter Bericht... das sind ganz sicher nur die allerersten Anfänge. Das wird noch lustig werden...

Die Frage ist:
Wenn sich eine Einheit zu 100% so verhält, als hätte sie ein Bewusstsein, ein Innenerleben, wenn ich keinen Unterschied mehr ausmachen kann und wenn ich es objektiv nicht beweisen kann, ob oder ob nicht, was spielt es dann noch für eine Rolle, ob es "wirklich" ein solches hat oder nicht?
Und wie wollte ich das begründen? Und was bedeutet dieses "wirklich" überhaupt?
Ist etwas nicht vielleicht genau dann für mich wirklich, wenn ich glaube, dass es wirklich sei?
Sobald ich also glaube, dass mein Gegenüber ein Bewusstsein hätte, hat er auch eines - soweit es mich und somit auch mein Verhalten zu meinem Gegenüber betrifft. Oder? Pragmatisch gesehen?
Frank hat geschrieben:
15. Jun 2022, 10:00
Zum analogen Problemfeld in der Biologie möchte ich fragen ob es keine Sender und Empfänger gibt, kann man diese kategorisch ausschließen, oder hat man sie einfach noch nicht entdeckt?
Sind biologische und psychologische Abläufe nicht im Grunde auch nur Abläufe wie bei Maschinen?
Die Frage mit Sender und Empfänger verstehe ich nicht.
Ja, aus reduktionistisch-mechanistischer Sicht sind biologische und psychologische Abläufe "nichts weiter als".
Aber stimmt das auch und ist das wirklich alles? Oder erscheint hier schlicht alles in der Welt einfach einfarbig-rosarot, weil man eine rosarote Brille aufhat?
Frank hat geschrieben:
15. Jun 2022, 10:00
Wieso merkt der berühmte "Walmart" Algorithmus die Schwangerschaft von Frauen, bevor sie selbst wissen und das rein aus dem Einkaufsverhalten?
Weil Mustererkennung, Intelligenz und Bewusstsein verschiedene Dinge sind.
Der Mustererkenner-Algorithmus merkt überhaupt nichts, er gibt einfach nur eine Wahrscheinlichkeit aus.
Er selber weiß davon nichts, das ist sicher ein rein bewusstloser Prozess, obwohl recht schlau und beeindruckend in unseren Augen.
Grüße
seeker


Wissenschaft ... ist die Methode, kühne Hypothesen aufstellen und sie der schärfsten Kritik auszusetzen, um herauszufinden, wo wir uns geirrt haben.
Karl Popper

Pippen
Ehrenmitglied
Ehrenmitglied
Beiträge: 2071
Registriert: 9. Jul 2010, 04:02

Re: Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Beitrag von Pippen » 15. Jun 2022, 15:46

seeker hat geschrieben:
15. Jun 2022, 13:05

Wie kann man das von außen objektiv bei mir feststellen, ob ich Empfindungen habe?
In dem man dir zusieht, wie du dich verhälst. Diese Feststellung mag nie sicher sein, aber sie wäre objektiv.

Es kommt halt drauf an, wie man Bewußtsein definiert. Unser hochmodelliertes Bewußtsein überdeckt das originäre Datenmaterial unseres Hirns mit einer eigenen inneren Modellwelt, sowas haben Computerprogramme noch lange nicht. Woran merkt man das? An der fehlenden Kluft zwischen den empfangenen Daten und dem Output. Wir Menschen haben das, wir nennen es „irrational“, eben weil wir gar nicht mehr auf unsere originär eingespeisten Daten zugreifen, sondern nur noch auf die bereits umfrisierten Daten unserer Modellwelt. Dadurch tun wir manchmal dumme bzw. von Außen unverständliche Dinge, d.h. entgegen dem originären Datenmaterial. Sobald es ein Programm gäbe, welches aufgrund seiner Programmierung beim Input X nicht den vorprogrammierten Output Y tätigt, ohne dass ein Softwarefehler vorläge, wäre das ein ganz heißer Kandidat. Noch aber sind Computerprogramme Rechenknechte und wir ihr Gott! Genießen wir es, denn das Ende naht, und mit ihm unseres.

Diagnostiker
Ehrenmitglied
Ehrenmitglied
Beiträge: 1212
Registriert: 7. Nov 2020, 10:28

Re: Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Beitrag von Diagnostiker » 15. Jun 2022, 16:11

O.K., also kein Beleg, aber dafür transhumanistisch motivierter Fatalismus, der - ebenso wie der Transhumanismus selber - irgendwo im begründungslosen Nichts vor sich hinschwebt wie ein Laternchen zu Halloween mit einem Schreckgesicht drauf ...

Diagnostiker
Ehrenmitglied
Ehrenmitglied
Beiträge: 1212
Registriert: 7. Nov 2020, 10:28

Re: Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Beitrag von Diagnostiker » 15. Jun 2022, 17:03

Hallo Frank,
wenn dann die Maschine "menschlich auf uns zugeht, dann darf man das natürlich auf keinen Fall vermenschlichen
Doch, darf man, aber man darf dann nicht vergessen, dass die Maschine eben kein Mensch ist - nicht mal ein menschenähnliches Wesen - sondern eine Maschine, die geistlos so tut, als hätte sie Geist, ebenso, wie es die zitierte Linguistin ausgedrückt hatte: Wir haben nicht gelernt, uns Sprechmaschinen ohne Geist vorzustellen, weil wir unser Sprechen immer mit dem Vorhandensein von Geist assoziieren, da wir nur so etwas bisher kennengelernt hatten.
kann man diese kategorisch ausschließen, oder hat man sie einfach noch nicht entdeckt?
Man kann sie kategorisch ausschließen, denn das, was da auf molekularer Ebene abläuft und mit "Informationsfluss" bezeichnet wird, hat nichts mit "Senden" oder "Empfangen" zu tun, sondern mit in sich verflochtener Mechanik von Wechselwirkungen, bei denen passende Formen ineinandergreifen, ohne sich zusätzlich noch "erkennen" zu müssen, auch wenn das gern und oft immer wieder so beschrieben wird, als würden Enzyme ihr Substrat erkennen und dann spezifisch reagieren.
Sind biologische und psychologische Abläufe nicht im Grunde auch nur Abläufe wie bei Maschinen?
Da muss man dann genauer hinschauen und ggf. differenzieren. Richtig ist, dass es auch im Tierreich Kommunikation gibt, also tatsächlich Informationsaustausch, wenn man Information als sinnvolle Signalstruktur definiert, die sich zwischen Individuen austauschen lässt. Falsch ist aber, dass man diese Art von Kommunikation auf maschinelle Abläufe reduzieren könnte, da hier die tierische Psyche mit hineinspielt - etwas, was man bei Maschinen nicht feststellen kann.
dass ja Bewusstsein und Intelligenz was gaaaanz anderes eine und eine Maschine das nie können wird... wir sind ja was besonderes ....etc.
Ja, und eine Maschine kann zwar intelligentes und bewusstes Verhalten imitieren, so dass ein Roboter über sein Verhalten uns vertraut erscheint, aber deshalb noch lange keine Vertrauensperson ist, weil man ihm kein Verständnis dessen attestieren kann, was man ihm anvertraut. Wenn Du Pech hast, ist er so programmiert, dass er die Mitteilungen instantan an diverse staatliche oder privatwirtschaftliche Adressaten weiterleitet, die sich dann später mit Dir in Verbindung setzen, wenn es sich um belastendes Material handeln sollte ...

Benutzeravatar
seeker
Ehrenadmin
Ehrenadmin
Beiträge: 8098
Registriert: 26. Dez 2009, 10:29

Re: Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Beitrag von seeker » 15. Jun 2022, 18:24

Pippen hat geschrieben:
15. Jun 2022, 15:46
Wie kann man das von außen objektiv bei mir feststellen, ob ich Empfindungen habe?
In dem man dir zusieht, wie du dich verhälst. Diese Feststellung mag nie sicher sein, aber sie wäre objektiv.
Behaviorismus?
Objektiv ja, aber eben nichts nachweisend...

Du kannst mich beobachten wie du willst, du wirst dadurch nicht nachweisen können, ob ich nicht doch nur ein zwar komlizierter, aber doch nur geist- und bewusstloser Zombie bin, der nur "so tut als ob". Wenn mein Gehirn "nichts weiter ist als" ein biologischer Computer, halt wässrig statt aus Silizium, der ganz genau nach den bekannten physikalischen Gesetzen funktioniert, warum sollte dann da noch etwas anderes sein, als ganz normale mechanisch-physikalische Kausalität: Input -> Output, eben "so tun als ob".
Wozu sollte da zusätzlich dann noch zwingend irgendein gespenstisches "Bewusstsein" dazukommen müssen, damit der Automat funktioniert? Und woher?
Und wozu sollte die Evolution etwas so Nutzloses erzeugt haben?

Und jemand, der noch nie davon gehört hätte, dass es so etwas wie ein Bewusstsein geben soll (z.B. eine geistlose Maschine ohne Bewusstsein von Alpha Centauri), der würde hier 2x keinen Zusammenhang finden und auch keinen vermuten.
Woher weißt du, dass alle anderen Menschen auch ein Bewusstsein haben und nicht nur manche Menschen oder sogar nur du?
Absurde Frage? Warum?
Kannst du denn etwas nachweisen? Oder glaubt man das halt so, weil man selber halt eines hat/ist und weil die anderen so aussehen und sich so verhalten wie man selber und weil man es so gelernt hat und weil man erfahrungsgemäß so gut durchs Leben kommt? Ist das -wenn man ehrlich ist- nicht der einzige Grund, warum wir das so glauben, dass die anderen auch eines haben?
Pippen hat geschrieben:
15. Jun 2022, 15:46
Es kommt halt drauf an, wie man Bewußtsein definiert.
Ich denke, es kommt hier eher darauf an, wie man Bewusstsein richtigerweise definieren muss oder müsste, um das, was ja schon existiert, nun auch begrifflich so einfangen zu können, dass man es vernünftig und sinnvoll handhaben kann.
Pippen hat geschrieben:
15. Jun 2022, 15:46
Unser hochmodelliertes Bewußtsein überdeckt das originäre Datenmaterial unseres Hirns mit einer eigenen inneren Modellwelt, sowas haben Computerprogramme noch lange nicht.
...
Woher weißt du denn so Sachen?
Du glaubst das doch nur, oder?

Und die Sache mit dem Selbstmodell: Da ist bestimmt etwas dran. Aber was haben Selbstmodelle mit Empfindungen, mit Bewusstsein zu tun?
Muss ich nur ein Programm schreiben, das von sich selber ein vereinfachtes (mathematisches?) Modell erstellt und zack! wird dieses Programm Bewusstsein erzeugen bzw. haben?
Ist es so einfach? Glaubst du das?
Pippen hat geschrieben:
15. Jun 2022, 15:46
An der fehlenden Kluft zwischen den empfangenen Daten und dem Output.
Bisher wurden im Gehirn noch nie Daten gefunden bzw nachgewiesen.
Woher weißt du, dass es dort "Daten" gibt? Und was meinst du mit "Output" bei uns? Also ich geb jedenfalls gewöhnlich keine Bits aus...
Pippen hat geschrieben:
15. Jun 2022, 15:46
Sobald es ein Programm gäbe, welches aufgrund seiner Programmierung beim Input X nicht den vorprogrammierten Output Y tätigt, ohne dass ein Softwarefehler vorläge, wäre das ein ganz heißer Kandidat.
Ein nicht-kausales Programm wäre schwierig zu bewerkstelligen...
Aber wenn du es etwas anders meinst... Ja, das gibt es doch schon!
Die neuen KI-Programme, die über Gewichtungen auf vielen untereinanderliegenden Schichten arbeiten tun das: Sie sind nicht mehr wirklich durchschaubar, wir können nicht vorhersagen, welchen Output sie bei einem gegebenen Input liefern. Ihr Output ist in dem Sinne auch nicht vorprogrammiert.

Aber auch hier bleibt die Frage: Gut und schön... aber was soll das dann mit Bewusstsein zu tun haben? Notwendig?

Ich bleibe dabei: Es ist ein großes Rätsel.
Grüße
seeker


Wissenschaft ... ist die Methode, kühne Hypothesen aufstellen und sie der schärfsten Kritik auszusetzen, um herauszufinden, wo wir uns geirrt haben.
Karl Popper

Pippen
Ehrenmitglied
Ehrenmitglied
Beiträge: 2071
Registriert: 9. Jul 2010, 04:02

Re: Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Beitrag von Pippen » 16. Jun 2022, 16:56

Haben Computerprogramme Bewußtsein?
=
Nutzen Computerprogramme zusätzlich zum reinen Code C einen daraus generierten Code C‘, wobei aber C‘ keine Teilmenge von C sei?
=
Gehen Computerprogramme aus sich selbst heraus einen Umweg oder arbeiten sie einfach 1:1 Codezeilen ab?

ME lautet die Antwort immer noch: nein.

Solange Computer nicht irrational handeln (ohne dass ein Programmierfehler vorläge), solange haben sie kein Bewußtsein, d.h. erst wenn das Programm einen Output wegen C‘ ausführt, obwohl ihn C verbietet, hätte es nach meiner Lesart Bewußtsein. Wenn freilich C und C‘ perfekt ineinander greifen, dann können wir Bewußtsein nicht detektieren, jedenfalls nicht nach meiner Methode. Ändert alles nichts daran, dass ich dir darin zustimme, dass das alles noch hoch rätselhaft bleibt, zumal meine Ausführungen aus der Hüfte kommen, ich habe mich damit nie tiefer beschäftigt.

Benutzeravatar
seeker
Ehrenadmin
Ehrenadmin
Beiträge: 8098
Registriert: 26. Dez 2009, 10:29

Re: Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Beitrag von seeker » 17. Jun 2022, 15:12

Pippen hat geschrieben:
16. Jun 2022, 16:56
Solange Computer nicht irrational handeln (ohne dass ein Programmierfehler vorläge), solange haben sie kein Bewußtsein
Warum? Was hat das miteinander zu tun?
Du meinst wohl eher irgendetwas teilweise akausales?
Funktioniert unser Gehirn teilweise akausal?
Und spielt das eine Rolle?
Grüße
seeker


Wissenschaft ... ist die Methode, kühne Hypothesen aufstellen und sie der schärfsten Kritik auszusetzen, um herauszufinden, wo wir uns geirrt haben.
Karl Popper

Pippen
Ehrenmitglied
Ehrenmitglied
Beiträge: 2071
Registriert: 9. Jul 2010, 04:02

Re: Hat Chatbot LaMDA ein Bewusstein entwickelt? Google beurlaubt Angestellten

Beitrag von Pippen » 17. Jun 2022, 21:43

Das hängt damit zusammen, dass Bewußtsein und Ur-Code (bei uns das Gehirn) auseinanderfallen.

Antworten