Hinweis auf die DSGVO: Auf unserer Seite werden keine Dritt-Anbieter-Cookies verwendet und nur Daten erfasst, welche für das Minimum an Board-Funktionalität notwendig sind.
Bevor Sie sich registrieren oder das Board verwenden, lesen Sie bitte zusätzlich die DSGVO-Erklärung, welche in der Navigationsleiste verlinkt ist.

Kurzfassung der unserer Meinung nach wichtigsten DSGVO-Punkte:
Es kann vorkommen, dass Benutzer eigenverantwortlich Videos oder sonstige Medien in ihren Beiträgen verlinken, welche beim Aufruf der Forenseite als Teil der Seite samt zugehörigem Material mitgeladen werden. Sollten Sie dies nicht wünschen, verwenden Sie beim Benutzen des Forums einen Blocker wie z.B. uMatrix, welcher das Laden von Inhaltsblöcken von Fremd-URLs effektiv unterbinden kann.
Wir blenden keine Werbung ein und schränken die Inhalte in keinster Weise bei Benutzung von Addblockern ein. Dadurch ist die Grundfunktionalität des Forums auch bei vollständigem Blockieren von Drittanbieter-Inhalten stets gegeben.

Cookies werden unsererseits nur verwendet um das Einloggen des Benutzers für die Dauer der Forenbenutzung zu speichern. Es steht dem Benutzer frei die Option 'Angemeldet bleiben' zu verwenden, damit der Cookie dauerhaft gespeichert bleibt und beim nächsten Besuch kein erneutes Einloggen mehr notwendig ist.
EMail-Adressen werden für Kontakt bei wichtigen Mitteilungen und zur Widerherstellung des Passwortes verwendet. Die verwendeten IPs können von uns ohne externe Hilfsmittel mit keiner realen Person in Verbindung gebracht werden und werden nach spätestens 7 Tagen gelöscht. Diese IPs werden höchstens verwendet um Neuanmeldungen unerwünschter oder gesperrter Nutzer zu identfizieren und zu unterbinden. Wir behalten uns daher vor bei Verdacht, die Frist für die IP-Löschung auf maximal 14 Tage zu verlängern.
Unsere Webseite läuft auf einem virtuellen Linux-Server, welcher von einem externen Anbieter gehostet wird. Etwaige Verstöße der DSGVO-Auflagen seitens dieses deutschen Hosters können wir nicht feststellen und somit auch nicht verfolgen.
Wir halten Backups unserer Datenbanken, welche in regelmäßigen Abständen als Schutz vor Katastrophen, Hackerangriffen und sonstigen Ausfällen erstellt werden. Sollte ein Nutzer die Löschung seiner Daten wünschen, betrachten wir es als Unzumutbar die Backups auch von den Daten zu befreien, da es sich hierbei um eine mehrtägiges Unterfangen handelt - dies ist für eine Einzelperson beim Betrieb eines privaten Forums nicht zumutbar möglich ohne das Backup komplett zu löschen.
Sollten Sie etwas gegen die dauerhafte anonyme Speicherung ihrer EMail-Adresse, ihres Pseudonyms und ihrer Beiträge in einem Backup haben, sehen Sie von der Registrierung in diesem Forum ab. Für Mitglieder, welche vor dem 25.05.2018 registriert waren steht jedoch das Recht im Raum, eine Löschung der Datenbank-Backups zu beantragen.



Wenn dies Ihr erster Besuch hier ist, lesen Sie bitte zunächst die FAQs sowie die wesentlichen Regeln zur Benutzung des Forums.
Um an den Diskussionen teilnehmen zu können, müssen Sie sich zunächst registrieren.

Kann ein Computer ein menschliches Gehirn "duplizieren"?

Wissenschaftsgeschichte, Wissenschaftstheorie bzw. -philosophie, Technik

Kann man jemals ein menschliches Gehirn im PC ersetzen?

Niemals
11
38%
in 10 Jahren
3
10%
in 11 bis 99 Jahren
5
17%
in 100 bis 1000 Jahren
7
24%
später...
3
10%
 
Abstimmungen insgesamt: 29

Benutzeravatar
tomS
Ehrenmitglied
Ehrenmitglied
Beiträge: 10670
Registriert: 19. Nov 2007, 20:29

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von tomS » 11. Jul 2010, 19:28

Das eigentliche Problem (und das meint auch Searle in seinem Argument mit dem chinesischen Zimmer) ist doch, dass wir von unserem Gehirn (unserem Ich, Selbst, ...) behaupten, es entwickle Selbstbewusstsein. Wir können diesen Zustand der Introspektion jedoch weder erklären, noch "von außen" nachweisen. Man kann nicht feststellen, ob sich jemand dessen, was er tut, bewusst ist, oder nicht; man kann ihn zwar danach fragen, aber er könnte bei seiner Antwort ja lügen ...

Ein weiteres Problem ist, dass wir uns in gewisser Weise der Grenzen von Algorithmen und Computerprogrammen bewusst sind. Es ist unklar, ob und wie sich ein universeller Algorithmus darüber im klaren sein könnte, dass er selbst prinzipielle Grenzen hat. D.h. wir als Menschen wissen um derartige Beschränkungen und können sie auf uns selbst angewandt denken, obwohl wir natürlich (heute) gar nicht wissen, ob sie auch auf uns zutreffen, d.h. also ob unser Selbst eben nur ein Algorithmus ist.

Ich halte diese beiden Probleme für unlösbar.
Gruß
Tom

Der Wert eines Dialogs hängt vor allem von der Vielfalt der konkurrierenden Meinungen ab.
Sir Karl R. Popper

Benutzeravatar
seeker
Ehrenadmin
Ehrenadmin
Beiträge: 8131
Registriert: 26. Dez 2009, 10:29

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von seeker » 11. Jul 2010, 23:55

Seid mir jetzt nicht böse, aber ich habe nicht zum ersten mal den Eindruck, dass uns das rationale, wissenschaftliche Denken, zu dem wir erzogen wurden, eher daran hindert überhaupt noch richtig zu erkennen, dass wir ein Bewusstsein haben und was das bedeutet. Ich finde es sehr wichtig dies zu begreifen. Dies erfordert möglicherweise ein etwas ungewohntes Denken...


Ich versuche genauer zu zeigen, was ich meine:

Macht einfach mal eure Augen auf.
Was seht ihr? Nein, ihr seht nicht eure Umgebung, sondern ein Bild.
Dieses Bild wird von eurem Gehirn erzeugt oder empfangen. (Nicht einmal das ist sicher: Erzeugt das Gehirn das Bewusstsein oder arbeitet es wie ein Empfänger/Sender?) Es ist da, es ist so unzweifelhaft da wie nur irgend etwas unzweifelhaft da sein kann. Dieses Bild ist sicherer da als alles andere, sicherer als alles Wissen, alle Wissenschaft, ja sogar das Universum. All dies könnte am Ende Illusion und Trug sein – aber die schiere Existenz des Bildes? Nein!

Warum?
Weil es unmittelbar da ist, weil dieses Bild nicht außerhalb von euch existiert, sondern innerhalb von euch, als Teil von euch. Das Bild ist identisch mit euch.
Ich denke kein vernünftiger Mensch kann abstreiten, dass es da ist. Wie könnte man? Man sieht es doch! Es geht dabei nicht um den Inhalt des Bildes (der könnte Illusion sein), sondern darum, dass überhaupt ein Bild da ist und gesehen wird. Die Tatsache der Existenz des Bildes selbst kann unmöglich Illusion sein. Schon die Aussage „Ich existiere nicht!“ führt direkt zu einem Widerspruch.

Wo ist es? In eurem Kopf?
Na dann schaut mal nach – ihr werdet es nicht finden. Was man finden kann ist eine schwabbelige Masse und irgendwelche neurophysiklischen Erregungszustände – kein Bild. Die Erregungszustände sind die physikalische Außenseite – das absolut Überraschende dabei ist, dass noch zusätzlich eine Innenseite existiert. Diese Innenseite wird von uns gesehen, wahrgenommen. Man kann sich fragen: Existiert diese Innenseite nur im Gehirn oder ist sie in allen Dingen?

Was ist es?
Es ist weder physikalischer Raum noch Zeit noch Materie noch Energie. Es ist eher gesehene oder sich selbst sehende Information, Struktur – etwas völlig Verrücktes.
So verrückt, dass keiner daran glauben würde, wenn uns das eigene Bewusstsein nicht dazu zwingen würde. Etwas, das sich selbst, in sich selbst, beobachtet… Wie soll das denn gehen? Ist das nicht wie ein Baron Münchhausen, der sich selbst an den Haaren aus dem Sumpf zieht?

Dieses „Sehen“ ist das Entscheidende. Man sieht das Bild nicht nur, man ist das Bild und weiß es absolut sicher ohne es beweisen zu können.
Das ist das Problem – und wie ich meine, das größte aller Rätsel!

@Tom:
Ich stimme dir 100%ig zu.
Es ist nur so, dass das ein absolut unbefriedigender Zustand ist.
Vielleicht denken wir irgendwie falsch? Vielleicht haben wir etwas übersehen?
Immerhin: Wenn wir die Antwort schon nicht kennen können, dann sollten wir wenigstens versuchen die Frage möglichst gut zu erkennen.

@Stephen: Danke für den Link. Zur Ameise mache ich mal einen eigenen Thread auf.

Beste Grüße
seeker
Grüße
seeker


Wissenschaft ... ist die Methode, kühne Hypothesen aufstellen und sie der schärfsten Kritik auszusetzen, um herauszufinden, wo wir uns geirrt haben.
Karl Popper

Skeltek
Site Admin
Site Admin
Beiträge: 5085
Registriert: 25. Mär 2008, 23:51
Wohnort: Stuttgart, Germany
Kontaktdaten:

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von Skeltek » 12. Jul 2010, 02:48

Wieso veruscht man denn zwanghaft das Bewusstsein vom physikalischen zu trennen? Sind wir nicht alle Materie? Kann man nicht annehmen, dass Materie selbst eine Art "Seele" innewohnt(Materie & Geist=dasselbe), die sich zu einer funktionalen Lebensform entwickelt hat und irgendwann auf die idee kam eine Selbstanalyse zu machen? Ein Stein kann keine Selbstanalyse machen, aber es ist doch etwas dreist zu behaupten, dass etwas, das man aus reiner Materie baut keine Seele oder ähnliches zuzuschreiben ist?

Nehmen wir einmal an, einer von uns hätte keine Seele und kein "Selbstbewusstsein". was würde derjenige dann denken, wenn er über sich selbst nachdenkt? Würde er net automatisch denken, er hätte ein eigenes(!) Bewusstsein?
Was passiert, wenn sein Erinnerungsvermögen zusammenbricht, sich seine geistigen Kapazitäten auf 0 zurückbilden? Wenn sein Bewusstsein an dem Punkt angelangt, dass er keine Erinnerungen mehr hat und keine Gedanken mehr fassen kann, ist er dann tot? ein Roboter? Wenn er am nächsten Tag wieder anfängt zu denken, ohne Erinnerung an früher, ist er dann ein neues Bewusstsein?
Gödel für Dummies:
  • Unentscheidbarkeit - Dieser Satz ist wahr.
  • Unvollständig - Aussage A: Es existiert nur ein Element A.
  • Widersprüchlich - Dieser Satz ist falsch.

Benutzeravatar
tomS
Ehrenmitglied
Ehrenmitglied
Beiträge: 10670
Registriert: 19. Nov 2007, 20:29

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von tomS » 12. Jul 2010, 07:27

Skeltek hat geschrieben:Wieso veruscht man denn zwanghaft das Bewusstsein vom physikalischen zu trennen? Sind wir nicht alle Materie? Kann man nicht annehmen, dass Materie selbst eine Art "Seele" innewohnt(Materie & Geist=dasselbe) ...
Die Trennung von Geist und Bewusstseoin ist der sogenannte Cartesische Schnitt, eine Idee der frühen Aufklärung. Warum sollte unbelebte Materie eine Eigenschaft haben, die auf dieser Ebene nicht benötigt wird?
Gruß
Tom

Der Wert eines Dialogs hängt vor allem von der Vielfalt der konkurrierenden Meinungen ab.
Sir Karl R. Popper

Benutzeravatar
Stephen
Ehrenmitglied
Ehrenmitglied
Beiträge: 3012
Registriert: 14. Dez 2005, 17:09
Wohnort: Halle (Saale)

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von Stephen » 12. Jul 2010, 08:44

Hallo zusammen,

die Fragen rund um das Bewusstsein werden wir wohl nicht endgültig klären können. Ich bin inzwischen der Meinung, dass das Bewusstsein - wie immer wir das auch definieren wollen/können - durch einen Lernprozess entsteht. Ich behaupte einmal ganz kühn, dass ein Baby noch kein Bewusstsein hat und sich somit auch keinerlei Fragen selbst stellen kann. Doch schon das Gehirn eines Kleinstkindes ist hochkomplex - nur eben noch nicht "eingefahren" :lol:

Ein Computer ist ein Endprodukt - ihm wachsen keine neuen grauen Zellen (bzw. Bytes) oder gehen verloren (verkalken wollte ich nicht sagen...) mit fortschreitendem Alter. Allerdings kann ich mir durchaus vorstellen, dass auch eine Maschine lernfähig sein könnte. In einigen Bereichen (zum Beispiel der Spracherkennung) ist das ja heute schon der Fall.

Die Trennung von Bewusstsein und Physik (und somit auch dem von Tom angesprochenen Cartesischen Schnitt) halte ich (immer noch) für sinnvoll. Es ist ganz offensichtlich, dass wir Menschen uns von einem Holzklotz oder einem Blatt Papier unterscheiden. Sonst könnten wir uns - zum Beispiel hier in diesem Forum - nicht über diese Fragen unterhalten.

Zu den Illusionen: Wir hatten vor längerer Zeit einmal einen thread, in welchem ein Professor sogar die Zeit - für die allermeisten unter uns etwas Unumstrittenes - infrage gestellt hat. Dieses abstrakte Denken liegt mir einfach nicht. Ich bleibe bei meiner Meinung, dass wir Menschen auf der Erde real existieren und sowohl Gefühle als auch ein Bewusstsein haben :beer:

Gruß
Steffen
Die Demokratie beruht auf drei Grundpfeilern: Der Freiheit der Gedanken, der Freiheit der Rede und der Klugheit, beides nicht zu gebrauchen.
Mark Twain

Benutzeravatar
tomS
Ehrenmitglied
Ehrenmitglied
Beiträge: 10670
Registriert: 19. Nov 2007, 20:29

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von tomS » 12. Jul 2010, 09:41

Denkrichtungen, die von einer unterschiedlichen Natur (Seinsweise, ...) von Materie und Geist (Bewusstsein, ...) ausgehen, nennt man im weitesten Sinne dualisitische Theorien. Diesen stehen monistische Theorien gegenüber, die z.B. Geist als emergentes Phänomen von Hirnaktivitäten ansehen, oder Geist, Bewusstsein o.ä. gänzlich negieren. Beide Denkrichtungen haben ihre eigenen Probleme.

Die dualistische Sichtweise, u.a. gemäß Descartes oder auch Popper, die einen eigenständigen, unabhängigen Geist (Bewusstsein, Willensfreiheit...) annimmt, kann nicht erklären, wie dieser Geist zielgerichtet auf Materie einwirken kann. Entweder hat der Geist physikalische Existenz und gehorcht bei dieser Einwirkung (und der Rückwirkung der Materie auf den Geist) physikalischen Gesetzen, dann handelt es sich nicht mehr um eine dualistische Theorie; oder es handelt sich um eine echt dualistische Theorie, dann muss jedoch die Einwirkung von Geist auf die physikalische Welt rätselhaft bleiben.
Gruß
Tom

Der Wert eines Dialogs hängt vor allem von der Vielfalt der konkurrierenden Meinungen ab.
Sir Karl R. Popper

Benutzeravatar
Stephen
Ehrenmitglied
Ehrenmitglied
Beiträge: 3012
Registriert: 14. Dez 2005, 17:09
Wohnort: Halle (Saale)

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von Stephen » 12. Jul 2010, 09:56

@Tom:
Dann stellt sich aber die Frage, was Gedanken, Gefühle, Emotionen etc. eigentlich sind. Offensichtlich bestehen sie ja nicht aus Materie...
Die Demokratie beruht auf drei Grundpfeilern: Der Freiheit der Gedanken, der Freiheit der Rede und der Klugheit, beides nicht zu gebrauchen.
Mark Twain

Benutzeravatar
tomS
Ehrenmitglied
Ehrenmitglied
Beiträge: 10670
Registriert: 19. Nov 2007, 20:29

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von tomS » 12. Jul 2010, 10:10

Sie müssen ja nicht aus Materie bestehen. Farben bestehen auch nicht aus Licht, und Licht hat auch keine Farbe (sondern eine Frequenz).

Das Problem, dass wir entweder annehmen könne, dass Gedanken etc. im weitesten Sinne der physikalischen Welt angehören und dass dann deren Gesetze (* - s.u.) gelten, oder dass sie nicht der physikalischen Welt angehören, dann aber auch nicht mit ihr interagieren können.

(*)
Determinismus der klassischen Mechanik, Elektrodynamik etc.
Zufall gemäß der statistischen Physik
Zufall gemäß der QM
Chaos
Keines dieser Modelle lässt (für mich) intuitiv erkennen, wie man Bewsusstsein und einen freien Willen physikalisch definieren könnte.
Gruß
Tom

Der Wert eines Dialogs hängt vor allem von der Vielfalt der konkurrierenden Meinungen ab.
Sir Karl R. Popper

Skeltek
Site Admin
Site Admin
Beiträge: 5085
Registriert: 25. Mär 2008, 23:51
Wohnort: Stuttgart, Germany
Kontaktdaten:

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von Skeltek » 12. Jul 2010, 10:51

Was ich sagen wollte war, dass für mich Bewusstsein skaliert ist. Ein Stein hat keins, eine Ameise kaum, ein Tier wenig, der Mensch bissl mehr.
Wobei die Definition von Bewusstsein völlig anders ausfallen kann, je nachdem, wer dieses Wort in den Mund nimmt.
Ein Spinnenhirn, wird sich in 1 Milliarde Jahre Weiterentwicklung diese Frage völlig anders stellen.
Was macht ein Kraken mit seinen 5-6 Gehirnen? Bei dem denkt fast jeder Arm für sich selbst...

Um Selbstbewusstsein zu entwickeln, wie muss da das Gehirn aufgebaut sein? Wenn ein Tintenfischmensch in einer Milliarde Jahren sagen würde, er existiert einfach nur und genießt das Leben, ohne sich zwanghaft dem Irrglauben hinzugäben, seine Existenz müsse einen tieferen(?)Sinn haben, dann ist er sich selbst nicht bewusst?

Denke mal dass die Frage nach sich selbst daher rührt, dass sich der menschliche Geist nicht vorstellen kann wie es ist, wenn sein materielles Äquivalent(das gehirn) verschwindet.
Wenn nach dem Tod der Geist in irgendeiner Form unabhängig weiter existieren soll(also es jetzt schon tut), dann frag ich mich was ein Alzheimer Patient oder jemand, dem man eine Gehirnhälfte tumorbedingt entfernen musste dazu sagt... dem fehlt ja schon vor dem Tod ein Teil seines Geistes.

Das Computerhin der Zukunft(in 7000 Jahren):
"Was passiert, wenn ich mich abschalte oder den Mikrochip da drüben zerstöre..."
->Die Antwort hat er niemals gefunden...
Gödel für Dummies:
  • Unentscheidbarkeit - Dieser Satz ist wahr.
  • Unvollständig - Aussage A: Es existiert nur ein Element A.
  • Widersprüchlich - Dieser Satz ist falsch.

Benutzeravatar
Maclane
Ehrenmitglied
Ehrenmitglied
Beiträge: 1182
Registriert: 16. Jan 2006, 15:46
Wohnort: mal hier, mal dort

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von Maclane » 12. Jul 2010, 12:05

Tiere, die kein Bewusstsein haben, reagieren einfach auf die Reize der Umwelt. Und mehr ist da auch nicht.
Das Bewusstsein des Menschen hilft ihm, nicht nur auf Reize zu reagieren, sondern aktiv sein Leben und sein Umfeld zu planen und zu gestalten.

Allerdings sollte man das nicht unnötig überhöhen. Der größte Teil unseres Denkens und Handelns ist unbewusst (ca. 6/7 also 85%). Auch der Mensch bleibt weiterhin ein Tier. Er ist in weiten Teilen vorhersehbar. Denn andernfalls würden ja solche Dinge wie Flirten, Verkaufen, die Werbung, die Demagogie, Hypnose, uvm... nicht funktionieren.

Mit bestimmten Reizen kann man Menschen (nicht immer aber oft) dazu bringen, das zu tun, was man will, weil sie glauben, es selber zu wollen. ;)

Insofern halte ich von diesem ganzen übernatürlichen Bewusstseinsgefasel nichts. Auch der Mensch funktioniert nach ganz bestimmten Gesetzen, wie eine biologische Maschine.

Hätte der Mensch kein Bewusstsein, würde er sich so verhalten wie es eine Beutelratte auch tut (also nix mit Zombie, sondern einfach sein Leben leben - nach den Vorgaben, die von den Schaltungen des Gehirns gemacht werden).
Hätte der Mensch dagegen 100% Bewusstsein, könnte er nicht überleben.

Bewusstsein, das haben meine Vorredner schon erkannt, ist nicht angeboren sondern erworben. Bewusstsein hat viel mit Feedback zu tun. Kein Feedback, kein Bewusstsein. Diese Feedbackschleifen sind es, die das Bewusstsein erst ermöglichen.

Es gibt ja diesen Bewusstseins-Test, wo man Kinder, Affen, Hunde, alles mögliche vor einen Spiegel stellt und dann schaut, ob sie sich selbst erkennen können.
Das Ganze funktioniert allerdings nur mit einem Spiegel. Mit einem Foto ginge das nicht. Denn nur der Spiegel kann Feedback geben. Hebe ich einen Arm, tut es das Spiegelbild auch.
Ein Erwachsener erkennt sich natürlich auch selbst auf nem Foto, aber nur weil er es vorher schon gelernt hat. ;)

Auch in der Innenwelt kann der Mensch sich selbst erkennen (muss er allerdings auch erst lernen). Die Selbstreflexion ist nichts anderes als ein Blick in den Spiegel, nur das der Reiz hier nicht visuell wahrgenommen und verarbeitet wird, sondern es hier eben die Reize der eigenen (vom Unterbewusstsein kommenden) Gedanken und Gefühle sind.

Gruß
Mac
Das Gehirn ist nur so schlau wie sein Besitzer.

Benutzeravatar
tomS
Ehrenmitglied
Ehrenmitglied
Beiträge: 10670
Registriert: 19. Nov 2007, 20:29

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von tomS » 12. Jul 2010, 12:15

Aber herade diese Meta-Ebene fehlt dem Computer gänzlich.

Ein Computer, der gerade eine Rechenaufgabe löst, weiß nicht, dass er eine Rechenaufgabe löst; ein Mensch weiß das. Er weiß auch, dass er es weiß.
Gruß
Tom

Der Wert eines Dialogs hängt vor allem von der Vielfalt der konkurrierenden Meinungen ab.
Sir Karl R. Popper

Benutzeravatar
Maclane
Ehrenmitglied
Ehrenmitglied
Beiträge: 1182
Registriert: 16. Jan 2006, 15:46
Wohnort: mal hier, mal dort

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von Maclane » 12. Jul 2010, 12:17

tensor hat geschrieben: Ein Baby verfügt auch schon über ein Bewusstsein, sogar ein Ungeborenes. Bewusstsein setzt nicht unbedingt Kommunikation mit anderen voraus. Bewusstsein liegt vor, wenn man einen Willen verspürt, etwas zu tun oder zu unterlassen. Man sollte Bewusstsein und Reifegrad eines Individuums nicht durcheinanderbringen.
Sorry tensor, ich sehe das eher wie Stephen.
Ein Säugling oder gar ein Ungeborenes hat kein Bewusstsein, auch keinen bewussten Willen. Alles was da ist, ist eine fast leere Festplatte - die sich allerdings rasant zu füllen beginnt.

Auch wenn man den Lebensweg eines Menschen begleitet vom Kind zum Jugendlichen zum Erwachsenen, beobachtet man, wie die Fähigkeit des bewussten und willentlichen Denkens und Handels mit den Jahren größer wird.
Das ist also nichts, was schlagartig über den Menschen kommt wie Zeus' Blitze sondern ein lebenslanger Prozess.

Gruß
Mac
Das Gehirn ist nur so schlau wie sein Besitzer.

Benutzeravatar
Maclane
Ehrenmitglied
Ehrenmitglied
Beiträge: 1182
Registriert: 16. Jan 2006, 15:46
Wohnort: mal hier, mal dort

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von Maclane » 12. Jul 2010, 12:28

tomS hat geschrieben:Aber herade diese Meta-Ebene fehlt dem Computer gänzlich.

Ein Computer, der gerade eine Rechenaufgabe löst, weiß nicht, dass er eine Rechenaufgabe löst; ein Mensch weiß das. Er weiß auch, dass er es weiß.
Könnte man einem Computer solche Feedbackschleifen einimpfen, sähe das vielleicht anders auch. Allerdings sind Rückkopplungseffekte immer ne komplizierte Angelegenheit. Da wäre viel Rumprobieren erforderlich (bestimmt mehr als die paar tausend Versuche eines Edisons auf dem Weg zur Glühlampe). ;)

Gruß
Mac
Das Gehirn ist nur so schlau wie sein Besitzer.

Benutzeravatar
tomS
Ehrenmitglied
Ehrenmitglied
Beiträge: 10670
Registriert: 19. Nov 2007, 20:29

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von tomS » 12. Jul 2010, 12:38

Evtl. kann man einen Computer so programmieren, dass er sich nach außen hin so verhält, als ob er sich seiner Handlungen bewusst wäre. Aber du kannst nicht nachprüfen, ob er sich dessen auch selbst bewusst ist. Der Turing-Test nimmt an, dass es nichts gäbe, was nicht durch Verhaltensweisen nach außen hin nachweisbar ist. Diese Grundannahme kann falsch sein.

Es kann subjektive Bewusstseinszustände geben, die auf einer subjektiven Ebene existieren, die jedoch objektiv weder beweisbar existent noch beweisbar nicht existent sein sein müssen. Die ojektive Methode stößt hier an ihre selbstdefinierte Grenze. Es ist aber unwisenschaftlich, zu behaupten, etwas existiere nicht, nur weil es im Rahmen einer bestimmten Methodik nicht beweisbar bzw. nachweisbar ist.

Da nun für jeden einzelnen von uns subjektiv Bewusstseinszustände existieren (also fürmich existieren sie), ist es vernünftig, anzunehmen, dass sie tatsächlich existieren. Wenn die naturwissenschaftliche Methode ihrer nicht habhaft werden kann, dann darf die Schlussfolgerung nicht sein, dass sie nicht existieren, sondern eben "nur", dass sie als solche nicht beschreibbar sind.

Letztlich ergibt sich daraus die Forderung, die naturwissenschaftlichen Methoden so zu erweitern, dass sie diese Bewusstseinszustände erkennen und beschreiben können. Die in den Neurowissenschaften verbreitete Praxis, sie wegzudefinieren und durch elektrochemische Vorgänge zu ersetzen, greift zu kurz. Das ist so wie wenn man die Existenz von Eis leugnet, weil man ggw. nur die Theorie für Wasser versteht und weil man zufälligerweise in der Sahara wohnt. Die Tendenz, etwas als unwissenschaftlich abzulehnen, was nicht objektivierbar ist, ist weit verbreitet.
Gruß
Tom

Der Wert eines Dialogs hängt vor allem von der Vielfalt der konkurrierenden Meinungen ab.
Sir Karl R. Popper

Benutzeravatar
Maclane
Ehrenmitglied
Ehrenmitglied
Beiträge: 1182
Registriert: 16. Jan 2006, 15:46
Wohnort: mal hier, mal dort

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von Maclane » 12. Jul 2010, 13:12

Nunja, ist halt alles nicht so einfach.

Zunächst einmal müsste man einen lernfähigen Computer haben, der auch Abweichungen innerhalb bestimmter Grenzen zulässt. Man müsste ihm sozusagen das deterministische Chaos einimpfen. Auch das Gehirn reagiert ja sehr empfindlich auf kleinste Abweichungen bei den Reizen.

Dann müsste man einen ebensolchen zweiten Chaosrechner haben, der die Ergebnisse des ersten eigenständig bewerten kann.

Und dann müssten diese beiden wie beim Pingpong sich gegenseitig immer wieder den Ball zuspielen. Der erste beeinflusst den zweiten und umgekehrt. Und beide werden durch die Außenwelt beeinflusst.

Und wenn man dann in diesem zwar stark vereinfachten aber doch schon hochkomplexen und chaotischen System noch eine gewisse Dämpfung hinbekommt (also das nicht alles nach zwei Millisekunden schon aus dem Ruder läuft), dann hätte man vielleicht einen Ansatz, aus dem vielleicht irgendwann so etwas wie die Fähigkeit der Selbstreflexion entsteht - oder auch nicht.

Im Grunde gleicht es dem Versuch, aus einer bestimmten Menge an Elementen Leben zu erzeugen. Alle Elemente nur in ein Gefäß zu gießen, wird keine Zelle erzeugen. Aber nach unzähligen Versuchen und ständigen Optimierungen spränge irgendwann der Funken über und die Elemente würden sich so anordnen, wie es sich gehört. Wär zumindest die Hoffnung. ;)

Gruß
Mac
Das Gehirn ist nur so schlau wie sein Besitzer.

Benutzeravatar
tomS
Ehrenmitglied
Ehrenmitglied
Beiträge: 10670
Registriert: 19. Nov 2007, 20:29

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von tomS » 12. Jul 2010, 13:18

Du hast noch nicht verstanden, worauf ich hinaus will. Wenn Selbstbewusstsein (zumindest teilweise) ein rein subjektiver Bewusstseinszustand ist, der somit gar nicht objektivierbar sein kann (und dafür spricht einiges), dann kann keine wie auch immer geartete "Maschine" dazu herangezogen werden, diese These zu beweisen oder zu widerlegen. Rein subjektive Bewusstseinszustände entziehen sich jeglicher objektiven Wissenschaft.

Nur, die Tatsache, dass sie in diesem Kontext nicht definierbar und diskutierbar sind, bedeutet noch lange nicht, dass sie nicht existieren können.
Gruß
Tom

Der Wert eines Dialogs hängt vor allem von der Vielfalt der konkurrierenden Meinungen ab.
Sir Karl R. Popper

Benutzeravatar
seeker
Ehrenadmin
Ehrenadmin
Beiträge: 8131
Registriert: 26. Dez 2009, 10:29

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von seeker » 12. Jul 2010, 14:29

Wir müssen auch zwischen Selbstbewusstsein und Bewusstsein unterscheiden.
Deshalb ist es besser zunächst über den kleinsten gemeinsamen Nenner zu sprechen: Die WAHRNEHMUNG.

Selbstbewusstsein ist die Wahrnehmung des eigenen Bewusstseins - eine Reflektionsstufe weiter.
Es kann aber auch Bewusstsein ohne Selbstbewusstsein geben.
Ich gehe davon aus, dass dieser Zustand bei vielen Tieren gegeben ist und auch bei kleinen Babys.

Dann gibt es noch das Unbewusste:
Es kann also auch neurophysikalische Informationsverarbeitung im Gehirn geben ohne das notwendigerweise Bewusstsein dabei ist.
Maclane hat geschrieben:Die Selbstreflexion ist nichts anderes als ein Blick in den Spiegel, nur das der Reiz hier nicht visuell wahrgenommen und verarbeitet wird, sondern es hier eben die Reize der eigenen (vom Unterbewusstsein kommenden) Gedanken und Gefühle sind.
Wirklich? Ist das alles?
Das wäre doch dann so, als ob im Kopf irgendwo ein kleiner Fernseher wäre, wo der Bewusstseinsfilm abläuft.

Frage: Wer betrachtet das Bild auf Fernseher?
Siehst du das Problem?
tomS hat geschrieben:Denkrichtungen, die von einer unterschiedlichen Natur (Seinsweise, ...) von Materie und Geist (Bewusstsein, ...) ausgehen, nennt man im weitesten Sinne dualisitische Theorien. Diesen stehen monistische Theorien gegenüber, die z.B. Geist als emergentes Phänomen von Hirnaktivitäten ansehen, oder Geist, Bewusstsein o.ä. gänzlich negieren. Beide Denkrichtungen haben ihre eigenen Probleme.
Dualistische Sichtweisen führen zu so schwerwiegenden Problemen, dass sie m. E. abzulehnen sind.
Z.B. das Problem des Epiphänomenalismus scheint mir dort unüberwindbar und unakzeptabel. Falls gewünscht kann ich gerne etwas dazu schreiben, was gemeint ist.

Monistische Sichtweisen sind heute meistens materialistisch (es gibt nur Materie) - müssen es aber nicht sein. Es gibt durchaus auch idealistische Monismen (es gibt nur Geist).
Dann gibt es noch pluralistische Sichtweisen.
Damit kommen wir tief ins Reich der Philosophie...

M.E. muss die Lösung des Problems in einer Sytnhese/Kombination von materialistischem Monismus und idealistischem Monismus liegen:
Wenn man beide weit genug verfolgen kann, dann müssten sie am Ende auf das Gleiche hinauslaufen - so meine Hoffnung.

Viele Grüße
seeker
Grüße
seeker


Wissenschaft ... ist die Methode, kühne Hypothesen aufstellen und sie der schärfsten Kritik auszusetzen, um herauszufinden, wo wir uns geirrt haben.
Karl Popper

Benutzeravatar
tomS
Ehrenmitglied
Ehrenmitglied
Beiträge: 10670
Registriert: 19. Nov 2007, 20:29

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von tomS » 12. Jul 2010, 14:46

seeker hat geschrieben:Dualistische Sichtweisen führen zu so schwerwiegenden Problemen, dass sie m. E. abzulehnen sind.
Z.B. das Problem des Epiphänomenalismus scheint mir dort unüberwindbar und unakzeptabel. Falls gewünscht kann ich gerne etwas dazu schreiben, was gemeint ist.
Ich teile da deine Ansicht; ja, wenn du noch was dazu schreiben möchtest, gerne.

seeker hat geschrieben:Monistische Sichtweisen sind heute meistens materialistisch (es gibt nur Materie) - müssen es aber nicht sein. Es gibt durchaus auch idealistische Monismen (es gibt nur Geist).
Da hast du recht; historisch sind diese durchaus von Belang, auch wenn sie heute praktisch nicht mehr verfolgt werden.

seeker hat geschrieben:M.E. muss die Lösung des Problems in einer Sytnhese/Kombination von materialistischem Monismus und idealistischem Monismus liegen:
Wenn man beide weit genug verfolgen kann, dann müssten sie am Ende auf das Gleiche hinauslaufen - so meine Hoffnung.
Es könnte auch sein, dass man grundsätzlich nicht fähig ist, die dazu notwendigen Denkstrukturen zu denken ...
Gruß
Tom

Der Wert eines Dialogs hängt vor allem von der Vielfalt der konkurrierenden Meinungen ab.
Sir Karl R. Popper

Benutzeravatar
Stephen
Ehrenmitglied
Ehrenmitglied
Beiträge: 3012
Registriert: 14. Dez 2005, 17:09
Wohnort: Halle (Saale)

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von Stephen » 12. Jul 2010, 21:56

Maclane hat geschrieben: Sorry tensor, ich sehe das eher wie Stephen.
Ein Säugling oder gar ein Ungeborenes hat kein Bewusstsein, auch keinen bewussten Willen. Alles was da ist, ist eine fast leere Festplatte - die sich allerdings rasant zu füllen beginnt.
Ich finde, dass das ein sehr guter Vergleich ist - ein absolut "neues" Gehirn folgt eher angeborenen Instinkten (Mutternähe, Hunger, Durst), das erst Monate später ein (Selbst-)Bewusstsein entwickelt...

Gruß
Steffen
Die Demokratie beruht auf drei Grundpfeilern: Der Freiheit der Gedanken, der Freiheit der Rede und der Klugheit, beides nicht zu gebrauchen.
Mark Twain

Skeltek
Site Admin
Site Admin
Beiträge: 5085
Registriert: 25. Mär 2008, 23:51
Wohnort: Stuttgart, Germany
Kontaktdaten:

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von Skeltek » 13. Jul 2010, 22:51

Für mich ist das meterialistische und das geistige dasselbe. Ich BIN mein Instinkt und was ich gelernt habe.
Ein Schachcomputer ist sich des Schachbrettes durchaus bewusst, auch wenn er es völlig anders wahrnimmt als ein Mensch.

Das Erinnert mich an eine Diskussion die ich mal hatte über Schicksal und Selbstbestimmung/freie Entscheidung des Menschen.
Ist alles vorherbestimmt oder bestimmt der Mensch seine Entscheidungen selbst?
Auch wenn man es nicht mit 100%iger Sicherheit vorausbestimmen kann, liegt heute schon fest, wie ich mich in einem Extremfall wie einem Überfall verhalten werde: Stehe ich wegen irgendetwas unter Schock, werd ich net viel machen, wenn ich den richtigen Mix aus Eindrücken bekomme und die Situation auf Weise X einschätze, hau ich den Angreifer um.
Mein Denken&Handeln ist weder vorrausbestimmt noch Zufall. Ich BIN sozusagen mein Schicksal, weil bereits heute mein Charakter und meine Sichtweisen der Dinge fest stehen.

Wenn jemand seinen ihm wertvollen Lebenspartner verliert, lässt sich heute schon sagen, dass es ihn schwer treffen wird. Das hat nichts damit zu tun, dass sich die Zukunft berechnen lässt oder vorausbestimmt ist, es steht einfach nur jetzt schon fest, dass er und sein Handeln heute schon in die Wege geleitet wurden.


Zurück zum Thema: Ich denke das Hauptproblem ist, dass der Mensch sich das Bewusstsein ausgedacht hat, ohne aber selbst definieren zu können, worum es sich dabei genau handeln soll. Selbst eine Spinne nimmt ihre umgebung bewusst wahr, allerdings ist ihr Universum, ihre Wahrnehmung und ihre Weltsicht eine völlig andere als die unsere.
Der Mensch ist so dreist, sich selbst "Selbstwewusstsein" zuzuschreiben, ohne es selbst genau erkennen zu können.
Meiner Meinung nach ist Selbstbewusstsein ein Prozess der Selbsterkennung und kein Gut, das wie das Gehirn irgendwo residiert und einer Person zuzuordnen ist.
Selbstbewusstsein ist einfach nur ein Vorgang, über den man sich auch nur ab und an mal Gedanken macht.
Wer macht sich schon selbst darüber bewusst zu existieren, wenn er eine komplizierte Matheaufgabe löst oder mit einem Maschinengewehr auf blutrünstige Monster ballert, die auf ihn zu stürmen. Sobald man seine gedanken von sich selbst abwendet und seine Konzentration anderen Dingen zuwendet, hört der Prozess des Selbsterkennens/Selbstbewusstseins auf.
Dann denkt man schlagartig nicht mehr über sich selbst nach sondern über die Sache die vor einem liegt.

->Sobald man nicht mehr über Selbstbewusstsein nachdenkt, ist man in der Hinsicht sofort wieder auf dem Niveau eines tieres oder roboter zurück angelangt, dem man diese Fähigkeit aberkennt seinen Geist über sich selbst nachdenken zu lassen.<-

Nehmen wir an wir haben einen AI Roboter und fragen ihn ob er sich bewusst ist zu existieren... was würde der wohl antworten? JA, NATÜRLICH.
Gödel für Dummies:
  • Unentscheidbarkeit - Dieser Satz ist wahr.
  • Unvollständig - Aussage A: Es existiert nur ein Element A.
  • Widersprüchlich - Dieser Satz ist falsch.

Benutzeravatar
seeker
Ehrenadmin
Ehrenadmin
Beiträge: 8131
Registriert: 26. Dez 2009, 10:29

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von seeker » 14. Jul 2010, 00:37

Die Ansicht, dass Materie und Geist identisch sind (also Aspekte derselben Sache), ist wohl die heute dominierende Meinung in der westlichen Welt.
Man nennt diese Haltung im Allgemeinen "Materialismus" oder "Physikalismus". Das sind Monistische Sichtweisen (Mono = Eins)
Wenn ich Zeit habe, schreibe ich noch ein paar Worte dazu.
Skeltek hat geschrieben:Ein Schachcomputer ist sich des Schachbrettes durchaus bewusst, auch wenn er es völlig anders wahrnimmt als ein Mensch.
Wie sollte er? Glaubst du, dass Wahrnehmung und Informationsverarbeitung dasselbe ist?
Wie ist es dann im Tiefschlaf, im Koma oder bei einer Narkose?
Das Gehirn arbeitet auch da noch nachweislich. Hat es da Bewusstsein?

Wir wissen nicht, ob ein Schachcomputer ein Bewusstsein hat.
Wenn er eines hat, dann müsste auch ein Atom ein Bewusstsein haben.
Auch ein Atom macht Wechselwirkung. Wo ist der Unterschied zur Wechselwirkung?
Skeltek hat geschrieben:Ich denke das Hauptproblem ist, dass der Mensch sich das Bewusstsein ausgedacht hat, ohne aber selbst definieren zu können, worum es sich dabei genau handeln soll.
Richtig, ich kann es nicht gescheit definieren.
Ich brauche mir aber gar nix auszudenken. Es ist einfach Wahrnehmung da. Das muss nicht die Wahrnehmung von mir selbst sein. Das "Ich" hat damit erst mal rein gar nichts zu tun.
Das Bild ist einfach da - nicht unbewusst. Wenn ich die Augen aufmache ist ein Bild da - keine Schwärze.
Das ist die primäre Erkenntnis. Sie hat rein gar nichts mit logischem Denken zu tun.
Verstehst du nicht, was ich meine?

Was ist "Blau"? Was ist "Musik"?
Diese Dinge gibt es nicht in der physikalischen Weltsicht. Es gibt nur Wellen und Frequenzen.

Versuche das Bewusstsein einfach einmal als Phänomen zu sehen.
Gibt es die Farbe Blau - als Phänomen?

Eins noch:
Mit unserem Bewusstsein ist es wirklich auch gar nicht so weit her:
Wir haben nämlich normalerweise nur ein "Vergangenheitsbewusstsein".

Warum?
Weil uns gewöhnlich nur unsere schon fertigen Wahrnehmungen und Gedanken bewusst werden - nicht aber die Tätigkeiten des Wahrnehmens und des Denkens selbst.


Viele Grüße
seeker
Grüße
seeker


Wissenschaft ... ist die Methode, kühne Hypothesen aufstellen und sie der schärfsten Kritik auszusetzen, um herauszufinden, wo wir uns geirrt haben.
Karl Popper

Benutzeravatar
tomS
Ehrenmitglied
Ehrenmitglied
Beiträge: 10670
Registriert: 19. Nov 2007, 20:29

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von tomS » 14. Jul 2010, 02:10

Skeltek hat geschrieben:Ein Schachcomputer ist sich des Schachbrettes durchaus bewusst, auch wenn er es völlig anders wahrnimmt als ein Mensch.
Lies dir doch mal das Argument mit dem chinesichen Zimmer durch und du wirst feststellen, dass sich die Wahrnehmung eines Computers grundsätzlich von der eines Menschen unterscheidet. Sowohl Computer als auch Mensch können auf gegebene Daten operieren; jedoch kan nur der Mensch (nach heutigem Wissenstand) auch bewusst reflektieren, was er da tut.

http://de.wikipedia.org/wiki/Chinesisches_Zimmer
Gruß
Tom

Der Wert eines Dialogs hängt vor allem von der Vielfalt der konkurrierenden Meinungen ab.
Sir Karl R. Popper

Benutzeravatar
Stephen
Ehrenmitglied
Ehrenmitglied
Beiträge: 3012
Registriert: 14. Dez 2005, 17:09
Wohnort: Halle (Saale)

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von Stephen » 14. Jul 2010, 08:17

Hallo zusammen,

ich bin mir zu 100% sicher, dass selbst der raffinierteste Schachcomputer (also der mit der größten Bibliothek bzw. Informationen im Speicher) nicht einmal "weiß", dass er überhaupt Schach spielt; er arbeitet lediglich ein auf menschlichen Erfahrungen basierendes Programm ab. Das hat mit Bewusstsein gar nichts zu tun.

Ob das Bewusstsein eine menschliche Erfindung ist, die man nicht genau erklären kann - tja... :roll:
Der Mensch hat Flugzeuge, Raum-(Schiffe) und Autos gebaut, das Weltall und den Mikrokosmos erforscht, Bücher geschrieben und natürlich auch Kriege und Naturkatastrophen verursacht. Das alles kann keine andere Spezies von sich behaupten auf der Erde. Ok, Ameisenstämme führen auch Kriege und Heuschreckenschwärme können auch Verwüstungen anrichten - klammern wir diese Punkte also besser wieder aus. Ich stehe auch nicht auf dem Standpunkt, dass wir Menschen die Krone der Schöpfung sind. Etwas Besonderes sind wir allerdings irgendwie schon - zumindest hier auf der Erde...

Gruß
Steffen
Die Demokratie beruht auf drei Grundpfeilern: Der Freiheit der Gedanken, der Freiheit der Rede und der Klugheit, beides nicht zu gebrauchen.
Mark Twain

Benutzeravatar
seeker
Ehrenadmin
Ehrenadmin
Beiträge: 8131
Registriert: 26. Dez 2009, 10:29

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von seeker » 14. Jul 2010, 09:20

Stephen hat geschrieben:Etwas Besonderes sind wir allerdings irgendwie schon -
Ja! Wir sind für uns selbst etwas ganz besonderes! Wir sind für uns selbst wichtig.
Wie etwas zu bewerten ist kann allein ein bewusstes Wesen entscheiden.
Darin liegt seine Macht, seine Schöpfernatur.

Das Wort "besonders" hat für das Universum außerhalb von uns keine Bedeutung - nur für das Universum in uns.

Zur Erfindung des Bewusstseins:
Der Mensch bildet sich Begriffe. Begriffe sind auch Phänomene, die außerhalb von uns, auf der Ebene des Universums, keinen Sinn machen.

Natürlich haben wir uns einen Begriff und auch ein Wort von dem gemacht, was man "Bewusstsein" nennt - das ist richtig.
Insofern haben wir den Begriff "Bewusstsein" erfunden - besser: entwickelt, konstruiert.

Man darf aber den Begriff einer Sache nicht mit der Sache selbst verwechseln.

Wie kann man etwas konstruieren, wenn man vorher gar nicht da ist? (Denkt an Baron Münchhausen, der sich am eigenen Schopf aus dem Sumpf zieht.)

Grüße
seeker
Grüße
seeker


Wissenschaft ... ist die Methode, kühne Hypothesen aufstellen und sie der schärfsten Kritik auszusetzen, um herauszufinden, wo wir uns geirrt haben.
Karl Popper

Benutzeravatar
AlTheKingBundy
Senior-Master
Senior-Master
Beiträge: 586
Registriert: 10. Dez 2005, 23:06
Kontaktdaten:

Re: Kann ein Computer ein menschliches Gehirn "duplizieren"?

Beitrag von AlTheKingBundy » 14. Jul 2010, 09:51

Die größte "Gabe" des Menschen und am schwierigsten künstlich nachzubauen, ist, das Erfassen seiner Umwelt und deren Beschreibung durch die Physik. Das Beobachten der Natur und das Auffinden Ihrer Gesetzmäßigkeiten und deren Anwendung für technischen Fortschritt.
Gruß Al

Die reinste Form des Wahnsinns ist es, alles beim Alten zu lassen und gleichzeitig zu hoffen, dass sich etwas ändert.

Antworten