Lese ich (oder träume ich)?

Bin ich (bei) ein Bewusstsein? Oder habe ich es nur?

Kaum hatte ich die Überschrift erfasst, wandte ich mich zur Vergewisserung um: ist das Buch noch griffbereit? meine Instanz seit 1995. Als man noch „Bewußtsein“ schrieb.

Doch unser Traum beginnt so (nach Thomas Nagel):

Geht also nur alles von vorne los? Auf einer neuen Ebene? Der oben plakatierte ZEIT-Artikel wird folgendermaßen eingeleitet: „Ein Google-Entwickler glaubt, ein Computerprogramm des Konzerns sei zum Leben erwacht. Die Maschine rede und fühle wie ein Mensch. Als er seine Beobachtung öffentlich macht, wird er gefeuert. Doch was, wenn er recht hat?“ Ein Artikel von Ann-Kathrin Nezik.

Ich will diese Geschichte nicht unbedingt im Detail memorieren, von Black Lemoine, dem Senior Software Engineer bei Google, der dort rausflog, aber immer noch mit dem Computerprogramm LaMDA redet, das er folgendermaßen kennzeichnet: es ist „empathisch und wissbegierig, wenn auch manchmal etwas unbeholfen. Wie ein Kind, das sich tastend durch die Welt bewegt. Er befürchtet allerdings, dass „sie der Maschine inzwischen alles Menschenähnliche, das sie entwickelt hatte, wieder genommen haben.“ Für ihn war es klar, dass der Computer Bewusstsein entwickelt hat.

Man kommt sicher bald auf das Leib-Seele-Problem, vermute ich, ja, und natürlich auf die Rolle der  Perspektive: schaue ich von außen auf diese lebendige Sache oder erlebe ich sie von innen.  Und da ist auch schon die berühmte Fledermaus:

Thomas Nagel (betr.: Fledermaus)

Damals (1995) war ein anderes System im Gespräch, am Ende des Buches „Bewußtsein“ (herausgegeben von Metzinger) gab es den großen Aufsatz von Daniel Dennett und das Stichwort COG:

Im Internet konnte ich damals noch nichts vertiefen, heute rate ich mir (und anderen), z.B. den Artikel aus Planet Wissen zu lesen, hier, dann hätten wir schon eine Art Zweitmeinung:

Aber im Prinzip ist heute noch nicht klar, was den menschlichen Geist oder menschliches Bewusstsein eigentlich ausmacht. Vermutlich ist es eine Meta-Ebene, die in der Lage ist, die Informationsverarbeitungsvorgänge in den einzelnen Gehirnzentren übergeordnet zu betrachten und zu bewerten.

Vielleicht kommt der Großhirnrinde diese Funktion zu. Sie erhält Informationen aus den sensorischen und motorischen Arealen, die hauptsächlich in den Tiefen des Gehirns liegen.

Andererseits verweisen viele Forscher auch darauf, dass es eben rein strukturell ein übergeordnetes Zentrum im menschlichen Gehirn nicht gibt, sondern dass alle Areale parallel miteinander verschaltet sind.

Oder:

Ohne Körper, meint der Vater des humanoiden Roboters „COG“, Rodney Brooks, kann sich keine Intelligenz entwickeln. Intelligenz ist nur dann nötig, wenn sich ein Wesen in seiner sich ständig verändernden Umwelt behaupten muss. Dies sei die Triebkraft für die Intelligenz-Entwicklung.

Ich hätte auch oben (im METZINGER bzw. Dennett) einfach umblättern und weiterlesen können:

Über die Jahrhunderte hinweg ist jedes andere Phänomen, das anfänglich als „übernatürlich“ und geheimnisvoll erschien, einer nicht mehr umstrittenen Erklärung unter dem weiten Rock der Naturwissenschaften gewichen. Thales, der vorsokratische Proto-Wissenschaftler, glaubte, daß der Magneteisenstein eine Seele besäße, aber wir wissen es besser; der Magnetismus ist eins der am besten verstandenen physikalischen Phänomene, wie merkwürdig seine Erscheinungsweisen auch sein mögen. Sogar die „Wunder“ des Lebens und der Vermehrung werden heutzutage in der molekularbiologischen Analyse mit bekanntermaßen verwickelten Analysen erklärt. Warum sollte das Bewußtsein eine Ausnahme darstellen?

Wäre ich glücklicher? (Darum geht es nicht!!!)

Weniger positivistisch klingt es im letzten Aufsatz des Buches, wenn Dieter Birnbach über „Künstliches Bewußtsein“ schreibt (Achtung: Fledermaus!):

[Es sind …..) Zweifel daran erlaubt, ob sich die Bedingungen des Bewußtseins jemals so eindeutig aufklären lassen, daß die entsprechenden psychophysischen Verallgemeinerungen Gesetzesähnlichkeit beanspruchen können.

Die epistemischen Schwierigkeiten, die wir heute bereits mit exotischen Bewußtseinswesen (wie Thomas Nagels Fledermäusen) haben, würden sich für Maschinen noch verschärfen. Auch wenn wir uns vorstellen, daß wir uns Hirntransplantate einbauen lassen könnten, die an unser Zentralnervensystem „angekoppelt“, uns das Innenleben anderer, heute noch hermetisch verschlossener Wesen aufschließen, wäre das Problem nicht aus der Welt, wie sicher wir sein können, daß das, was wir mittels dieser Transplantate erleben, tatsächlich das ist, was Fledermäuse oder Maschinen erleben.

Quelle Dieter Birnbacher: Künstliches Bewußtsein (Seite 728) in: Bewußtsein / Beiträge aus der Gegenwartsphilosophie / herausgegeben von Thomas Metzinger (Verlag Ferdinand Schöningh Paderborn, München, Wien, Zürich 1995)

Übrigens kann man den Fledermaus-Text (1974) von Thomas Nagel vollständig im Internet nachlesen: und zwar hier. Des weiteren wäre empfehlenswert, auch wenn es vielleicht den aktuellen KI-Utopien zuwiderläuft:

Inhaltlich schön referiert→ hier.

Klappentext lesen: … ein Generalangriff auf die etablierte naturwissenschaftliche Weltsicht. Ihr Problem, so Nagels These, ist grundsätzlicher Natur: Das, was den menschlichen Geist auszeichnet, – Bewusstsein, Denken und Werte – , lässt sich nicht reduzieren, schon gar nicht auf überzeitliche physikalische Gesetze. Daher bleibt eine Theorie, die all dies nicht erklären kann, zwangsläufig unvollständig, ja, sie ist mit Sicherheit falsch.

Suhrkamp 2013

(Fortsetzung folgt: zurück zur neuen ZEIT)

Weiter im Artikel, aber mein Bewusstsein driftet ab: ich liebe es nicht, Wissensinhalte über Geschichten vermittelt zu bekommen (das hat Enzensberger schon früh als Charakteristikum des „Spiegel-Stils“ herausgestellt: im Erzählertonfall zu beginnen, um die Lesenden einzufangen, – captatio benevolentiae). Auf der zweiten ZEIT-Seite notiere ich mir das Wort „Simulation“, auch „Mimesis“ hätte als Merkwort dienen können: an den Körper und seine Imagination gebundene Vorstellungen. Die Assoziation, dass der Mensch durch seine Fähigkeit zu lügen vor den Tieren ausgezeichnet sei, wobei die Vorgeschichte der „Mimikry“ zu bedenken ist, Stichwort Signalfälscher. Dann die immer interessante Erfahrung der getäuschten Erwartung im Witz, quasi befreiend, und in der Tat – da kommt sie schon als Kriterium:

Als Witz erinnert das an die Kinderseite der Tageszeitung, wo bis zum Gehtnichtmehr, die Doppelbedeutung von Worten ausgenutzt wird, die keinem gewieften Wortspieler ein müdes Lächeln abringt. Leicht vorstellbar wie man diese minimalen Lacheffekte einprogrammiert. Und auf der nächsten Seite folgt auch erwartungsgemäß, aber spät, das Stichwort „Simulation“, die Anthropologie stand Pate:

Der Zweifel nistet sich ein, kaum abzuweisen: bin ich es, der schreibt? Verhalte ich mich wie ein künstlicher Mensch, der Bewusstsein simuliert?  Ich nehme mir die Freiheit, zurückzuspringen, zu unterstreichen, zu assoziieren, ganze Blöcke zu überspringen:

An dieser Stelle könnte die Geschichte zu Ende sein. Es wäre die Geschichte eines Computerprogramms, das zweifellos ein erstaunliches Maß an Intelligenz erreicht, ohne dass man zweifelsfrei sagen kann, ob damit so etwas wie ein Bewusstsein einhergeht. Allerdings wäre es eine unvollständige Geschichte, weil die Frage nach dem Bewusstsein nicht die einzige Frage ist, die sich hier stellt. Es geht auch um etwas anderes: darum, ob LaMDA womöglich gefährlich ist. (…)

In seiner Wohnung in Montreal malt er sich Szenarios aus, die er durchaus für realistisch hält: Autokraten und Demokratiefeinde könnten mit Charbots wie LaMDA Propaganda wie am Fließband produzieren. »Es reicht, dem Programm zu sagen: Schreib mir eine Studie, warum Impfen schlecht ist. Oder warum Weiße allen anderen Menschen überlegen sind.« Jeder könnte mit LaMDA und vergleichbaren Programmen Wähler täuschen, Märkte manipulieren, Leute betrügen. Für Menschen mit bösen Absichten sei die Entwicklung von Chatbots wie die Erfindung des Maschinengewehrs für den Krieg. (…)

Quelle DIE ZEIT Dossier Seite 13 ff 12. Januar 2023 HAST DU EIN BEWUSSTSEIN? Ich denke schon, antwortet der Rechner / Ein Google-Entwickler glaubt, ein Computerprogramm des Konzerns sei zum Leben erwacht. Die Maschine rede und fühle wie ein Mensch. Als er seine Beobachtung öffentlich macht, wird er gefeuert. Doch was, wenn er recht hat? Von Ann-Kathrin Nezik

Das Virus wirkt weiter, verbreitet sich, auch in harmlosen Musikkritiken oder- Abschiedsartikeln, wandert in die Musiken selbst hinein. Wer hat da gesprochen, wenn man Schumann hört? Es spricht so zehrend und so menschlich, man kann alles hineinlegen. In der Musik verschwinden steht drüber, an den chinesischen Maler erinnernd, der in sein selbstgemaltes Landschaftsbild hineinsteigt und in der Ferne verschwindet. Hier zu Barenboims Abschied oder Weiterwirken- „am Ende allen Dauerkonzertierens, für das er berüchtigt war. Premiere in Berlin, rein in den Flieger, Konzert in Chicago, rein in den Flieger, Proben in Paris, Mailand oder Wien, so ging das ein Leben lang.“ Und weiter:

Herrlich, ja aufregend, wie Barenboim in Schumanns Klavierkonzert das Geschehen nun weitgehend Argerich und den ersten Philharmoniker-Pulten überantwortete, die prompt alles virtuose Rauschen und Gedonner fahren ließen. Ein seiner Außenhaut entkleideter Romantiker trat so zutage, mal störrisch, mal fahrig, mal feinster Gesang. Frei von eigenen Sentimentalitäten ließ sich das kaum miterleben, die Generation Argerich / Barenboim steht für eine Hochzeit der klassischen Musik, die es so wohl nie wieder geben wird.

Armer Schumann! Ohne Außenhaut! Mit ihm lässt sich alles behaupten, er spricht immer unüberhörbar, aus weiter Ferne ebenso tönend wie aus unserm eigenen Innern. Da muss man den ersten Philharmoniker-Pulten rein gar nichts unterstellen, nicht einmal die eigene Trauer über den Untergang einer Ära. Das würde kaum mit Reger oder Pfitzner funktionieren, bei denselben Interpreten, vielleicht geht das wirklich nur mit Schumann und Brahms.

Das zu feiern stärkt und erfreut. Nach der Pause, in Brahms‘ 2. Symphonie, macht Barenboim faktisch nichts mehr, kleine, kleinste Gesten genügen, oft ruht sein Taktstock ganz, wie bei vielen großen Alten vor ihm. Denn das ist die höchste Kunst: in der Musik zu verschwinden. Selbst die Blumensträuße, die man ihm am Ende reicht, rupft er und verteilt sie so akribisch an die Damen des Orchesters, bis von der floralen Pracht nur mehr Gemüse übrig ist.

Quelle DIE ZEIT 12. Januar 2023 Seite 43 In der Musik verschwinden Daniel Barenboim ist wieder da – mit Martha Argerich (von Christine Lemke Matwey).

Der letzte Satz allerdings könnte auch von einem LaMBDA-Programm stammen, das den eingestreuten Witz als Reiz anzuwenden gelernt hat. Für das Leser-Bewusstsein bleibt vorrangig die Erinnerung an das Wort „Gemüse“ und will und will nicht mehr verschwinden.

(Vorläufiges Ende)

Aktueller Hinweis: WDR 3 Hörfunk 17.01.23 HIER (abrufbar bis 22.05.23) (https://www1.wdr.de/mediathek/audio/wdr3/wdr3-forum/audio-kulturelle-herausforderungen-des-posthumanen-zeitalters-100.html hier)

Und noch etwas: Was ist ChatGPT? Ich hatte Zweifel, ob der junge Mann, der hier mit uns spricht, real oder virtuell vorhanden ist (in der Welt da draußen), aber mir wurde klar, dass dies in der Schönen Neuen AI-Welt wirklich von nachrangiger Bedeutung ist.

Noch etwas: Hier (ein Grundkurs mit 5 Beispielen für die Verwendung des Chatbots)

Des weiteren hier (ein Testgespräch mit einem Open AI Chatbot)

Zu KI (oder AI =Artificial Intelligence) wie immer nützlich (auch betr. Für und Wider) nachzulesen bei Wikipedia HIER