Kwaku Ananse

Ich hatte meinen Artikel zum freien Willen noch in einem Diskussionsforum gepostet, einer der Kommentatoren dort war Martin Dresler. Ich kannte ihn bereits aus einer anderen Diskussion zu Klarträumen, er arbeitet am Max-Planck-Institut für Psychiatrie an diesem Thema. In einem seiner Kommentare wies er auf ein neues Buch von ihm hin: Künstliche Intelligenz, Bewusstsein und Sprache. Derzeit ist er einer der Organisatoren der diesjährigen MinD-Akademie "Freiheit und Grenzen".

Für die 130 Seiten seines neuen Buchs habe ich fünf Abende gebraucht, ich glaube nicht, dass ich alles verstanden habe. Das Niveau ist sehr hoch, ich würde sagen, dass man es, wenn er es noch ein wenig "aufbrezelt", als Dissertation auf dem Gebiet der Philosophie des Geistes anerkennen könnte. Das ist erstaunlich, wenn man bedenkt, dass er eigentlich auf einem ganz anderen Gebiet arbeitet.

Der Untertitel des Buchs verrät Genaueres über den Inhalt: "Das Gedankenexperiment des Chinesischen Zimmers". Die Philosophie des Geistes beschäftigt sich mit dem Zusammenhang zwischen den geistigen bzw. mentalen Zuständen, die aus der Erste-Person-Perspektive erlebt werden, und den körperlichen Zuständen, die einer objektivierbaren Messung zugänglich sind, also kurz mit dem Leib-Seele-Problem.

Lange Zeit war die Identitätstheorie in der Philosophie des Geistes vorherrschend. Verkürzt besagt sie, dass mentale Zustände mit neuronalen Zuständen identisch sind. Das bedeutet, es handelt sich um denselben Naturvorgang, der auf der einen Seite erlebt wird und auf der anderen Seite gemessen werden kann. In die Krise kam diese Auffassung vor allem wegen der Erfindung der Computer.

Die Begriffe Bewusstsein, Intelligenz und Verstehen (=Sprache) haben zwar eine unterschiedliche Wortbedeutung, doch bis zur Erfindung der Computer gab es nur eine Sorte Wesen, die alle drei Eigenschaften in sich vereinigte - der Mensch. Computerprogramme waren aber sehr schnell in der Lage Probleme zu lösen, bei denen Menschen früher die Notwendigkeit von Intelligenz vorausgesetzt hatten. Von Alan Turing stammen interessanterweise zwei Konzepte, die im Weiteren von Bedeutung sind:

• Die Turing-Maschine beschreibt einen Automaten, der sequentiell Zeichen liest, nach ihm eigenen inneren Algorithmen und seinem inneren Zustand verarbeitet, wodurch sich dieser innere Zustand verändern kann, und der im Ergebnis dieser Verarbeitung Zeichen ausgeben kann.
• Der Turing-Test soll die Frage beantworten, ob eine Maschine denken kann. Man setzt einem Menschen einen Gesprächspartner gegenüber, wobei der Mensch nicht weiß, ob es sich dabei um eine Maschine oder einen anderen Menschen handelt. Allein durch Fragen und Antworten soll der erste Mensch herausfinden, ob der andere ein Mensch oder eine Maschine ist.

Hier taucht ein weiterer Begriff auf, "Denken", der etwas anderes bedeutet als "Bewusstsein", aber sowohl "Intelligenz" als auch "Verstehen" und "Sprache" verwandt ist. Wie problematisch der Turing-Test ist, kann man sich in einem kleinen Gedankenexperiment überlegen: Angenommen, wir verlieben uns in eine Frau (oder alternativ einen Mann). Mit ihr lässt sich gut plaudern, sie sieht gut aus, sie riecht gut und man kann nette Sachen mit ihr machen. Plötzlich löst sich an einer Stelle ihre Haut und das Metall eines gewöhnlichen Computers kommt zum Vorschein, wir haben mit einem Computer geflirtet. Schlagartig verändert sich unsere Einstellung zu unserem Gegenüber. Intuitiv sind wir alle Carbo-Chauvinisten.

Martin Dresler erwähnt in seinem Buch Harnards Hierarchie, deren letzte Stufe der "Harte Turing-Test" ist, die vollständige Ununterscheidbarkeit zum Menschen:

from subtotal ('toy') fragments of our functions (T1), to total symbolic (pen-pal) function (T2 - the standard Turing Test), to total external sensorimotor (robotic) function (T3), to total internal microfunction (T4), to total indistinguishability in every empirically discernible respect (T5).

Zweifellos hatte die Entwicklung der Computer einen gewaltigen Einfluss auf die Wissenschaft. Es kam in Mode, das Gehirn als eine Art Computer, vielleicht gar als Turing-Maschine zu betrachten und umgekehrt an der Möglichkeit zu arbeiten, Maschinen zu entwickeln, die intelligent sind, die verstehen können und die über ein Bewusstsein verfügen. Die dazu parallele Theorie in der Philosophie des Geistes ist der Funktionalismus. Die zentrale These des Funktionalismus ist, dass mentale Zustände funktionale Zustände sind. Das kann man einfacher ausdrücken: Ein Wesen, dass sich augenscheinlich intelligent verhält, das nach außen Verständnis zeigt und das in den Augen äußerer Beobachter offenbar über Bewusstsein verfügt, ist tatsächlich intelligent, versteht und hat Bewusstsein. Damit ist die Art der Realisierung egal, der Carbo-Chauvinismus ist passe, entscheidend ist nur noch die äußere Schnittstelle des Systems.

An dieser Stelle kommt John Searles Kritik zum Tragen, die er 1980 in seinem Gedankenexperiment des chinesischen Zimmers formuliert hat. Das ist fast dreißig Jahre her, nahezu alle Aspekte dieses Experiments wurden von anderen Wissenschaftlern kritisiert und widerlegt. Trotzdem ist die Diskussion bis heute noch nicht abgeschlossen und Martin Dresler hat eben zu diesem Thema sein Buch veröffentlicht. Das Problem ist konstitutiv für den Funktionalismus und für die harte künstliche Intelligenz. In der harten Form geht es um die Schaffung bewusster künstlicher Wesen, die weiche Form der KI ist von der Diskussion nicht betroffen.

Das chinesische Zimmer:

John Searle, ein englischer Muttersprachler, des Chinesischen nicht mächtig, befindet sich in einem Raum voller chinesischer Bücher und Symbole. Durch einen Schlitz in der Tür wird ihm ein Zettel durchgeschoben, auf dem eine Frage in chinesischer Sprache formuliert ist. John Searle sucht die Regale mit den chinesischen Büchern anhand der Symbole ab, schlägt nach festgelegten Regeln dort stehende Bücher auf, entnimmt ihnen chinesische Zeichen, schreibt sie auf einen Antwortzettel und schiebt diesen zurück durch den Schlitz in der Tür.

Der chinesische Muttersprachler, der die Frage gestellt hat, ist mit der Antwort sehr zufrieden, sie hat für ihn einen Sinn. - Das chinesische Zimmer hat den Turing-Test für Sprachverstehen bestanden, es kann auf eine beliebige chinesische Frage eine sinnvolle chinesische Antwort geben. Die entscheidenden Fragen:

• Ist das Zimmer intelligent?
• Hat das Zimmer die Frage verstanden?
• Verfügt das Zimmer über Bewusstsein?

Wer diese Fragen für albern oder trivial hält, der sollte sich klar machen, dass sich die intelligentesten Menschen der Welt, und dazu zählen Philosophen, Kognitionswissenschaftler und KIler zweifellos, seit dreißig Jahren an diesem Problem abarbeiten. Für John Searle beweist das Experiment, dass Bewusstsein nicht durch einen rein komputationalen Prozess erklärt werden kann, folglich Computer kein Bewusstsein haben können.

Es gibt eine leichte Modifikation des Gedankenexperiments, mit der zumindest ein anderes zentrales Problem aus der Welt geschafft werden kann: Dafür ersetze man die chinesischen Bücher und Symbole durch englische, stelle eine englische Frage und erhalte darauf eine englische Antwort. In diesem Fall versteht der englisch sprechende Operateur (John Searle) die Frage und später auch die Antwort, aber trotzdem folgt er stur dem Algorithmus zur Symbolmanipulation. Sein Bewusstsein ist für die Beantwortung irrelevant. Es ist ganz offensichtlich kein Homunkulus in unserem Kopf notwendig, der irgendetwas "verstehen" müsste.

Im Buch werden unzählige Pro- und Kontraargumente gegeneinander abgewogen, viele sind so kompliziert, dass ich ihnen nicht mehr folgen kann. Es gibt jedoch einige, die ich mir gemerkt habe und die mir plausibel erscheinen. Das erste Argument zielt in Richtung Emergentismus, hier findet sich im Buch ein übersetztes Zitat von Roger Penrose:

Es ist wahr, daß wir uns hier mit prinzipiellen Fragen befassen, aber ich kann mir vorstellen, daß es einen kritischen Grad der Kompliziertheit gibt, den der Algorithmus erreichen muß, um geistige Qualitäten aufzuweisen. Vielleicht ist dieser kritische Wert ja derartig hoch, daß kein Mensch einen Algorithmus dieses Kompliziertheitsgrades jemals per Hand auf die von Searle beschriebene Weise auszuführen vermag.

Ein weiteres Argument ist das der "seltsamen Realisierungen". Der Grundgedanke ist hier, dass es zwischen dem Gehirn und Searles Zimmer keinerlei physikalische oder biologische Ähnlichkeiten gibt. Bildet man aber ein Modell anhand einiger Analogien, dann fehlen dem Modell unter Umständen einige wesentliche Eigenschaften des Originals, während ganz andere Eigenschaften in der Modellbildung hinzugefügt werden. Man kommt dann zu Fehlschlüssen, wenn die Untersuchungen durch die Modelleigenschaften beeinflusst werden, die mit dem Original überhaupt nichts zu tun haben. In diese Kategorie kann man auch den Einwand einordnen, mit dem Zimmer würde nur ein kleiner Teil des Bewusstsein bzw. des Verstehens einer Person modelliert, notwendig wäre aber die gesamte Person, also einschließlich ihres Körpers und unter Umständen sogar eines Teils ihre Lebensumwelt.

Eine sehr interessante Frage besteht darin, inwieweit das Modell einer Turing-Maschine auf das Gehirn überhaupt zutrifft. Die meisten (oder alle?) heute existierenden Computer sind Turing-Maschinen, die einen seriellen Input in einen seriellen Output verwandeln und ihren inneren Zustand ebenfalls in dem dadurch vorgegeben Rhythmus ändern. Selbst heutige neuronale Netzwerke sind von diesem Typ, weil auch hier die physikalische Realisierung durch einen herkömmlichen Computer, d.h. eine Turing-Maschine, erfolgt und jede Turing-Maschine im Prinzip jede andere modellieren kann. Aber das Gehirn könnte von einem anderen Typ sein, weil hier tatsächliche Parallelität dadurch entsteht, dass die Systemänderung zwischen Eingang und Ausgang an einer Stelle an einer anderen Stelle erst nach einer dortigen Ein- Ausgangsreaktion registriert wird. Ich bin mir nicht sicher, ob dieses (akausale) Verhalten von einer Turing-Maschine beschrieben werden kann. Dann hätte Searle heute recht, seine Schlüsse würden auf die heutigen Computer zutreffen.

Ein weiterer Einwand besteht in der Überlegung, dass unter Umständen das Zeitverhalten eine wichtige Rolle spielen könnte, und Searles Zimmer ist millionenfach langsamer als ein "echter" Chinese. Dafür gibt es im Buch ein interessantes Gedankenexperiment (in einem ganz anderen Zusammenhang) von den Churchlands:

Stellen Sie sich einen dunklen Raum vor, in dem sich ein Mann befindet, der einen Stabmagneten oder einen elektrisch geladenen Gegenstand in der Hand hält. Wenn der Mann den Magneten auf und ab bewegt, dann müsste dieser nach Maxwells Theorie der künstlichen Helligkeit (KH) einen sich ausbreitenden Kreis elektromagnetischer Wellen und damit Helligkeit erzeugen. Aber wie jeder von uns, der mit Magneten oder geladenen Kugeln herumgespielt hat, nur zu gut weiß, produzieren ihre Kräfte (oder irgendwelche anderen Kräfte), selbst wenn sie bewegt werden, keinerlei Helligkeit. Es ist somit unvorstellbar, daß man wirkliche Helligkeit einfach dadurch erzeugen kann, daß man Kräfte umherbewegt!

Das Experiment beweist natürlich nicht, dass man mit Magneten kein Licht erzeugen kann, es ist eine reductio ad absurdum.

Beim Lesen musste ich die ganze Zeit an ein anderes Gedankenexperiment denken. In diesem wird ein Neuron im menschlichen Gehirn durch einen elektrischen Schaltkeis ersetzt. Ist die Person dann noch ein Mensch? Sicher. Aber was passiert, wenn man sukzessive alle Neuronen durch Schaltkreise ersetzt? Tatsächlich wird auch dieses Experiment gegen Ende des Buches beschrieben und merkwürdigerweise stammt es ebenfalls von Searle. Er wählt als Beispiel den Geschmackssinn und ist der Meinung, dass die betreffende Person dann immer noch sagen könne, ob eine Speise "süß" oder "salzig" sei, aber dabei nichts mehr empfinden würde. - Dann wäre er da, der philosophische Zombie. Die meisten anderen Wissenschaftler stimmen Searle auch in diesem Punkt nicht zu.

Ich denke, diese Frage ist nicht so einfach zu beantworten, sie geht in die Richtung des Arguments der seltsamen Realisierungen. Woher nehmen wir die Gewissheit, beim Ersatz eines Neurons alle wesentlichen Eigenschaften eines Neurons zu ersetzen und zugleich keine neuen konstitutiven hinzuzufügen? In Neuronen fließen Ströme, auch wenn die durch sie erzeugten elektromagnetischen Felder schwach sind, so beeinflussen sie doch statistisch das Verhalten anderer Neuronen.

Mit dieser Überlegung löse ich für mich übrigens auch den Widerspruch zwischen Identitätstheorie und Funktionalismus. Ein ähnlich aufgebautes System wird zweifellos über ähnliche innere Zustände verfügen. Ein anders aufgebautes System kann gar nicht in allen Aspekten über eine gleiche Schnittstelle verfügen. dazu muss man die Schnittstelle nämlich auf eine Teilmenge der Eigenschaften der verglichenen Systeme beschränken.

Martin Dresler verweist im Buch (und an anderen Stellen im Diskussionsforum) auf das Privatsprachenargument von Wittgenstein:

Auch der Aspekt der Privatheit mentaler Zustände wurde ausführlich kritisiert, insbesondere auf der Grundlage von Wittgensteins Ausführungen rund um sein bereits erwähntes Privatsprachenargument. Wenn ein mentales Phänomen m essenziell privat wäre, dann wüsste jeder Sprecher lediglich, was er selbst m nennt. In einer öffentlichen Sprache spielte die jeweilige konkrete Referenz von m dadurch jedoch keine Rolle mehr. Da jeder Einzelperson damit aber ein objektiv überprüfbares Kriterium zur angemessenen Anwendung des Begriffs m fehlte, kann der Begriff weder angemessen noch unangemessen und somit gar nicht sinnvoll verwendet werden. Essenzielle Privatheit impliziert damit nicht nur die Unmöglichkeit intersubjektiver Kommunikation, sondern auch die Unmöglichkeit subjektiven Wissens um mentale Entitäten.

Oder anders gesagt, mein Rot und dein Rot oder mein Schmerz und dein Schmerz müssen sich allein dadurch ähnlich anfühlen, weil man sie sonst nicht kommunizieren könnte. Hier würde ich aber (aus neurophysio- und logischer Sichtweise) ergänzen: Sie müssen sich ähnlich anfühlen, wenn ähnlich aufgebaute Wesen in ähnlicher Umwelt ähnlichen Reizen ausgesetzt sind und adäquat reagieren müssen. Sie werden aber nicht gleich sein, weil die bisherigen Erfahrungen der Betreffenden unterschiedlich waren.

Das kann man abschließend auch auf die hinter dem chinesischen Zimmer stehende Frage anwenden: Können Maschinen Bewusstsein entwickeln? Sicher können sie das, aber diese mögliche Bejahung hängt auch von der Antwort auf die Frage ab, wie weit man den Begriff des Bewusstseins fasst und dass man akzeptiert, dass ihre mentalen Erlebnisse (ihre Qualia) ganz andere Inhalte haben können als unsere, weil sie sowohl eine andere innere Struktur haben werden, als auch in einer anderen Umwelt leben und die Welt mit anderen Sensoren erfassen und andere Bedürfnisse haben.

Gehirn & Geist, Bücher