Freier Wille

Ich habe mich in den letzten Jahren wiederholt mit diesem Thema beschäftigt und mir in dieser Zeit eine inzwischen hoffentlich konsistente Meinung gebildet. Der folgende Beitrag entstand anlässlich der Diskussion in einem Forum und stellt eine Zusammenfassung meiner Überlegungen dar:

Die zwei größten Rätsel der Realität sind die nach der Existenz der Welt und der Natur unseres Bewusstseins. (Es gibt einige große Denker, die der Meinung sind, diese beiden Fragen seien nicht voneinander zu trennen (z.B. John Wheeler), aber das führt zu weit weg und zu tief in die Metaphysik und soll deshalb hier nicht weiter thematisiert werden.)

Das Leib-Seele-Problem ist die zentrale Frage der Philosophie des Geistes. Da heutzutage der Begriff der Seele wegen seiner religiösen Konnotation etwas aus der Mode gekommen ist, findet man häufig auch etwas andere Bezeichnungen, aber am Kern des Problem ändert das nichts: Welcher Zusammenhang besteht zwischen unserem phänomenalen Erleben (dem Erleben von Phänomenen) und den auch von Außenstehenden beobachtbaren physikalischen, chemischen und biologischen Vorgängen?

Die modernen Methoden in den Naturwissenschaften, insbesondere in den Neurowissenschaften, haben in den letzten Jahren große Fortschritte in der Analyse der neuronalen Vorgänge gemacht, die mit Bewusstseinsvorgängen einhergehen. Ein Beispiel: Wir spielen mit einem Kind Ball. Es wirft uns den Ball zu. Wir nehmen den Ball wahr, reißen die Arme hoch und fangen ihn auf. Während dieser Zeit laufen in unserem Körper und in unserem Nervensystem sehr komplexe Vorgänge ab. Die Sinneszellen unserer beiden Augen empfangen das vom Ball reflektierte Licht, die Sinneszellen beider Ohren empfangen den vom Ball ausgehenden Schall, der Aufprall des Balls wird von den Sinneszellen der Hände an das Gehirn gemeldet, das zuvor Befehle an die Arme ausgesandt und diese so veranlasst hat, den Ball zu greifen.

Die Verarbeitung der von den Augen wahrgenommen optischen Informationen ist inzwischen sehr gut untersucht. Man weiß, dass die Signale nach Form von Objekten, Farben und Bewegungen in verschiedenen Teilen des Gehirns detektiert werden, zudem für beide Augen getrennt. Wir sehen aber nicht "rund", "rot" und "fliegend" getrennt, sondern erleben in unserem inneren Film einen roten Ball, der, schnell größer werdend, auf uns zufliegt. Die Integration der ursprünglich getrennten Verarbeitung der Sinneseindrücke wird Bindungsproblem genannt. In unserem Beispiel müssen zusätzlich noch die akustischen Informationen zweier Ohren und die haptischen Rückmeldungen der Hände beim Zufassen integriert werden.

Wichtig für das Folgende ist, dass die Informationen der verschiedenen Sinneskanäle zu verschiedenen Zeitpunkten zur Verfügung stehen können, vom Bewusstsein aber zu einem raumzeitlich konsistenten Modell zusammengesetzt werden. Wichtig ist ferner, dass der Ball nicht auf zwei Augen, zwei Ohren und zwei Hände zufliegt, sondern auf die mit dem Kind spielende Person, also auf uns. Der Betreffende empfindet sich als eine Einheit, das "Selbst". Meistens wird dieses Selbst als in der Mitte des Kopfes sitzend gefühlt, wohl vor allem deshalb, weil sich die wesentlichen Sinnesorgane paarig und symmetrisch am Kopf befinden, aber ganz sicher nicht, weil sich im Kopf das Gehirn befindet.

Vom größten Teil der neuronalen Verarbeitung nehmen wir nichts wahr, erst das Ergebnis der Lösung des Bindungsproblems ist unserem Bewusstsein zugänglich, der überwiegende Teil der neuronalen Vorgänge verläuft unbewusst. Die Antwort auf die spannende Frage, warum nicht alles unbewusst bleibt und wir als die berühmten philosophischen Zombies durch die Welt mäandern, ist nicht klar. Aber an dieser Stelle sei einfach angenommen, dass das Bewusstsein eine Funktion haben muss, denn bewusste Vorgänge gehen physiologisch mit einem erhöhten Ressourcenverbrauch einher, wäre dieser überflüssig, hätte die Evolution einen ressourcensparenden Weg vorgezogen.

Das Bewusstsein repräsentiert also das augenblickliche Wissen der Person über seine Realität. Eines der Objekte der Wahrnehmung ist die Person selbst. Genauso wie die Ball spielende Person Informationen über das Kind, den Ball, die gesamte Szenerie aufnimmt und verarbeitet, genauso nimmt sie Informationen über ihren eigenen Zustand wahr, Position und Lage im Raum, Blutdruck, Blutzucker, etc. Wenn Bewusstsein einen Sinn haben soll, dann kann der zuvörderst nur darin liegen, die Überlebenswahrscheinlichkeit der Person zu verbessern. Im Fokus der Aufmerksamkeit des Bewusstseins stehen also immer die Dinge, die tatsächlich der Aufmerksamkeit bedürfen und nicht unbewusst erledigt werden können.

In dem Ballbeispiel lässt der Erwachsene von Zeit zu Zeit einen Ball durchrutschen, das Kind freut sich, es hat ein Tor geschossen, der Erwachsene freut sich auch, denn er weiß ja, dass er das absichtlich getan hat, er könnte anders, wenn er wollte. Das Ereignis festigt die Bindung zwischen beiden und das Kind hat, ohne es zu wissen, etwas über Sozialverhalten gelernt. Und jetzt die zentrale Frage: War die bewusst getroffene Entscheidung des Erwachsenen, den Ball durchzulassen, seine freie Entscheidung?

Es gibt zwei Erkenntnisse der Neurowissenschaften, die das in Zweifel ziehen, häufig werden beide vermengt, obwohl sie etwas Unterschiedliches bedeuten. Die erste ist mit Experimenten von Benjamin Libet verbunden /1/. Libet hatte die Gehirnströme seiner Probanden aufgezeichnet und sie aufgefordert, zu einem von ihnen frei gewählten Zeitpunkt den Arm zu heben. Gleichzeitig sollten sie eine Uhr im Blick behalten und später aussagen, zu welchem Zeitpunkt sie den Entschluss gefasst haben, den Arm zu heben. Libet konnte Hirnströme messen, die etwa 250 ms vor dem Zeitpunkt lagen, den die Personen als den Zeitpunkt ihrer Willensentscheidung angaben.

Die Schlussfolgerung Libets (und anderer) aus dem Versuch war, dass die als bewusst wahrgenommene Entscheidung in Wirklichkeit eine unbewusste ist. Um zu diesem Schluss zu kommen, muss man eine ganz bestimmte Haltung zum Verhältnis zwischen Bewusstem und Unbewusstem einnehmen, nämlich als wäre das Bewusste irgendetwas Wohlunterscheidbares zum Unbewussten und eine Art Homunkulus im Gehirn. Es gibt zwei einfache Gegenargumente, die Libets Schlussfolgerungen entkräften: Die erste folgt der Linie des Bindungsproblems. Die Aufgabe des Gehirns bzw. des Bewusstseins ist es nicht, objektiv Zeit zu messen, sondern alle inneren und äußeren Ereignisse in die richtige kausale Reihenfolge zu bringen. Dafür ist es im vorliegenden Fall notwendig, dass aus Sicht der Person der Zeitpunkt der Entscheidungsfindung vor dem Zeitpunkt des Armhebens liegt und beiden Ereignissen eine plausible Stellung des zugleich beobachteten Uhrzeigers zugewiesen wird.

Das zweite Gegenargument besteht in der Gegenfrage, wie man es denn wissenschaftlich erklären könnte, wenn die Person angeben würde, sie hätte die Entscheidung zu einem Zeitpunkt getroffen, zu dem in ihr keine signifikanten Hirnströme gemessen worden sind? Bewusstsein ohne materielle Grundlage? Meiner Meinung nach werden Libets Experimente so falsch gedeutet. Die Aussage ist doch lediglich, dass bestimmte Vorstellungen über eine Sonderstellung des Bewusstseins falsch sind.

Die zweite und von Libet unabhängige Erkenntnis der Neurowissenschaften besteht im augenscheinlichen Determinismus der neuronalen Netzwerke. Reizt man eine Nervenzelle auf eine bestimmte Weise, dann wird sie sich, wenn sie sich zuvor in einem gleichen inneren Zustand befand, auch stets mit dem gleichen Ausgangssignal reagieren. Unter anderem Gerhard Roth und Wolf Singer, aber auch andere, zogen daraus weitreichende Schlussfolgerung unter anderem für das Strafrechtssystem. "Verbrecher haben ja gar keinen freien Willen, sich gegen ihre Taten zu entscheiden, ihr determiniert arbeitendes Gehirn würde sie zu ihren Handlungen zwingen".

Um dem stringenten Determinismus zu entgehen, den uns scheinbar das deterministisch arbeitende Gehirn aufzwingt, schlugen Roger Penrose und Stuart Hameroff vor, dass indeterministische Quantenprozesse das Element des Zufalls in die neuronale Verarbeitung einbringen könnten. Als Ort der Wechselwirkung des Gehirns mit einer Art Zufallsgenerator nannten sie die Mikrotubuli, das sind winzig kleine Bestandteile organischer Zellen.

Der Einwand, dass sich Quantenprozesse nicht makrophysikalisch bemerkbar machen können, weil die Heisenbergsche Unschärferelation für makroskopische Objekte wie das Gehirn keine Rolle spielt, gilt hier übrigens (und eigentlich immer) nicht. Denn auch die Messapparaturen, mit denen Quantenprozesse sichtbar gemacht werden, arbeiten nicht anders: Sie verstärken die Signale so weit, dass sie am Computerbildschirm als Zahlen oder Diagramme abgelesen werden können.

Die Neurowissenschaftler hatten jetzt also die Wahl, ob sie die Existenz eines freien Willens aufgrund eines streng deterministischen Hirnmodells ablehnen oder es aufgrund von indeterministischen Quantenprozessen für möglich halten. Susan Blackmore hat dazu Interviews mit vielen führenden Neurowissenschaftlern und Philosophen geführt /2/, ein Auszug der Bandbreite der Antworten:
Susan Blackmore „Glauben Sie, einen freien Willen zu haben?“
Patricia Churchland „Sicher nicht, wenn Sie damit meinen, dass meine Entscheidungen nicht verursacht sind.“
John Searle „Tja, in diesem Punkt habe ich gar keine Wahl!“
Roger Penrose „Ich weiß es nicht.“
Daniel Dennet „Ja.“
Wir können also das Problem des freien Willens jetzt auf drei Ebenen zu lösen versuchen:
  1. Auf der Ebene des Bewusstseins durch Introspektion,
  2. auf der Ebene neuronaler Vorgänge, wo strenge Kausalität herrscht,
  3. auf der Quantenebene mit seinem "echten" Zufall.
Eine Zeitlang sah es (für mich) so aus, als ob die Erfolge der Neurowissenschaften die Philosophie überflüssig und die Philosophen sprachlos gemacht hätten. Überall sah man die bunten Bildchen mit Falschfabendarstellungen von Hirnscans. Inzwischen haben sich die Philosophen aber zur Willensfreiheit wieder recht nachdrücklich zu Wort gemeldet. Michael Pauen /3/ schreibt zum Beispiel, wann eine Handlung nicht als frei betrachtet werden kann:
  • Wenn es keine Handlungsalternativen gibt, d.h. wenn eine Handlung erzwungen ist bzw. sich determiniert aus Ursachen ergibt.
  • Wenn die Auswahl zwischen verschiedenen Alternativen absolut zufällig erfolgt. Auch das entspricht nicht unserem Empfinden für eine frei getroffene Entscheidung.
Und dann fragt er nach den Minimalbedingungen, bei deren Erfülltsein wir von Willensfreiheit der betreffenden Person ausgehen können. Es sind zwei:
  1. Wir müssen eine Handlung zweifelsfrei einer Person zuschreiben können (Urheberschaft).
  2. Die Person muss die Wahl zwischen verschiedenen Alternativen gehabt haben (Autonomie).
Es ist offensichtlich, dass diese Argumentation den Kern des Problems der Willensfreiheit ziemlich gut trifft und zugleich nicht das Geringste mit dem Drei-Ebenen-Modell zu tun hat. Man kann sich zwei einfache Fragen stellen: Verfügen Neuronen über einen freien Willen? Verfügen Quanten über ein Bewusstsein? Offensichtlich ist die Antwort in beiden Fällen ein "Nein". Wenn das so ist, dann ist meine Schlussfolgerung, dass Bewusstsein und freier Wille emergente Phänomene sind, die erst auftreten, wenn die Prozesse der darunter liegenden Ebenen eine hinreichende Komplexität aufweisen.

Es liegt im Wesen emergenter Phänomene, dass man nicht weiß, ob man es mit schwacher oder starker Emergenz zu tun hat, d.h. ob die derzeitige Irreduzibilität ein praktisches oder ein theoretisches Problem ist. Ich tippe auf letzteres, d.h. ich bezweifle, dass es jemals möglich sein wird, Bewusstsein auf neuronaler oder Quantenebene zu erklären. Das spricht natürlich nicht dagegen, künstliche bewusste Wesen zu schaffen, mit natürlichen Wesen gelingt es uns ja schon recht gut. ;-)

Einen weiteren Hinweis, wie mit dem Problem der Willensfreiheit umgegangen werden kann, kann man der Argumentation von Geert Keil /4/ entnehmen:
Aber was genau ist Willensfreiheit? Der Sinn der Frage, ob der Wille selbst frei sei, versteht sich nicht von selbst. Wenn Handlungsfreiheit die Freiheit ist, zu tun, was man will, könnte Willensfreiheit analog die Freiheit sein, zu wollen, was man will. Willensfreiheit zu besitzen müsste dann die Fähigkeit einschließen, etwas anderes zu wollen, als man tatsächlich will.
Hier hat man einen skurrilen Selbstbezug, aber der allein macht die Sache noch nicht falsch, denn die Regression muss nicht unendlich sein:
Der Regressionseinwand allein ist allerdings nicht stichhaltig, denn das Phänomen des höherstufigen Wollens existiert durchaus und zieht nicht zwangsläufig einen Regress nach sich. Ein Drogensüchtiger kann wollen, das Verlangen nach Drogen, das er tatsächlich hat, nicht zu haben. Daraus folgt nicht schon, dass er auch einen Willen dritter, vierter und fünfter Stufe haben können muss.
Aber auf jeden Fall sollten die vorangegangenen Aussagen verdeutlichen, dass es sich beim Problem der Willensfreiheit frei nach Wittgenstein vermutlich um ein Scheinproblem handelt, das erst dadurch entstanden ist, dass man einen Begriff, der auf der Analyseebene des Bewusstseins einen Sinn hat, auf der neuronalen oder der Quantenebene anzuwenden versucht.

Und die bereits erwähnte Argumentation von Gerhard Roth und Wolf Singer bezüglich der strafrechtlichen Relevanz der Willensfreiheit wird schon dadurch gegenstandslos, dass man sich klar macht, dass es juristisch nicht auf den Willen sondern auf die Handlungen eines Menschen ankommt. Also ist die Frage nach der Handlungsfreiheit die entscheidende, die sich Richter stellen müssen: Hatte der Angeklagte in der betreffenden Situation mehrere Handlungsmöglichkeiten, hätte er die Straftat auch unterlassen können? Dabei ist die philosophische Frage, ob er sich bei hundertfacher Wiederholung unter identischen Bedingungen manchmal anders entscheiden würde, vollkommen irrelevant, weil es diese Möglichkeit nicht gibt. Nichts auf der Welt kann identisch ein zweites Mal wiederholt werden, auch das ist also ein irrelevantes philosophisches Scheinproblem.

Es ist also nicht die Willens- sondern die Handlungsfreiheit von Bedeutung. Und dabei ist es auch egal, dass sich ein notorischer Krimineller immer wieder für eine bestimmte Tat entscheiden würde, wichtig ist, dass sich andere Menschen unter ähnlichen Umständen anders verhalten würden und das dem Betreffenden die Unzulässigkeit seines Handelns zumindest vage bewusst sein sollte. Bei einer solchen Abwägung werden ja krankhafte Geisteszustände (dann war er tatsächlich nicht frei in seinen Handlungen) bereits berücksichtigt.

Die logische Schlussfolgerung für die Neurowissenschaften ist also, derart müßige Spekulationen über den (zudem ziemlich unglücklich gewählten) Begriff der Willensfreiheit zu unterlassen und zunächst weiteres Wissen über die neuronalen Korrelate des Bewusstseins zu sammeln. Die Frage, in welchem Verhältnis materielle Prozesse und phänomenales Erleben stehen, kann man dafür getrost offen lassen. Trifft meine These von der Emergenz des Bewusstseins zu, kann diese Frage eh niemals abschließend beantwortet werden.

/1/ Benjamin Libet: "Mind Time"
/2/ Susan Blackmore: "Gespräche über Bewusstsein"
/3/ Michael Pauen: "Illusion Freiheit?"
/4/ Geert Keil: "Willensfreiheit"

Kategorie: Gehirn & Geist
tom-ate - 24. August, 12:12

Gute Übersicht zum Thema Freier Wille!

Durch Introspektion kann man ja zum Ergebnis gelangen, dass alle Willensäusserungen letztlich von Vorbedingungen abhängen und somit in einem radikalen Sinne gar nie frei sein können.

Auch die Evolutionstherorie setzt der Willensfreiheit grenzen. Individuen die so frei sind, sich nicht optimal anpassen zu wollen, haben Fitnessnachteile. Individuen, welche Entscheidungen zu treffen haben, tun dies also mit Vorteil "angepasst" an die Umwelt.

Die Fortschritte der Neurowissenschaften sind allerdings enorm. Doch das Leib-Seele-Problem scheint dadurch kaum lösbar. Die beschriebenen Hirnfunktionen beim Ballspiel sind – semiotisch betrachtet nur auf Syntax-Ebene beschreibbar. Die Verwandlung von syntaktischer Information in Semantik (bzw. in Bedeutung: also nicht messbare rote Lichtpunkte, sondern roter Ball) bzw. in bewusstes Erleben bleibt wohl ein Rätsel. Bewusstsein und Informationsverarbeitung im Hirn sind letztlich wie zwei Welten, die aber effektiv nur eine sein können... Insofern eine unlösbare Frage?

Köppnick - 24. August, 19:04

Es kommt darauf an, was man als Lösung akzeptieren würde und was nicht. Für mich ist die "Wittgensteinsche" Lösung eine: Der Begriff der Willensfreiheit, angewendet auf der Ebene der Zellen oder der Quanten, ist Sinn-los. Die dort angewendeten Modelle sind von einem ganz anderen Typ. Z.B. gibt es in der Physik eben nur Masse, Ladung und Kraft, aber nicht Willen.

Es ist doch exakt die Situation des Chinesischen Zimmers. Im Innern werkeln völlig determiniert die Nervenzellen, von außen betrachtet hat man den (durchaus richtigen) Eindruck von Willensfreiheit. Für mich ist das Bewusstseinsproblem (und damit auch das der Willensfreiheit) gelöst: Emergente Phänomene unglaublich komplexer Naturvorgänge.
Metepsilonema - 24. August, 22:04

Merci. Schöne Übersicht, in der Tat.

Wichtig für das Folgende ist, dass die Informationen der verschiedenen Sinneskanäle zu verschiedenen Zeitpunkten zur Verfügung stehen können, vom Bewusstsein aber zu einem raumzeitlich konsistenten Modell zusammengesetzt werden.

Warum soll das Bewusstsein etwas zusammensetzen, das es erst im Nachhinein - als eine Art Kurzzeitgedächtnis - wahrnehmen kann? Die Bewusstwerdung erfolgt doch notwendig nach der Zusammensetzung, und kann davon unabhängig (oder zumindest graduell verschieden) sein.

Zu Libet: Muss die Bewusstwerdung der Entscheidung nicht nach ihrem Beschluss erfolgen? - je mehr ich darüber nachdenke, desto tiefer gerate ich in einen Strudel aus dem nicht wieder herauskomme, und beim Homunkulos ende.
Man könnte Handlungs- oder Willensfreiheit retten in dem man Freiheit im Abbruch von begonnenen neuronalen Prozessen zu verstehen versucht bzw. in vorausschauendem Handeln, das Situationen zu vermeiden versucht, in denen man weiß wie man reagieren wird.
Was mich ab Libet'schen Experiment wundert, ist die Genauigkeit, denn der Fehler der beim Ablesen der Uhr gemacht wird (Zeiger!) muss doch im Bereich der 250 ms liegen?

Reizt man eine Nervenzelle auf eine bestimmte Weise, dann wird sie sich, wenn sie sich zuvor in einem gleichen inneren Zustand befand, auch stets mit dem gleichen Ausgangssignal reagieren.

Ich kann mir nur schwer vorstellen, dass das stimmt bzw. tatsächlich so nachgewiesen wurde, vor allem wenn man Messungenauigkeiten u.ä. in Betracht zieht - weißt du da genaueres? Ich kann mir auch vorstellen, dass Quantenprozesse auf der Ebene von Neurotransmittern und Vesikeln eine Rolle spielen.

Der Schluss von zufälligen Prozessen auf Freiheit ist falsch (wie du weiter unten auch selbst schreibst), mir leuchtet daher nicht ein wie Quantenprozesse Handlungs- oder Willensfreiheit bedingen könnten.

Das Widersinnige ist, dass Freiheit ein Form von Kausalität impliziert, die die Freiheit wiederum unmöglich zu machen scheint.

Und Susan Blackmores Buch liegt noch immer ungelesen herum ...

Köppnick - 24. August, 22:31

Warum soll das Bewusstsein etwas zusammensetzen, das es erst im Nachhinein - als eine Art Kurzzeitgedächtnis - wahrnehmen kann? Die Bewusstwerdung erfolgt doch notwendig nach der Zusammensetzung, und kann davon unabhängig (oder zumindest graduell verschieden) sein.
Die gedanklichen Schwierigkeiten entstehen dadurch, dass man das Gegensatzpaar Bewusstes - Unbewusstes sieht. Tatsächlich hat man aber ein neuronales Netzwerk, bei dem uns bestimmte und besonders starke Signale bewusst werden. Die beiden Betrachtungsweisen sind gewissermaßen zwei Seiten derselben Medaille - das eine Mal aus der Dritte-Person-Perspektive sehen wir das Netzwerk, das andere Mal erleben wir es aus der Erste-Person-Perspektive. Es ist aber derselbe Naturvorgang.
Zu Libet: Muss die Bewusstwerdung der Entscheidung nicht nach ihrem Beschluss erfolgen? - je mehr ich darüber nachdenke, desto tiefer gerate ich in einen Strudel aus dem nicht wieder herauskomme, und beim Homunkulos ende.
Man könnte Handlungs- oder Willensfreiheit retten in dem man Freiheit im Abbruch von begonnenen neuronalen Prozessen zu verstehen versucht bzw. in vorausschauendem Handeln, das Situationen zu vermeiden versucht, in denen man weiß wie man reagieren wird.
Das "Vetorecht", d.h. der bewusste Abbruch unbewusst begonnener Handlungen ist genau der Ansatz, mit dem schon Libet die Willensfreiheit "retten" wollte. Das ist aber meiner Meinung nach vollkommen unnötig, wenn man so wie ich davon ausgeht, dass Willensfreiheit ein Konzept ist, das erst auf der Ebene der Person einen Sinn hat und nicht auf neuronaler oder Quantenebene. Dann muss nichts gerettet werden, weil Neuronen weder frei noch unfrei sein können, sie transformieren einfach Eingangs- in Ausgangssignale.
Ich kann mir nur schwer vorstellen, dass das stimmt bzw. tatsächlich so nachgewiesen wurde, vor allem wenn man Messungenauigkeiten u.ä. in Betracht zieht - weißt du da genaueres? Ich kann mir auch vorstellen, dass Quantenprozesse auf der Ebene von Neurotransmittern und Vesikeln eine Rolle spielen.
Messungenauigkeiten von wem? Vom Neuron oder von dem, der das Neuron beobachtet? Aus der Sicht des Neurons ist es doch so, dass es, wenn es auf ein gleiches Einganssignal anders reagiert als vorher, sich in einem anderen inneren Zustand befunden haben muss. Es hat für uns keinen Sinn, zwischen dem "echten" Neuron und unserem Modell eines Neurons zu unterscheiden - und das Modell ist determiniert. Die zufälligen Quantenprozesse werden in diesem Modell als unterschiedliche innere Zustände des Neurons abgebildet - bzw. sie verschwinden als winzige Rauschquelle hinter den Signalen und chemischen Botenstoffe, mit denen die Zelle konfrontiert ist.

Worauf es mir ankommt: An der Frage der Willensfreiheit ändert sich nicht ein Jota, ob man ein determiniertes oder stochastisches Modell hinterlegt, weil Willensfreiheit kein neuronales oder quantenphysikalisches Problem ist, sondern vielmehr ein gesellschaftliches Konstrukt und philosophisches Problem.
Metepsilonema - 25. August, 23:57

Vielleicht sind es tatsächlich gedankliche Schwierigkeiten, aber ich kann mir Bewusstwerdung nur vorstellen, als einen Prozess, der von einem anderen abgegriffen wird, also im Nachhinein: Bewusstsein als Gedächtnisinhalt, der der Verarbeitung im neuronalen Netzwerk zugeführt wird.

Wenn ich annehme, dass mein Modellneuron determiniert reagiert, also immer mit dem selben Output, auf denselben Input, dann muss sich das aus Messungen ergeben haben. Ich kann mir nur nicht vorstellen, dass sich das zu 100% so verhält, a) weil es immer Messfehler und experimentelle Unwägbarkeiten gibt, und b) weil sicher nicht immer exakt die gleiche Zahl an Vesikeln ausgesschüttet werden, oder Neurotransmitter in ihnen vorhanden ist. Ich kann annehmen, dass das System zu 100% determiniert ist, ich zweifle aber, dass man das tatsächlich zeigen kann.

Mich lässt Deine Lösung des Problems ein wenig unbefriedigt zurück, denn es klingt - auch wenn Du es nicht so meinst -, ein wenig nach einem Verschieben des Problems in einen Graubereich der (noch?) unzugänglich ist (von einem Computer, der ein weitgehend determiniert arbeitendes System ist, und aus ebensolchen Bauteilen besteht, würden wir das nicht erwarten [sicher, er ist nicht annähernd so komplex wie unser Gehirn]).
Gregor Keuschnig - 25. August, 09:55

Und die bereits erwähnte Argumentation von Gerhard Roth und Wolf Singer bezüglich der strafrechtlichen Relevanz der Willensfreiheit wird schon dadurch gegenstandslos, dass man sich klar macht, dass es juristisch nicht auf den Willen sondern auf die Handlungen eines Menschen ankommt.
Das ist nicht ganz richtig. Wenn ein Mensch beispielsweise einen anderen tötet, wird nicht nur die Handlung selber für die gerichtliche Beurteilung der Tat herangezogen, sondern auch die Intention: Geschah die Tat vorsätzlich und evtl. von langer Hand geplant spricht man von Mord. Oder geschah sie im Affekt oder gar als Unfall - dann kann von Totschlag oder Körperverletzung mit Todesfolge die Rede sein.

Zugespitzt formuliert: Wenn ich mit meinen Handlungen - wie dies populärwissenschaftlich aufbereitet suggeriert wurde - nur eine Marionette meiner neurophysikalischen Vorgänge bin (also de facto "willenlos" oder intentionslos), dann funktioniert der Sanktionsmechanismus nicht mehr. Standen mir letztlich keine Optionen zur Verfügung, entfällt die Schuldfähigkeit. Die Gesetzesübertretung muss zwar trotzdem sanktioniert werden (aus gruppendynamischen Erwägungen heraus), die Kategorie der "Schuld" wäre jedoch obsolet.

ostfriese - 25. August, 16:32

Dank auch von mir,

für dieses prägnante und durchdachte Kompendium.

Ich stimme Dir zu, dass 'Willensfreiheit' als Bestandteil unseres Subjekt-Modells ein nicht wegzudiskutierendes emergentes Phänomen ist, das bei komplexen neuronalen Netzen unter den Bedingungen der natürlichen Evolution aufgetreten ist.

Ebenfalls richtig ist, dass sich die Frage, ob wir als Individuen über einen freien Willen verfügen, nicht auf der Ebene von Neuronen oder gar Quanten entscheidet, sondern daran, ob wir unseren Willen wollen können oder uns lediglich unseres -- von unbewussten Prozessen konstruierten -- Willens bewusst werden. Dies ist aber nicht bloß ein semantisches Problem.

Es ist keineswegs sinnlos zu fragen, ob ein -- wie auch immer expliziertes -- Konstrukt (vgl. z.B. Pauen) die Wirklichkeit zutreffend modelliert. Im Gegensatz zum Positivisten würde ein hypothetischer Realist an dieser Stelle in ähnlicher Weise eine Inkongruenz zwischen Modell und Wirklichkeit feststellen wie etwa bei Sinnestäuschungen, out-of-body-experiences etc., mit anderen Worten: 'Willensfreiheit', so wie die meisten Menschen sie auffassen (nämlich aus der Innenperspektive erleben), ist eine Illusion.

Naturalisten legen sich damit selbst die Last auf, diese Fehlleistung bei der mentalen Wirklichkeitsrekonstruktion plausibel zu erklären. Und das können sie: Die Vorstellung autonomer Urheber hilft uns, das Verhalten von verwandten Tieren, vor allem Artgenossen, effektiver zu interpretieren und zuverlässiger zu prognostizieren. Unser Selbstmodell evolvierte als Nebenprodukt, weil unser Gehirn damit erfolgreich simulieren konnte, wie beobachtetes Verhalten entsteht.

Anschließen möchte ich mich Gregors Einwand. Handlungsfreiheit genügt, um einem Individuum Verantwortung zuzuschreiben und es die Kosten für seine Handlungen tragen zu lassen. Der Begriff 'Schuld' verliert jedoch seine Bedeutung, denn er maß sich bisher nicht daran, ob eine andere Person in der gleichen Situation anders gehandelt hätte, sondern ob die Person selbst zum Tatzeitpunkt anders hätte handeln können. Verminderte vs. volle 'Schuldfähigkeit' stellen auf den Bewusstseinsgrad ab, unter dem eine Handlung erfolgte; dieser Nexus ergibt aber nur dann einen Sinn, wenn Bewusstheit etwas mit Freiheit zu tun hat. Und ich würde als Humanist davor warnen, diesen Zusammenhang herbei zu definieren.
Köppnick - 25. August, 19:05

@Gregor
Vor dem Richter wird in der Tat zusätzlich differenziert (und unterschiedlich gewichtet) bei der Vorbereitung einer Straftat, einer fahrlässigen oder vorsätzlichen Ausführung. Aber die Feststellung dieser Tatbestände erfolgt doch stets anhand von Handlungen, weil etwas anderes dem Gericht nicht zugänglich ist. Über die Gedanken der Straftäter weiß das Gericht nichts, auch die Berücksichtigung von Reue setzt Taten voraus - nämlich die Handlung des Betreffenden, Reue zu zeigen.

@Ostfriese
Der naturalistische Ansatz, Willensfreiheit durch die Beobachtung *anderer* zu erklären, überzeugt mich nicht. Denn das funktioniert ja nur, weil man mit sich selbst vergleicht, folglich geht hier die Erkenntnis der eigenen Intentionalität *voraus*, sie folgt nicht, man schließt von sich auf andere. Deshalb ist für mich nicht klar, warum ich hier von einer Illusion sprechen sollte, anstelle die Tatsache meiner *Handlungs*freiheit als gegeben anzunehmen.
Gregor Keuschnig - 25. August, 19:45

@Köppnick

Natürlich weiß das Gericht über die Gedanken der Straftäter nichts. Dennoch muß in diesem Sinne ermittelt werden (um ihn entweder zu be- oder auch zu entlasten). Die Gedanken sollen aufgrund der Handlungen der Person hervorscheinen. Sie sind nicht voneinander zu trennen. Sie sind essentiell für die Beurteilung der Strafzuweisung.

Interessant ist, dass Du die Reue ins Spiel bringst. Bei früheren Diskussionen (um die Vorab-Freilassung von ehemaligen Terroristen beispielsweise) wurde Reue noch allgemein als Instrumentarium bspw. der Begnadigung abgelehnt. Sie galt damals bei den Verfechtern der Begnadigung als nicht notwendig (was formaljuristisch stimmt).

Ich halte Reue in dem von Dir genannten Zusammenhang für falsch; ich würde eher von Geständnisbereitschaft sprechen. Wobei ich bei der Perspektive 15 Jahre (Mord) oder vielleicht nur 5 Jahre (Totschlag) fast alles erzählen würde, um die 5 Jahre zu bekommen. (Aber diese Diskussion führt von Deinem Thema ab.)
tom-ate - 25. August, 21:58

"Die gedanklichen Schwierigkeiten entstehen dadurch, dass man das Gegensatzpaar Bewusstes - Unbewusstes sieht. Tatsächlich hat man aber ein neuronales Netzwerk, bei dem uns bestimmte und besonders starke Signale bewusst werden. Die beiden Betrachtungsweisen sind gewissermaßen zwei Seiten derselben Medaille - das eine Mal aus der Dritte-Person-Perspektive sehen wir das Netzwerk, das andere Mal erleben wir es aus der Erste-Person-Perspektive. Es ist aber derselbe Naturvorgang."

Das ist wohl objektiv so. Und doch sind es wie zwei völlig verschiedene Welten: Subjektives Erleben und neuronale Informationsverarbeitung. Kaum zwei Merkmale dieser Welt sind verschiedener als diese. Man kann immer wieder drauf hämmern und sagen, es sei das Gleiche, nur zwei Seiten einer Medaille. Doch begreifen, nachempfinden kann man es nicht.

Ich würde auch nicht von Handlungsfreiheit sprechen, eher von einem Handlungsspielraum, der uns möglicherweise doch gegeben ist.
Metepsilonema - 26. August, 00:12

@Ostfriese

Ebenfalls richtig ist, dass sich die Frage, ob wir als Individuen über einen freien Willen verfügen, nicht auf der Ebene von Neuronen oder gar Quanten entscheidet, sondern daran, ob wir unseren Willen wollen können oder uns lediglich unseres -- von unbewussten Prozessen konstruierten -- Willens bewusst werden. Dies ist aber nicht bloß ein semantisches Problem.

In letzterem Fall könnte eine rudimentäre Freiheit bedeuten unseren unbewusst konstituierten, bewusst gewordenen Willen verneinen zu können - es geht also immer auch um's Nichtwollen können.

Im Gegensatz zum Positivisten würde ein hypothetischer Realist an dieser Stelle in ähnlicher Weise eine Inkongruenz zwischen Modell und Wirklichkeit feststellen wie etwa bei Sinnestäuschungen, out-of-body-experiences etc., mit anderen Worten: 'Willensfreiheit', so wie die meisten Menschen sie auffassen (nämlich aus der Innenperspektive erleben), ist eine Illusion.

D.h. schlicht und ergreifend ein falsches Konzept?

Die autonome Urheberschaft ist vielleicht einfach automatisch entstanden, weil sich Bewusstsein zu einer immer höheren Stufe hin entwickelt hat; wenn man sich in einem immer stärkeren Gegensatz zu seiner Umgebung, als "Entität", wahrnimmt, dann ist die autonome Urheberschaft einfach nahe liegend.
ostfriese - 26. August, 01:59

@Köppnick, @Metepsilonema

Der naturalistische Ansatz, Willensfreiheit durch die Beobachtung *anderer* zu erklären, überzeugt mich nicht. Denn das funktioniert ja nur, weil man mit sich selbst vergleicht, folglich geht hier die Erkenntnis der eigenen Intentionalität *voraus*, (...) man schließt von sich auf andere.
Hab ich etwas anderes behauptet? Nicht, dass ich wüsste. Aber ich muss Deinen ersten Satz korrigieren: Kein Naturalist möchte etwas erklären, das es gar nicht gibt. Es geht vielmehr um die Frage, warum eine epistemische Fehlleistung evolutionär so erfolgreich sein konnte: Durch die mentale Konstruktion eines autonomen Subjekts verfügen wir über ein Simulationsprogramm, das uns bei Verhaltens-Interpretation und -Prognose brauchbare Resultate auswirft. Das Urheber-Modell 'funktioniert' also in den meisten Fällen hinreichend gut, aber wir wissen aus Versuchen mit Splitbrain-Patienten (much more crucial than Libet!), dass es spektakulär neben der Realität liegen kann, ohne sich auch nur eine Spur falscher anzufühlen: Der Proband ist sich linkshemisphärisch seiner Handlungsurheberschaft völlig sicher, obwohl der Tester ihn rechtshemisphärisch eindeutig manipuliert hat. Im Lichte dieser Experimente ist der Begriff 'Illusion' in Bezug auf 'Willensfreiheit' m.E. unausweichlich.
Die autonome Urheberschaft ist vielleicht einfach automatisch entstanden, weil sich Bewusstsein zu einer immer höheren Stufe hin entwickelt hat; wenn man sich in einem immer stärkeren Gegensatz zu seiner Umgebung, als "Entität", wahrnimmt, dann ist die autonome Urheberschaft einfach nahe liegend.
Dieses einfache Modell funktioniert jedenfalls besser als gar keines. Und es liegt in der Natur der Sache, dass ein hoch-komplexes System sehr schwer adäquat zu rekonstruieren ist -- zumal von sich selbst...
Köppnick - 26. August, 08:10

@Ostfriese
Ich habe auf dem Weg zur Arbeit nachgedacht, das Argument mit den Fehlleistungen ist natürlich gewichtig: Optische Täuschungen, Drogen, elektromagnetische Stimulierung.

Du erinnerst dich sicher an die Person in Matrix, die, vor die Alternative gestellt, sich dafür entscheidet, zurück in den Tank zu gehen und dort ein glückliches Leben zu führen. Meine Bekanntschaft ist in dieser Frage zwar gespalten, aber man kann diese Haltung wenigstens nachvollziehen. Warum?

Die Erste-Person-Perspektive umfasst strenggenommen immer nur den aktuellen Augenblick, in unseren Erinnerungen bzw. unserer Zukunftsvorausschau tritt bereits die Dritte-Person-Perspektive zutage. Meine Meinung: Wenn sich eine Person in der Erste-Person-Perspektive frei fühlt, dann ist sie frei. Und dieser Zustand ist ident (Identitätstheorie) mit dem Zustand ihres neuralen Netzwerkes. Es ist dabei unerheblich, wie dieses in diesen Zustand versetzt wurde, weil "richtige" und "falsche" Anregungen beide physikalisch möglich sind (wie auch sonst?).

Es sieht für mich so aus, als ob diejenigen, die Willensfreiheit für gegeben halten, eine andere Trennung zwischen der Ersten- und der Dritten-Person-Perspektive vornehmen als die "Illusionisten". Wenn Bewusstsein immer den aktuellen Augenblick umfasst, dann heißt frei fühlen frei sein, weil es keinen anderen Bezugspunkt gibt.
steppenhund - 26. August, 02:23

Das Frage nach dem freien Willen halte ich schlicht für eine Unfrage. IMHO reihen sich die Betrachtungen über den freien Willen zu den Fragenbeantwortungen zu, auf grund deren keine wirklichen Entscheidungen oder Änderungen in der Verhaltensweise ableitbar sind.
Ich frage mich aber, wie die einzelnen Theorien mit folgender Verhaltensweise umgehen:
Ich habe eine Entscheidung zu treffen. Ich treffe folgende Entscheidung: die Auswahl aus A oder B erlange ich durch einen Münzwurf oder ein anderes stochastisches Schema.
Wenn ich mich einer extern vorgegebenen zufällig bestimmten Entscheidung überantworte, habe ich zwar eine Entscheidung getroffen, die von neuralen Eindrücken oder anderen Vorgegebenheiten abhängt. Ich habe mich aber entschieden, mich in Wirklichkeit nicht zu entscheiden.Die Auseinandersetzung mit dem Thema mag wertvoll sein, die Ableitung ist es für mich nicht. Es beeinflusst mein Leben und meine Anschauung nicht.
-
Ich könnte auch anders argumentieren und behaupten, dass meine derzeitigen Entscheidungen nicht frei sind, weil ich in den vergangenen Jahren immer wieder zu den gleichen Lernprozessen hin tendiert habe. Und irgendwann entschließe ich mich, partout das nicht Naheliegende zu machen. Wann das ist, ist die Frage. Voll determiniert, hängt es von Umwelteinflüssen ab. Es könnte auch von jemanden anderem abhängen, der aber nicht weiß, ob er mich zum Mitmachen oder zum Widerspruch reizt.
-
In der Mathematik gibt es eine Reihe von Beweisen, die auf der Grundlage beruhen, dass eine rechentechnische Beweisführung zwar konvergieren könnte, die Zeit für die Berechnung aber out of bounds gerät. Damit wird in der Regel ein Widerspruch abgeleitet. Zumindest kann man nichts beweisen. Mir kommt die Frage nach dem freien Willen ähnlich vor. Für jede Ebene, auf der man sich zu einer Aussage bekannt habe, gibt es eine Metaebene, welche die Aussage umkehrt.
-
Ich bin sehr gespannt, ob man zu meiner Lebenszeit noch meinen Ausführungen widersprechen kann:)

tom-ate - 26. August, 07:33

"Es geht vielmehr um die Frage, warum eine epistemische Fehlleistung evolutionär so erfolgreich sein konnte: Durch die mentale Konstruktion eines autonomen Subjekts verfügen wir über ein Simulationsprogramm, das uns bei Verhaltens-Interpretation und -Prognose brauchbare Resultate auswirft."

Gut so. Bleibt die Frage, wie Bewusstsein wirklich entsteht. Neuronale Netzwerke verrechnen Information. Auf syntaktischer Ebene ist das nachvollziehbar. Die resultierende Entropie kann man berechnen. Und der Rest? Wie komm' ich von dieser Seite der Medaille auf die andere?

Bewusstsein ist ein Simulationsprogramm. Immer wird postuliert, diese Entwicklung sei evolutionär von Vorteil. Möglicherweise ist Bewusstsein auf menschlicher Stufe aber nur ein Epiphänomen der Evolution? Die Nachteile des Bewusstseins liegen doch auf der Hand: z.B. hat Selbst-Bewusstsein schon manchen in den Suizid getrieben. Vielleicht ist Suizid ein Beweis für die Existenz eines kleinen Reservats namens "freier Wille"...
steppenhund - 26. August, 08:19

Das erinnert mich jetzt sehr an die Vertikalspannungen bei Sloterdijk.
Und der Mensch als einziges Wesen, dass über seinen Tod kontempliert. Eine vielleicht gar nicht so angenehme Folgerung des Bewusstseins.
ostfriese - 26. August, 15:53

Kein Epiphänomen

Wäre die Subjektperspektive bloß ein Epiphänomen, dann unterläge ein materiell identisches System ohne Innenaspekt in einer monistischen Welt den gleichen Evolutionsbedingungen. Folglich wäre das Fortbestehen dieser emergenten Eigenschaft nicht mehr über ihren evolutiven Vorteil erklärbar. Wer Monist bleiben möchte und die Evolutionstheorie als Erklärung paläoanthropologischer Befunde akzeptiert, landet zwingend bei der Identitätstheorie -- ungeachtet der Tatsache, dass der Reduktionismus sich an den Qualia die Zähne ausbeißt. Hiermit wird nämlich nur eine Beschränkung unserer ('objektiven') Beschreibungen und damit unserer Erkenntnisfähigkeit markiert. Dass wir die Qualitäten des inneren Erlebens nicht auf neuronale oder molekulare Prozesse reduzieren können, bedeutet nicht, dass Subjekte einer anderen Welt angehören oder realen Systemen irgendwie 'aufsitzen'. Bei hinreichend komplexen neuronalen Netzen kann die Fähigkeit emergieren, 'Selbstbewusstsein' zu konstruieren. That's it.
Köppnick - 26. August, 19:00

@Ostfriese
Zur Identitätstheorie möchte ich noch anfügen, dass sie das Problem nicht hat zu erklären, wie mentale Vorgänge in der "physikalischen Welt" kausal wirksam sein können - es ist schlicht derselbe Vorgang, der mit unterschiedlichen Modellen beschrieben wird, einmal als neuronaler Vorgang, einmal auf der Ebene des Bewusstseins.

Dein Argument gegen den Epiphänomenalismus führt ihn aber nicht ad absurdum, denn Evolution müsste dieses zusätzliche und zufällige Merkmal ja nur beseitigen, wenn es schädlich wäre. Inneres Erleben könnte durchaus ein Nebenprodukt einer anderen Optimierung sein, deren Vorhandensein und Nutzen uns bisher entgangen ist.
tom-ate - 26. August, 19:16

@ostfriese:
"Die Beschränkung ... unserer Erkenntnisfähigkeit" hinsichtlich der Beschreibung der postulierten Identität von Hirnprozessen und Bewusstsein ist ein nicht unerhebliches Detail. Auch wenn die monistische Sichtweise die plausibelste ist und logisch erscheint, bleibt ein Makel (oder Rätsel, je nach Gusto).

Emergenz ist das Zauberwort, welches diesen Makel umhüllt aber nicht beseitigt.

Insofern bekenne ich, eine biochemische, determinierte und zugleich lernfähige Maschine zu sein, die sich dennoch als Subjekt erlaubt, sich existenziellen Fragen nicht nur wissenschaftlich sondern auch spirituell zu nähern.
Köppnick - 26. August, 20:53

@tom-ate
Emergenz - vielleicht nimmt das folgende Beispiel diesem Begriff etwas von seinem Mysterium:
Honigbienen sammeln auf Blüten den Nektar, aus dem durch Verdauungsenzyme und Verdunstung der Honig in den Waben des Bienenstocks wird. Der Honig ist für die Arbeiterinnen der wichtigste Kohlenhydratlieferant und wird zusammen mit Pollen auch an die Larven verfüttert. ... Eine einzelne Sammlerin saugt den Blütennektar mit ihrem Rüssel ein, kehrt damit zum Bau zurück und übergibt die Ladung an eine jüngere Arbeiterin, deren Aufgabe es ist, den Nektar in einer leeren Wabe zu verstauen. Die Wahrscheinlichkeit, daß eine einzelne Sammlerin anschließend erneut auf Nektarsuche geht, hängt davon ab, wie lange sie auf das »Entladen« des zuvor zum Stock gebrachten Nektars warten muß.
...
Wenn eine Sammlerin mit ihrer Fracht im Bienenstock landet, muß eine andere Arbeiterin ihr den Nektar abnehmen und in einer leeren Wabe einlagern. Anschließend kehrt die »Lagerarbeiterin« zur nächsten Sammlerin zurück, die auf das Entladen wartet. Sind in dem Bienenstock bereits viele Waben gefüllt, dauert es länger, bis die Lagerarbeiterin eine leere Zelle gefunden hat und den Nektar der ersten Sammlerin dort verstauen kann; bei vielen leeren Zellen geht es entsprechend schneller. Die Wartezeit einer Sammlerin vor dem Entladen ist also ein Maß für die bereits gelagerte Nektarmenge und damit ein Signal für die Fortsetzung oder das Ende der Sammeltätigkeit.
Das Wesen der Emergenz ist nicht die prinzipielle Unerklärbarkeit, sondern nur, dass die aktuelle Beschreibungsebene ungeeignet ist. In dem Zitat ist das wie folgt zu deuten: Aus der Physiologie einer Biene kann man nicht erkennen, dass sich in einem Bienenstock ein mittlerer Füllstand der Waben einstellt.

Probleme bekommen nur Reduktionisten, die eisern darauf bestehen, alles auf die Physik rückführen zu wollen. Das Beispiel stammt von hier.
ostfriese - 27. August, 08:58

@Köppnick

Du hast völlig recht, und ich habe den Epiphänomenalismus auch nicht für widerlegt erklärt. Allerdings kenne ich niemanden, der ernsthaft behaupten möchte, dass unser Selbstbewusstsein nur als Nebenprodukt anderer nützlicher Eigenschaften (welcher?) ko-evolviert ist. So gut wie jeder geht doch wohl davon aus, dass es entscheidende Überlebensvorteile bringt. Und in dem Fall sticht die Identitätstheorie gegen den Epiphänomenalismus. Mehr wollte ich nicht gesagt haben. Und hab ich auch nicht ;-)
tom-ate - 27. August, 18:58

@Köppnick

Staatenbildende Insekten sind gute Beispiele für Emergenz. Und vielen Dank für die Literaturempfehlung!

Sobald ich etwas mehr Zeit habe, möchte ich einen eigenen Beitrag zum Thema Emergenz schreiben.
Köppnick - 27. August, 21:02

@tom-ate
Es ist nur ein schmales Büchlein, nicht mal A5 und nur ca. 150 Seiten. Zu Beginn liest es sich auch etwas zäh, wohl vor allem weil die Autorin einen ganz anderen Hintergrund als alle anderen hat, die sich an der Emergenz abarbeiten. Aber letztlich hat sie einige interessante Gedanken zu bieten, deren Sinn sich mir erst erst später erschlossen hat, unter anderem durch Alex Vilenkin und Lee Smolin: Die Möglichkeit, dass auch die physikalischen Gesetze einer Evolution unterliegen könnten.

Trackback URL:
http://kwakuananse.twoday.net/stories/5892821/modTrackback

Kommentare hier ...

Bitte mehr davon? Aus...
Bitte mehr davon? Aus meiner Sicht auf keinen Fall,...
Köppnick - 25. Dezember, 16:53
bitte mehr davon
Nimmersatt (Gast) - 25. Dezember, 15:33
lach.... ich bin im stern...
lach.... ich bin im stern *
rosmarin - 3. Dezember, 18:48
Oje, das mit der Halswirbelsäule...
Oje, das mit der Halswirbelsäule ist an mir vorbeigegangen. Das...
steppenhund - 2. Dezember, 11:07
Denk an meine Halswirbelsäule...
Denk an meine Halswirbelsäule und meinen schmerzenden...
Köppnick - 30. November, 22:22
Nanu, gar ken Kommentar?...
Nanu, gar ken Kommentar? :)))
steppenhund - 30. November, 20:45
Fachwörter und deren...
Die Autorin präferiert eine sehr restringierte...
Count Lecrin - 30. November, 19:53
passend zu diesen erkenntnissen:
mit 3 freust du dich, wenn du keine windeln brauchst. mit...
la-mamma - 30. November, 19:43
Ich möchte Ihnen...
Ich möchte Ihnen gehörig Respekt zollen,...
Count Lecrin - 30. November, 19:34
Mail geschickt.)
Mail geschickt.)
steppenhund - 28. November, 16:28
Nein, wir haben uns noch...
Nein, wir haben uns noch nicht bemailt. Meine Adresse...
Köppnick - 28. November, 15:46
Ich bilde mir ein, dass...
Ich bilde mir ein, dass wir schon Email-Kontakt hatten....
steppenhund - 28. November, 15:02