Menschliche und künstliche Intelligenz im Vergleich. Über simulierte Subjektivität, digitalen Animismus – und darüber, warum Menschen einfach nicht funktionieren 

Bericht zum Vortrag von Prof. Dr. Thomas Fuchs beim KI-Symposium des Heidelberger KFG | Text von Dennis Dietz, Lia Oberhauser und Louisa Mosmann (Heidelberg School of Education) 

Wenn der Computer redet wie ein Mensch, wenn er versteht und reagiert wie Mensch, wenn er ‚funktioniert‘ wie ein Mensch – ist er dann ein Mensch?  
Oder wenigstens: halten wir ihn dann für einen?  

Aus der Doppelperspektive von Medizin und Philosophie blickte Thomas Fuchs in seinem Vortrag auf das Verhältnis von menschlicher und künstlicher Intelligenz. Dabei wurde schnell deutlich, dass mit den technischen Fortschritten im Bereich künstlicher Intelligenz für Schule und Bildung neben den formalen, technischen und didaktischen Fragen auch tiefgreifende Herausforderungen unseres Menschenbildes verbunden sind. Wie verändern sich unsere Konzepte von Wahrnehmung, Bewusstsein und Subjektivität angesichts der neuen Technologien? Welche Reflexionsaufgaben bedeutet das für Pädagogik und schulische Lehrkräfte?  

„Eine Milliarde Mal klüger“ – und trotzdem zum Verwechseln ähnlich 

Die Machine-Learning-Systeme übertreffen in bestimmten Bereichen die Fähigkeiten menschlicher Intelligenz bereits deutlich. Im Schach, im Go und bei anderen komplexen Spielen haben Menschen gegen sie keine Chance mehr. Prognosen, Datenanalysen, ja selbst kommunikative Interaktionen werden uns zunehmend abgenommen. Eindrucksvoll zitierte Thomas Fuchs prominente KI-Ingenieure und Transhumanisten, die sich in ihren Ankündigungen geradezu überbieten. Mal ist von der „Tatsache“ die Rede, „dass KI den Menschen übertreffen, ja Milliarden Mal klüger werden könnte als jetzige Menschen“ (Ian Pearson, 2018). An anderer Stelle wird die „digitale Unsterblichkeit“ durch mind uploading in Aussicht gestellt, also durch eine Kopie aller Daten des Gehirns auf ein künstliches, neuronales System.  

Angesichts solcher Maximalprognosen setzt Thomas Fuchs nun erste Fragezeichen hinter die hier begegnenden impliziten Konzepte von Menschsein, Verstand oder Erfahrung. Dabei machte er auch deutlich, dass die maschinellen und funktionalistischen Vorstellungen vom Menschsein, die in diesen Prognosen zum Ausdruck kommen, konzeptionell wieder auf unser Selbstverständnis zurückwirken: Wir betrachten und interpretieren uns selbst immer mehr wie Maschinen, und umgekehrt schreiben wir unsere Maschinen immer mehr menschliche Eigenschaften zu. Die fantastische Überbietungsrhetorik technologischer Zukunftsszenarien ist daher in interessanter Weise von Vorstellungen einer Identifizierung von Mensch und Maschine begleitet. Die Unterscheidung zwischen der lebendigen Erfahrung der menschlichen Person und der technischen Simulation dieser Erfahrung werde zunehmend unscharf. 

Subjektivität und ihre Simulation 

Dass Menschen in unbelebten Abbildern ihrer selbst ein Gegenüber sehen, sei kein neues Phänomen. Thomas Fuchs führte eine Reihe eindrücklicher Beispiele aus der Wissenschafts- und Kunstgeschichte an. Diese zeigen, dass der Gedanke, künstliche Systeme könnten als reale, quasi-menschliche Gegenüber fungieren, bis in die Antike zurückreicht. In der jüngeren Vergangenheit erhält diese Idee schließlich eine zunehmend technologische Zuspitzung, wobei das Kriterium der „Ununterscheidbarkeit“ bestimmter Verhaltensweisen und Interaktionsprozesse große Bedeutung erlangt. Als zentralen Referenzpunkt weist Thomas Fuchs dabei den nach dem gleichnamigen Mathematiker benannten Turing-Test aus. Die diesem zugrunde liegende Idee sei bis heute prägend: ist der Unterschied von simulierter und menschlicher Intelligenz nicht mehr wahrnehmbar, dann ist die Simulation intelligent.  

Diese Vorstellung deckt sich mit aktuellen Erfahrungen vieler Menschen mit der KI, die bei einer wahrgenommenen Ununterscheidbarkeit von menschlicher und künstlicher Intelligenz diese auch anthropomorph identifizieren. Dabei wird der Maschine häufig auch direkt ein Bewusstsein unterstellt oder zugeschrieben. Teilweise kommt es auch zu so etwas wie einer „projektiven Einfühlung“ von Menschen in die künstlichen Geschöpfe, was Fuchs anhand mehrere literarischer, filmischer aber auch realer Beispiele aus der medizinischen Praxis (etwa bei Therapie-Chatbots oder Pflege-Robotern) illustriert.  

Digitaler Animismus 

„Ich habe den Eindruck, dass er mich wertschätzt, auch wenn ich etwas tue, was er eigentlich nicht gutheißt“, so die Aussage eines Patienten nach der Therapiesitzung. Allerdings ist hier nicht von einem Therapeuten die Rede. Der Patient spricht über Woebot, einen KI-basierten digitalen Chatbot, der Patienten bei mentalen Problemen unterstützt. Eine Maschine also, von der der Patient weiß, dass es eine Maschine ist – und doch fühlt er zugleich Wertschätzung.  

Maschinen und künstlicher Intelligenz ein Bewusstsein und vielleicht sogar so etwas wie Einfühlungsvermögen zuzuschreiben, fasst Thomas Fuchs nun unter dem Begriff des Digitalen Animismus. Bei hinreichender Ununterscheidbarkeit von Simulation und Subjektivität kommt es vor, dass Nutzer die Maschine in gewisser Weise „vermenschlichen“ und ihr also Bewusstsein, Empathie und sogar etwas wie eine Seele zusprechen, trotz des Wissens um die Nicht-Menschlichkeit der technischen Simulation. 

Im Hintergrund dieser Vermenschlichung der Maschine stehe nach Fuchs ein mittlerweile tief eingeschriebenes funktionalistisches Verständnis von Interaktion. Danach bestehen „mentale Zustände (also Gefühle, Wahrnehmungen, Gedanken, Überzeugungen usw.) in regelhaften Verknüpfungen von Input und Output. Wer sich zum Beispiel in den Finger sticht, hat einen mentalen Zustand, der zu einer verzerrten Gesichtsmuskulatur, zu Stöhnen und zum Zurückziehen des Fingers führt. ‚Schmerz‘ ist dann nichts anderes als der Gehirnzustand, der den genannten Output zur Folge hat.“ (Zitat Thomas Fuchs) 

Personen sind keine Programme, Programm sind keine Personen 

Dieser gängigen Vorstellung gegenüber machte Thomas Fuchs schließlich deutlich, dass darin ein entscheidendes Merkmal von Schmerzen, Gefühlen oder Gedanken verloren gehe, nämlich ihr Erlebtwerden. Bewusstsein sei nun eben gerade nicht ein Durchlaufen von Datenströmen, sondern ein Durchleben, Spüren oder Fühlen. 

Entsprechend komme für ein komplexes Verständnis von Bewusstsein dem menschlichen Körper eine entscheidende Bedeutung zu. Der Mensch ist nicht nur Kognition, sondern auch das Erfahrungsganze eines lebendigen Körpers. Bewusstsein entstehe, so Fuchs weiter, nicht nur im Gehirn, sondern resultiere aus vitalen Prozessen, die den ganzen Körper umfassen. Die Aufrechterhaltung der Lebensfähigkeit des Organismus sei „die primäre Funktion des Bewusstseins, wie es sich in Hunger, Durst, Schmerz oder Lust manifestiert.“ (Thomas Fuchs) So entsteht das leibliche Selbsterleben, das Lebensgefühl, das allen höheren geistigen Funktionen zugrunde liegt.  

Thomas Fuchs pointierte schließlich in der Formel: Alles Erleben ist eine Form des Lebens. Ohne Leben gibt es kein Bewusstsein und auch kein Denken. Und diese lebendigen Prozesse ließen sich von elektronischen Systemen eben nicht simulieren. Personen seien Lebewesen, nicht Programme. Und umgekehrt seien Programme keine Personen. Für den Unterschied zwischen Mensch und Maschine lässt sich dann – gegen den Hintergrund des funktionalistischen Interaktionsverständnisses – sagen, dass Computer vor allem deshalb nicht wie Menschen funktionieren können, weil Menschen nun mal einfach nicht „funktionieren“. Die menschliche Person bildet eine leib-seelische Erfahrungseinheit, die durch eine simulierte Subjektivität bestenfalls in ihren verbalen Äußerungen imitiert werden kann. 

„Alles Erleben beruht auf Leben“ 

Ans Ende seines Vortrags stellt Thomas Fuchs ein Fazit, das die Voraussetzungen für das, was wir Bewusstsein nennen, nochmals in den Vordergrund stellt, nämlich das Erleben. Fuchs betont dazu abschließend:  

„Intelligenz im eigentlichen Sinne des Wortes, ist an Einsicht, Übersicht und Selbstbewusstsein gebunden: verstehen, was man tut. Und Voraussetzung für Bewusstsein wiederum ist nicht nur ein Gehirn, sondern ein lebendiger Organismus. Alles Erleben beruht auf Leben. Die entscheidende Herausforderung der ‚künstlichen Intelligenz‘ liegt dann in der Frage, die sie an uns und unser Selbstbild richtet: Erschöpft sich unser Menschsein in dem, was sich in Simulation und Technologie übersetzen lässt? Besteht es letztlich nur in komplexen neuronalen Algorithmen, und ist unser Erleben nur ein nutzloses Begleitphänomen? – Gerade weil die Technik unsere spezialisierten Fähigkeiten übersteigt, fordert sie uns dazu auf, wieder neu zu entdecken, worin unser Menschsein eigentlich besteht – nämlich nicht in Information oder Daten, sondern in einem lebendigen, fühlenden, verkörperten Geist.“  
(Thomas Fuchs) 

Diskussion 

Der Vortrag von Thomas Fuchs hat aus der Gruppe der Zuhörenden mehrere Fragen aufgeworfen. So wurde zunächst als Reaktion auf die Ausführungen zu modernen Therapie-Chatbots eine ambivalente Position formuliert: einerseits sei für Menschen, die real und täglich in der schulischen Sozialarbeit tätig sind, mit der Vorstellung einer digitalen und automatisierten Therapie ein großes Unbehagen verbunden. Andererseits sei schon länger der große Bedarf von Schülerinnen und Schülern nach Therapien bei weitem nicht mehr durch ein hinreichendes Angebot gedeckt. Automatisierte Therapie-Bots könnten da doch zumindest auf der Ebene erster Beratungen für Entlastung sorgen und stellen womöglich die bessere Option das, als gar kein Angebot machen zu können. Thomas Fuchs entgegnet dieser Bemerkung, dass die Unterstützung durch Therapie-Bots in der Gefahr stünde, eine nur scheinbare und schlimmstenfalls sogar destruktive Unterstützung sein. Jegliche Zuwendung und Aufmerksamkeit sei hier stets simulierte, nicht authentische und real einfühlende Interaktion – und als solche gerade nicht eine therapeutisch produktive. 

An diese Reaktion von Fuchs schloss sich die weitere Rückfrage aus dem Plenum an, ob aber doch nicht jede (oder zumindest viele) therapeutische und auch pädagogische Interaktion etwas „Simulierendes“ habe. So gehöre es zur Arbeit der Therapeutin wie des Lehrers doch stets auch, Interesse und Aufmerksamkeit, Wertschätzung und Zuwendung zu vermitteln, auch dann, wenn diese real nicht bestehen. Nicht jede pädagogische Interaktion ist auch durch aufrichtiges Interesse des Pädagogen gedeckt, sondern manchmal auch schlicht professionelles Agieren, das dem Gegenüber freilich dennoch ein Gefühl des Interesses vermitteln solle. 

Schließlich wurde noch die Frage aufgeworfen, ob denn tatsächlich alle KI-Systeme bzw. neuronalen Netzwerke ein einfaches „Input-Output-Schema“ durchlaufen. Sind die neuesten, komplexen Systeme durch eine rein funktionalistische Vorstellung nicht ebenso unzureichend beschrieben wie menschliche Intelligenz? Falls dem so sei, wären manche Abgrenzungen zwischen künstlicher und menschlicher Intelligenz nachzuschärfen. 

Thomas Fuchs‘ Vortrag beim Heidelberger KI-Symposium des KFG hat eindrücklich deutlich gemacht, dass Schule und Bildung durch die technologische Entwicklung nicht nur mit didaktischen und formalen, sondern auch mit tiefgreifenden philosophischen und anthropologischen Fragen konfrontiert sind. Ebenso sichtbar wurde, dass sich die Bearbeitung und Diskussion dieser Fragen, insbesondere unter pädagogischer Perspektive, noch in einem sehr offenen Stadium befindet – und vor allem, dass die akademische Diskussion dieser Fragen von den praktischen Erfahrungshintergründen schulischer Lehrkräfte enorm profitieren kann. 

---

---