Von Intelligenz, Verantwortung und der Frage, was uns als Menschen im Kern ausmacht

Bericht zum Workshop von PD Dr. Frederike van Oorschot beim Symposium des Heidelberger KFG | Text von Wiebke Goltz und Lukas Wolter (beide Heidelberg School of Education)

Sucht man in Suchmaschinen nach Illustrationen von ‚Künstlicher Intelligenz‘ (KI) zeigen die ersten Treffer stets menschliche Gehirne, neuronale Netzwerke oder sich berührende Finger eines Menschen und eines Roboters, in Anlehnung an Michelangelos „Die Erschaffung Adams“. Mensch und Maschine werden bildlich gleichgesetzt – als seien sie einander ebenbürtig. Mit diesem kurzen Experiment und dabei sehr starken visuellen Eindruck begann die Theologin und Ethikerin PD Dr. Frederike van Oorschot (Universität Heidelberg) ihre beiden Workshops zu KI beim Symposion des Kurfürst-Friedrich-Gymnasiums. Sie nahm die teilnehmenden Schüler:innen, Lehrkräfte und Elternvertreter:innen mit in ihre Forschungsperspektive, die sich mit den Wechselwirkungen zwischen Technik, Ethik und Anthropologie, also der Lehre vom Menschen befasst. Wie sich die Brücke zwischen technischen und somit unmenschlichen Einheiten und dem menschlichen Wesen schlagen lässt, demonstrierte sie außerdem mit alltäglich gewordenen Redewendungen wie „ich muss mal wieder meine Akkus aufladen“, „ich lebe gerade auf Autopilot“ oder „da ist mir eine Sicherung durchgebrannt“. Die Beispiele verdeutlichten unmittelbar, wie wichtig es ist, sich aus ethisch-anthropologischer Perspektive mit KI auseinanderzusetzen. In Äußerungen über uns als Menschen nutzen wir technische Metaphern. Umgekehrt prägen wir mit sprachlichen Ausdrücken wie ‚Künstliche Intelligenz‘ unsere eigene Wahrnehmung dieser technischen Phänomene: Wir bezeichnen und assoziieren sie mit Worten wie ‚Intelligenz‘ und ‚Handlung‘, die bislang dem Menschen vorbehalten waren.

Dr. van Oorschot beim KI-Symposium am KFG Heidelberg Quelle: KFG / Philipp Rothe

Theorien der Maschinenethik

Damit leitete Frau van Oorschot in ihren inhaltlichen Hauptteil über, der mit den vorgestellten Theorien und aufgeworfenen Fragen zum Nachdenken über die Essenz des Menschseins anregte. So begann sie mit einer Definition von ‚Intelligenz‘ als kognitiver Fähigkeit von Menschen. Sie verwies darauf, dass es sich in diesem Diskurs durchaus um einen weit gefassten Intelligenzbegriff handle, der auch soziale und emotionale Intelligenz mit einschließen würde. Manche würden daher argumentieren, Tieren diese kognitive Fähigkeit ebenfalls zuzuschreiben. Als ein zentrales Werk für die wissenschaftliche Debatte stellte Frau van Oorschot die „Grundfragen der Maschinenethik“ der Philosophin Prof. Dr. Catrin Misselhorn vor. Gemäß Misselhorns Theorie sei Intelligenz einerseits die Fähigkeit, Zeichen interpretieren zu können und andererseits eine Problemlösungsstrategie, d. h. die Fähigkeit, die Interpretation der Zeichen zur Lösung von Problemen zu nutzen. Folgt man dieser Theorie, ändere sich das grundlegende Verständnis von Intelligenz als einer rein menschlichen Fähigkeit. Schließlich können nicht nur Menschen Zeichen interpretieren, indem sie lesen und ihre Erkenntnisse zur Lösung von Problemen nutzen. Auch Computer interpretieren unentwegt Zeichen und nutzen diese, um Rechenprobleme zu lösen.

Als nächstes ging Frau van Oorschot auf den Begriff ‚Handlung‘ ein. Nach Misselhorns Theorie sei eine Handlung eine selbstgesteuerte Verhaltensentscheidung, die nach der Bewertung und Reflexion von verschiedenen Verhaltensoptionen getroffen werde. Eine Handlung setze jedoch zum einen Freiheit und zum anderen einen Akteursstatus, eine Handlungsmacht voraus. Erst beides zusammen führe zur sogenannten agency. Hierzu stellte sie nun die zentralen Fragen des Workshops: Haben Maschinen eigene Handlungsweisen und damit eine eigene Handlungsmacht? Verfügen Maschinen über eine ‚Selbstursprünglichkeit des Handelns‘? Und können Maschinen ethisch handeln? Zur Diskussion der Fragen erhielten die Teilnehmenden noch Kriterien zur Beurteilung der Handlungsfähigkeit von Maschinen wie die Orientierung an Gründen zur Handlung. Mögliche Gründe könnten beispielsweise eine erfolgte Informationsverarbeitung sein oder eine moralische Handlungsfähigkeit, die dadurch hergestellt wird, dass moralische Werte im Code der Maschine repräsentiert werden.

Intuitive Reaktionen treffen auf abstrakte Theorie

So komplex sich die inhaltliche Materie dargestellt hatte, so lebhaft und menschlich zeigten sich die Fragen und Beiträge in der anschließenden Diskussion. Auf die Frage, ob denn der Wille für eine Entscheidung zur Handlung gar keine Rolle spiele, folgte gemäß Misselhorns Maschinenethik die vielleicht etwas erschütternde und zum Nachdenken anregende Antwort, dass der Wille hier keine Rolle spiele. Der Wille sei letztlich eine Entscheidung in Folge einer Informationsverarbeitung. Ebenso verhalte es sich mit moralischen Einflüssen oder Emotionen; auch sie seien in dieser Theorie im weitesten Sinn ‚Informationen‘ und würden als solche verarbeitet. In einem weiteren sehr menschlich gedachten Beitrag wurde die Frage gestellt, wer denn die Verantwortung trage, wenn eine Maschine handle. Die Diskussion führte dahin, dass uns Menschen im Allgemeinen die Schuldfrage beschäftigt, die schlussendlich darauf abzielt, jemandem Verantwortung zuweisen zu können. Unsere Gesellschaft und unser Zusammenleben sind geprägt von dieser Denkweise und Überzeugung. Doch noch gibt es keine Lösung für die Frage, wer am Ende für Maschinen oder Maschinenprogrammierungen verantwortlich ist. Anders als in der deutschen und in diesem Bereich (noch) konservativ agierenden Gesetzgebung gibt es in anderen Ländern bereits Ansätze, Maschinen mit in die Verantwortung zu nehmen wie beispielsweise bei Autos mit autonomer Fahrtechnologie. Doch selbst wenn die Maschinen voll verantwortlich wären, würden sie keiner Gerichtsbarkeit unterliegen. Die nüchterne Schlussfolgerung: „Was kümmert es die Maschine, wenn sie zur Strafe abgeschaltet wird?“

Neben dem fehlenden Bewusstsein der KI über die Konsequenzen des eigenen Handelns ergänzte Frau van Oorschot als weiteres gedankliches Konzept die ‚Verantwortungsdiffusion‘, in dem Verantwortlichkeiten in einem Netzwerk bestehen. Bei einem Unfall unter Beteiligung eines autonom fahrenden Autos wären mögliche Verantwortliche der Autohersteller, Mechaniker:innen, Programmierer:innen, aber eben auch Beteiligte zu anderen Faktoren wie eine Straßenmeisterei. Die Verantwortungslast würde sich anstatt auf eine Maschine, die nicht belangt werden kann, entsprechend auf mehrere andere verteilen. Würde man solch einem Gedankenmodell folgen, müsste an den Grundfesten unseres gesellschaftlichen Denkens und unserer geltenden Rechtsordnung gerüttelt werden.

Auch konkrete Beispiele aus dem Schulalltag wurden kontrovers diskutiert. Eine Schulleitung könnte eine KI zur Bewertung der eigenen Lehrkräfte nutzen. Lehrkräfte könnten sie wiederum zur Bewertung ihrer Schüler:innen nutzen. Doch wollen die Lehrkräfte selbst unter Zuhilfenahme einer KI bewertet werden? Haben wir zwar Vertrauen in ein System, wenn wir es aktiv an anderen nutzen wollen, aber kein Vertrauen, wenn wir passiv zu seinem ‚Ziel‘ werden? Oder das Beispiel einer leider schlecht ausgefallenen Klassenarbeit: Bereits jetzt gibt es hierfür viele Einflussfaktoren und Beteiligte wie die Schüler:innen, die Lehrkraft, das Elternhaus oder akute Begleitumstände. Was passiert, wenn nun auch eine KI noch ein Faktor würde? Für wen wäre welche Verantwortlichkeit zurechenbar?

Nach diesen vielfältigen gedanklichen Exkursen und moralisch komplexen Szenarien führte Frau van Oorschot nochmals zentral vor Augen, dass der starke anthropologische Fokus das große ethische Interesse am Phänomen KI begründe. Die zahlreichen Beispiele hatten gezeigt, wie tiefgründig und faszinierend diese Perspektive ist und wie sehr sie zum Nachdenken über uns selbst anregt. Sehr pointiert war dies in einem der abschließenden Zitate beschrieben: „Die künstliche Intelligenz ist ein Spiegel von uns Menschen, und die Frage, ob es bei Robotern um die Ablösung bzw. den Ersatz von uns Menschen geht oder ‚bloß‘ um unser Assistent, kommt dann erst an zweiter Stelle. Zunächst müssen wir uns nämlich damit beschäftigen, wer und was wir Menschen sind.“ (Stocker 2019, S. 74)

Gerfried Stocker, Von künstlicher Intelligenz zur sozialen Intelligenz. In: Severin J. Lederhilger (Hg.), Gott und die digitale Revolution. Regensburg 2019, 73–96.

Dr. Frederike van Oorschot ist Privatdozentin für Systematische Theologie am Institut für Interdisziplinäre Forschung an der Forschungsstätte der Evangelischen Studiengemeinschaft (FEST) in Heidelberg. Sie leitet dort den Arbeitsbereich „Religion, Recht und Kultur“ und widmet sich in ihrer Forschung unter anderem der digitalen Technologie, der Technikethik und leitete das Projekt „Framing KI“.