Mensch, Moral, Maschine. Funktionen und Fragen künstlicher Intelligenz aus wirtschaftswissenschaftlicher Perspektive

Bericht zum Workshop von Prof. Dr. Alicia von Schenk über „Wirtschaftswissenschaftliche Aspekte im Umgang mit KI“ beim Symposium des Heidelberger KFG | Text von Dennis Dietz und Nicole Aeschbach (beide Heidelberg School of Education)

„Die KI ersetzt keine Jobs, sondern Aufgaben.“ – Mehrfach betonte Professorin Alicia von Schenk (JMU Würzburg) in ihrem anregenden Workshop über wirtschaftswissenschaftliche Aspekte von KI die Veränderungswirkung der neuen Technologie für die Arbeitswelt. Routinemäßige Arbeiten, Vorhersagen oder die Analyse großer Datenmengen würden zunehmend automatisiert und maschinell ausgeführt. Menschliche Arbeit werde allerdings nicht als solche überflüssig werden, sondern in Zukunft vor allem anders gestaltet sein. Zentral bei dieser Veränderung der Arbeitswelt sei eine Entkopplung von Vorhersage- und Urteilsleistungen. Menschen werden in Zukunft weniger zählen, rechnen, extrapolieren, sondern sie werden vor allem entscheiden.  

Wenn maschinelle Vorhersagen immer kostengünstiger und besser werden, werde der kompetitive Vorteil des Menschen im KI-Zeitalter daher in der Bewertung solcher Vorhersagen liegen. Das wiederum hat deutliche (wirtschaftswissenschaftliche) Konsequenzen – und es bedeutet zugleich anspruchsvolle Reflexionsaufgaben für Schule und Bildungsprozesse, insofern diese (auch) einen Vorbereitungsdienst hinsichtlich der zukünftigen beruflichen und gesellschaftlichen Anforderungen leisten sollen. Nicht allein die technischen, sondern gerade auch ethische, politische oder Urteilskompetenzen gewinnen unter dem Eindruck der KI-Transformationen der Arbeitswelt noch mehr an Bedeutung.

Mensch und Maschine im Wechselspiel

Doch selbst dieser zukünftig zentralere Aspekt menschlicher Arbeit, das Treffen von Entscheidungen mit algorithmischer Unterstützung, werde nicht isoliert von den Leistungen künstlicher Intelligenz bestehen. Vielmehr sei hier ein Wechselspiel von menschlicher und künstlicher Intelligenz zu erwarten, bei dem die KI unterschiedliche Funktionen erfüllen kann. Alicia von Schenk zeigte dazu ein ganzes Spektrum auf, in dem Machine-Learning-Systeme mal als Mit- und Gegenspieler, mal als Berater, mal als Beobachter oder Analyst die Entscheidungsprozesse von Menschen unterstützen können. Diese Überlegungen zu den – nicht nur unproblematischen – Mensch-Maschine-Verhältnissen bei der zukünftigen Entscheidungsfindung führte dann über in den persönlichen Forschungsbereich von Frau von Schenk. An der Schnittstelle von Wirtschaftswissenschaften zu anderen Disziplinen wie Psychologie und Informatik arbeitet sie zur Interaktion zwischen Mensch und Maschine, unter anderem mit Hilfe von spieltheoretischen Ansätzen, die sie mit Verhaltensexperimenten verbindet. 

„Science Fiction Science“ – KI-Institutionen als gerechte oder effiziente Akteure? 

Mit ihrem Einblick in die eigene Forschung führte Frau von Schenk die Zuhörenden in das Konzept von „Science Fiction Science“ ein. Um die Auswirkungen künftiger Technologien auf den Menschen zu antizipieren, kombiniere man unsere Vorstellung von möglichen Zukunftsszenarien mit einem wissenschaftlichen Ansatz zur Verhaltensforschung. Als exemplarische Fragestellung stellte sie folgende Überlegungen an: Könnte eine KI einen Staat, eine Gruppe, eine Institution (oder eine Schule?) leiten? Und falls ja, könnte sie das womöglich sogar „effizienter“ als Menschen? Wie würden sich Institutionen oder Gruppen entwickeln, sobald anstelle von Menschen die KI in der Leitungsebene wirkte? Könnte eine von KI geführte Institution bzw. Gruppe hypothetisch besser und stabiler zusammenarbeiten als eine von Menschen geführte?  

Insofern ein ausgefeilter struktureller Aufbau, zuverlässige Prognosen und möglichst objektive (also in gewisser Weise ‚anonymisierte‘) Entscheidungen einen zentralen Aspekt von Institutionen ausmachen, sei die Vermutung plausibel, dass der Einsatz von KI gemeinschafts- und wohlfahrtsförderliche Effekte haben könnte. Eine KI könnte fairer sein, solange sie keine Motive hätte, eigene Vorteile zu verfolgen. Sie könnte als unpersönliche Instanz ein höheres Maß an Privatsphäre für die Gemeinschaft garantieren. Und sie wäre eventuell weniger korrumpierbar als menschliche Akteure, insbesondere bei der Aufdeckung und Sanktionierung von Fehlverhalten. 

Mögliche Gefahren von KI in der Gesellschaft 

Die möglichen Effizienzgewinne einer mit KI-Unterstützung geführten Gemeinschaft markieren zugleich die möglichen Unzulänglichkeiten und Defizite einer solchen teilweise maschinellen Autorität. So steht die Unpersönlichkeit derselben – trotz (oder gerade wegen?) der vermuteten Objektivitätsgewinne – in der Gefahr, die für gelingende Gemeinschaften essentielle empathische Abwägung von Einzel- und Härtefällen zu versperren. Auch ist eher schwer vorstellbar, dass eine KI-Instanz für die ‚moralischen Gefühle‘ resonanzfähig wäre, also für individuelle oder gemeinschaftliche Empfindungen wie etwa Empörung, Scham oder Reue. Diese können zwar (wie nicht selten zu beobachten) auch destruktive Dynamiken entfalten, sind aber trotz allem grundsätzlich für die ethische Selbstvergewisserung und Identität einer Gemeinschaft – und damit letztlich für deren Stabilität – zentral.  

Alicia von Schenk selbst machte ferner auf die Problematik der Reproduktion menschlicher Mängel und kognitiver Verzerrungen aufmerksam, die eigentlich gerade überwunden werden sollten. Werden Algorithmen auf der Grundlage menschlicher Kommunikation und Interaktionen trainiert, könnten menschliche Vorurteile und Diskriminierungsformen von der Maschine reproduziert und womöglich verstärkt werden. Zu fragen wäre ferner, ob die KI ihrerseits technisch, administrativ oder rechtlich einer nächsthöheren und dann womöglich wieder menschlichen Instanz unterstellt wäre. Auch der mit KI-Unterstützung geleitete ‚Philosophenstaat‘ entkommt dem ‚Wer-bewacht-die-Wächter‘-Problem wohl nicht. 

Maschinen und die Berechenbarkeit der Moral 

Die Überlegungen zur KI-geführten Institution führte schließlich ins Feld der Moral und die Fragen von „KI-Ethik“ aus der Perspektive der Verhaltensökonomik. Insofern KI-Systeme durch die Beobachtung menschlichen Verhaltens trainiert werden und lernen, stellt sich die Frage nach der (technischen) Erlernbarkeit von moralischen Prinzipien. Für den Bereich der Wirtschaftswissenschaften mit mathematischen Methoden bzw. spieltheoretischen Argumentationen sei dabei ein quantitativer ethischer Ansatz basierend auf tatsächlichem Entscheidungsverhalten leitend, dem individuelle Nutzen- oder Nachteilskalkulationen zugrunde liegen. Das bedeutet zwar einerseits eine gewisse moralphilosophische Verengung, gestattet aber zugleich einen besseren empirischen Zugriff auf den Zusammenhang von menschlicher Moral (bzw. ‚moralischem Handeln‘) und KI-Training, etwa durch entsprechend designte Verhaltensexperimente.  

Intergenerationale Verantwortung und KI

In genau dieses Feld führte Alicia von Schenk anschließend über und stellte ein weiteres spannendes, eigenes Projekt ganz konkret vor. In diesem geht sie, gemeinsam mit Mitarbeitenden, der Frage nach, ob und wie Menschen ihr Verhalten anpassen, wenn sie sich der intergenerationellen Auswirkungen bewusst sind. Die Forschungsfrage lautete: Wie ändern Personen ihre Entscheidungen, wenn ihr Handeln durch das Training einer KI Auswirkungen auf zukünftige Generationen hat? 

Die Ergebnisse dieses Verhaltensexperiments unter Einbeziehung spieltheoretischer Ansätze zeigen, dass sich die Teilnehmenden nur dann prosozialer verhielten, wenn sie befürchteten, selbst von den zukünftigen Entscheidungen des Algorithmus‘ (negativ) betroffen zu sein. Frau von Schenk stellte den Bezug zu John Rawls‘ Idee des Schleiers des Nichtwissens her. In diesem Gedankenexperiment geht es um die Prinzipien einer gerechten Gesellschaft. Lässt man Menschen über die Regeln entscheiden, die das Zusammenleben prägen sollen, tendieren sie dazu, eigene Interessen im Blick zu haben. Legt man jedoch den Schleier des Nichtwissens über sie, indem man sie im Unklaren über ihre persönliche spätere Position im angedachten Gesellschaftssystem lässt, so wird erwartet, dass die Entscheidungen gerechter ausfallen.

KI als Helfer oder Konkurrent?

Gerade für die Schülerinnen und Schüler der Kursstufe waren die Einblicke in aktuelle Entwicklungen am Arbeitsmarkt hochspannend, was sich auch durch zahlreiche Rückfragen und interessante Beiträge während der Abschlussdiskussion zeigte. Der Automatisierung von Routineaufgaben steht der immense Bedarf an sozialen und kreativen Fähigkeiten gegenüber. Neue Berufe entstehen und die Bedeutung von Data Science und Digital Economics nimmt zu. Alicia von Schenk betonte angesichts der Rückfragen zur Arbeitsweltentwicklung, dass es sich bei KI um eine General Purpose Technology (GPT) handelt, das heißt, die Technologie greife in nahezu alle Lebens- und Gesellschaftsbereiche ein. Daraus folgt, dass KI kein separates „Thema“ sei, sondern eine Querschnittsperspektive. Es gelte also, in der Aus- und Weiterbildung Angebote zu schaffen, die KI-Aspekte mit möglichst vielen Themen in Forschung und Praxis zusammendenken.  

Weitere Rückfragen richteten sich auf den internationalen Vergleich der KI-Entwicklung. Unter rein technischen Gesichtspunkten mag Europa hier vielleicht gegenüber großen Entwicklernationen wie etwa den USA oder China zurückliegen, aber für Europa könnte eine Chance in der Entwicklung fairer und erklärbarer Systeme liegen, die kontrollierbar und transparent operieren. Durch die in ihrem Vortrag präsentierten Forschungsarbeiten sowie die verhaltensökonomischen und KI-ethischen Überlegungen zeigte Alicia von Schenk die Erfordernisse und wissenschaftlichen Potenziale dazu eindrucksvoll an.

---

---