Wer ist hier zuständig? Über Verantwortung in Zeiten von KI

Der gesellschaftliche Diskurs um Künstliche Intelligenz (KI) und ihren Vormarsch ist getrieben von der Angst, dass die Maschinen nicht nur die Arbeit, sondern auch die Macht übernehmen. Die Zuständigkeit der Institutionen für alle Lebensbelange des Menschen wird in diesen Szenarien von intelligenten Maschinen übernommen. Die Kultur der Delegation, die diesem Prinzip zugrunde liegt, wird an Maschinen weitergereicht.

Das Neue ist also nicht die Delegation als solche, weil wir bereits nach diesem Prinzip funktionieren. Leben heißt Delegieren. Allem voran Verantwortung und Zuständigkeit. Sie liegen bereits heute durchgehend bei den Institutionen und ihren Repräsentant*innen. Das Neue, woran sich unsere Angst jetzt bindet, ist eine Übertragung dieser Abhängigkeit auf intelligente Maschinen. Wir haben also nicht Angst vor zunehmender Abhängigkeit. Wir haben Angst vor einer zunehmenden Abhängigkeit von Maschinen.

Eine Möglichkeit, um auf diese sehr wahrscheinliche Entwicklung zu reagieren, ist die: Wir fangen an, über unsere „Kultur des Delegierens“ nachzudenken. Wir beginnen damit, gemeinsam über Sinn und Unsinn eines Menschenbildes zu reflektieren, in dem wir für unsere wesentlichen Bedürfnisse gar nicht selber zuständig sind, sondern die Institutionen, die uns umgeben. Wir könnten anfangen, uns digitale und lokale Infrastrukturen zu bauen, die solche Dialoge und Diskurse fördern, ohne sie zu institutionalisieren und ohne sie zu delegieren. Wir fragen uns: Was wäre das für eine Welt und wie würde die funktionieren, in der mehr und mehr klar wird, dass die Zuständigkeit für menschliche Dimensionen wie Wohlbefinden, Bildung und Lernen, Gerechtigkeit, materielle Grundversorgung, Nachhaltigkeit, Zugehörigkeit, Gesundheit und vieles mehr gar nicht nicht an Institutionen delegiert werden kann, sondern in der Verantwortung jedes einzelnen Menschen liegt.

Aus ethischer Sicht kann Verantwortung gar nicht delegiert werden, weil sie an konkretes menschliches Handeln gebunden ist. Anders macht der Begriff der Verantwortung keinen Sinn. In meinem Buch „Die Moral ist tot. Es lebe die Ethik“ habe ich den Versuch unternommen, diese These in die Kontexte unseres alltäglichen Handelns einzubetten.

Mein Vorschlag lautet: Verantwortung kann nicht delegiert werden, aber geteilt. Dadurch wird sie nicht kleiner, doch sie lastet dann auf mehr als einer Schulter. Mein Anteil geht dadurch nicht verloren, ich kann ihm lediglich besser gerecht werden. Hingegen schrumpft Verantwortung dort, wo ich meine eigene unzulässigerweise an jemand anderen delegiere: „Du bist zuständig für die Produktion meiner Bekleidung und meiner Nahrungsmittel, deshalb bist auch du verantwortlich für die Art und Weise, wie das vor sich geht.“ Stephan Lessenich weist in seinem Buch „Neben uns die Sintflut“ eindrücklich nach: Diese Formel funktioniert nicht. Sie produziert gegenwärtig Ungerechtigkeit und Unrecht in unvorstellbarem Ausmaß.

Wie in der Delegations-Kultur Verantwortung verdampft

Vor allem Lernen und Bildung können wir nicht länger delegieren, wenn wir die „Herrschaft“ der Künstlichen Intelligenzen um menschliche Dimensionen ergänzen möchten. Weder die Verantwortung noch die Zuständigkeit dafür. Weder an Maschinen, noch an (Hoch-)Schulen, oder an lehrende Berufe. Warum? Weil wir dann, wenn wir an dieser heute selbstverständlichen Praxis festhalten, das Prinzip der Delegation von Verantwortung und Zuständigkeit einfach ins Maschinenzeitalter hinein fortführen. Statt Schulen und Lehrern sind dann halt intelligente Maschinen zuständig. Damit würden wir vor einer Erfindung (KI) kapitulieren, die ja der Kultur und dem Menschenbild des Delegationszeitalters entspringt, und die deshalb seine Züge trägt.

Warum halten wir so unbeirrbar daran fest, dass Bildung und Lernen an Institutionen delegiert werden kann und sollte? Weil wir es gewohnt sind, Bildung und Lernen als ein Dienstleistungspaket zu verstehen, das von dafür zuständigen Institutionen und deren Repräsentant*innen geliefert wird. Sehr ähnlich den medizinischen, juristischen oder anderen Dienstleistungen, die an Expertise, an Ausbildung, Zertifizierung und an „Professionalisierung“ gekoppelt sind. Wir delegieren die Zuständigkeit für ein persönliches oder soziales Bedürfnis oder für eine Herausforderung an eine dafür zuständige Institution und ihre Expert*innen. Für Fragen der persönlichen Gesundheit ist die medizinisch-therapeutisch-pharmazeutische Industrie zuständig, für Gerechtigkeit die juristische, für Lernen und Bildung die pädagogische. Dafür, dass „der Laden läuft“, sind Politik und Ökonomie zuständig. Es ist alles institutionell geregelt. Wir und unsere Kinder wachsen ganz selbstverständlich in eine Welt hinein, in der gilt:

Zuständig und verantwortlich für genuin persönliche und soziale Dimensionen wie Wohlbefinden, Gesundheit, soziale Gerechtigkeit und nachhaltige Ökonomie ist nicht der Mensch selbst, sondern (s)eine Institution – das ist das Welt- und Menschenbild, welches im Zeitalter der industriellen Revolutionen übriggeblieben ist.

Der Mensch: Ein institutionell nachgeordnetes Wesen?

In diesem Weltbild ist der Mensch ein den Institutionen nachgeordneter „Faktor“: Wir werden gebildet, werden geheilt, werden verwaltet, werden organisiert. Wir machen das nicht selbst. Der Mensch ist eine Funktion seiner Institutionen – nicht umgekehrt. Der Mensch als Individuum und als soziales Wesen ist und hat eine Funktion innerhalb der Ökonomie, nicht hat und ist die Ökonomie eine Funktion innerhalb des menschlichen Gemeinwesens.

Der Mensch führt lediglich aus. Für ökologisches Handeln bin ich als Person gar nicht verantwortlich. Ich führe lediglich das aus, was politische, soziale und ökonomische Institionen an Varianten vorgeben: Bio-Produkte kaufen, den Öko-Strom buchen, das Auto mit dem niedrigsten Verbrauch kaufen, faire Kleidung erwerben u.v.m. Als Trägerinnen der jeweiligen Verantwortung erscheinen die genannten Institutionen, bis hinein in die Politik: Was kann ich denn dafür, wenn Bio-Labels gefakt und gefälscht werden? Jetzt macht mal was!

Dieses Prinzip wird jetzt nach und nach digitalisiert und an intelligente Maschinen delegiert. Und wir schauen verängstigt zu.

Auch beim im 21. Jahrhhundert immer wichtiger werdenden Phänomen der „Information“ sind wir uns nicht gewöhnt, dass wir uns informieren, sondern dass wir uns informieren lassen. Wir werden informiert. „Realität“ ist ein Bericht über Berichte über sie. So wichtige Dimensionen der Wissensproduktion wie Recherche, Überprüfung von Faktizität, Erforschen von Hintergründen, Zusammenhängen und Motiven, blenden wir bei unserem persönlichen Informationsmanagement praktisch aus. Dafür sind andere zuständig: Portale, Foren, soziale Medien, funktionale Repräsentant*innen wie Journalisten, Politikerinnen, Lehrer.

Lern-Netzwerke als lernende Netzwerke. Wirre Idee oder Lösungsansatz?

Ich habe an anderer Stelle die Idee von sich selbst organisierenden Lern-Netzwerken als Nachfolgerinnen klassischer Bildungssysteme entwickelt. Sie verstehen sich als Antwort auf die Gefahren einer restlosen Delegation menschlicher Verantwortung an die (digitalisierten) Institutionen. Sie finden diese Skizze hier.

Diese Skizze ist vor allem an einer Stelle noch überhaupt nicht einleuchtend, verständlich und begreiflich: Wer soll das bitteschön organisieren? Wer stemmt und garantiert deren Funktionalität? Welche Institution wird dahinter stehen? Wer finanziert das? Wer garantiert die Liquidität?

Dass für die Entwicklung und den Unterhalt, für Qualität und Kontinuität solcher Netzwerke die Netzwerkenden selbst verantwortlich sind, ist für uns also weder auf den ersten, noch auf den zweiten und dritten Blick einleuchtend, verständlich, begreiflich oder gar evident. Irgendjemand anderer muss dafür zuständig sein – und verantwortlich.

In einem Lern- oder Arbeitsnetzwerk sind nun aber diejenigen, die das Netzwerk bilden, für die Qualität, die Kontinuität, die Fütterung und die Kuratierung des Netzwerkes zuständig (weil verantwortlich) – im Modus der Selbstorganisation, die ja ein Funktionsprinzip aller lebenden Systeme ist. Das passt bisher nicht in unser Welt- und Menschenbild. Deshalb liegt hier der Knackpunkt.

Lern- und Arbeitsnetzwerke funktionieren im Digital Age nur, wenn wir uns der Zusammenhänge im Kontext von Verantwortung und Zuständigkeit klar werden. Einer der wichtigsten Zusammenhänge ist der: Wenn wir die Verantwortung für die Wahrung der Grunddimensionen unseres Daseins (wie oben erwähnt: Wohlbefinden, Gerechtigkeit, materielle Grundversorgung, Lernen und Bildung, Nachhaltigkeit, Zugehörigkeit, Gesundheit etc.) weiterhin an Institutionen delegieren, dann füttern wir damit die exponenziell zunehmende Abhängigkeit des Menschen von diesen Institutionen, die sich in rasendem Tempo digitalisieren.

Wenn wir aber damit anfangen, Netzwerke zu bilden, in denen die Verantwortung für menschliche Dimensionen wie Wohlbefinden, Bildung und Lernen, Gerechtigkeit, materielle Grundversorgung, Nachhaltigkeit, Zugehörigkeit, Gesundheit u.v.m. nicht mehr länger delegiert wird, sondern gemeinsam wahrgenommen, setzen wir nicht nur der Angst vor einer „Herrschaft der Maschinen“ etwas Handfestes entgegen, indem jede und jeder von uns sich selbst als handelnd und wirksam erlebt. Wir beenden damit auch nach und nach die Kultur der Delegation, mit der wir in Zukunft jene Entwicklung beschleunigen würden, vor der wir uns so sehr fürchten.

Diese Entwicklung kritisch zu hinterfragen und allenfalls umzulenken, ihr durch die Bildung sich selbst organisierender Netzwerke widerständige Visionen von Menschsein und sozialer Gemeinschaft entgegen zu halten, um Einfluss auf das zukünftige Verhältnis zwischen Mensch und Maschine zu nehmen, das ist meines Erachtens ein lustvolles Gebot der Stunde.