Vom Denken zum Denkenlernen. Warum KI eine Form von Urteilskraft verlangt, die Schule kaum entwickelt

Sam Altman formuliert in einem Interview (👇) eine bemerkenswerte Irritation. Als ChatGPT auf den Markt kam, habe er erwartet, dass sich das Bildungssystem relativ schnell grundlegend verändern werde. Zunächst, so seine damalige Annahme, würden Schülerinnen und Schüler KI zum Schummeln benutzen. Danach aber müsse eigentlich offensichtlich werden, dass Unterrichten, Lernen und Bewerten unter den neuen technologischen Bedingungen neu gedacht werden müssten.

Dreieinhalb Jahre später stellt er fest, dass genau das kaum geschehen ist. Altman formuliert dabei eine Sorge, die weit über die Frage hinausgeht, wie KI sinnvoll im Unterricht eingesetzt werden kann.

Wenn Schülerinnen und Schüler weiterhin so unterrichtet und bewertet würden, als lebten wir in einer Welt vor hoch leistungsfähiger künstlicher Intelligenz, werde die Fähigkeit verkümmern, denken zu lernen.

An dieser Formulierung entscheidet sich etwas, denn Altman spricht nicht einfach von der Fähigkeit zu denken. Er spricht davon, denken zu lernen. Dieser Unterschied führt ziemlich genau ins Zentrum der Problematik, vor der Schule im Angesicht künstlicher Intelligenz steht.

Denken ist nicht dasselbe wie denken lernen

Denken kann innerhalb eines gegebenen Bezugsrahmens stattfinden. Menschen können analysieren, vergleichen, argumentieren, Schlussfolgerungen ziehen, Probleme lösen und zu differenzierten Urteilen gelangen, ohne die Voraussetzungen dieses Rahmens selbst infrage zu stellen.

Denken lernen meint mehr. Es bedeutet, die eigenen Denkweisen, Kategorien und Voraussetzungen verändern zu können. Es bedeutet, das eigene Denken selbst zum Gegenstand des Lernens zu machen: Welche Annahmen benutze ich? Welche Begriffe strukturieren meine Wahrnehmung? Welche Fragen stelle ich überhaupt? Was blende ich aus? Nach welchen Kriterien urteile ich? Und wann muss ich meinen bisherigen Bezugsrahmen verlassen, weil er der Wirklichkeit nicht mehr angemessen ist?

Hier liegt der Unterschied zwischen einer Schule, die Denken trainiert, und einer Bildungsarbeit, die Menschen dazu befähigt, denken zu lernen.

Dieser Unterschied ist unter den Bedingungen künstlicher Intelligenz zentral. Er wird zum „entscheidenden Unterschied“. KI stellt ja nicht nur die Frage, welche kognitiven Tätigkeiten künftig noch von Menschen ausgeführt werden. Sie verschiebt den Ort, an dem menschliche Urteilskraft besonders wichtig wird.

Die entscheidende Grenze verläuft zwischen zwei Arten von Kritik

Wenn Schule von kritischem Denken spricht, meint sie eine durchaus anspruchsvolle Fähigkeit. Schülerinnen und Schüler sollen Informationen prüfen, Quellen vergleichen, Argumente unterscheiden, Widersprüche erkennen, verschiedene Positionen gegeneinander abwägen und zu begründeten Urteilen gelangen.

Dieses Denken findet jedoch innerhalb eines bereits gesetzten Rahmens statt, den zu verlassen an keiner Stelle vorgesehen ist. Die Aufgabe steht fest, der Gegenstand steht fest, die verfügbaren Informationen sind ausgewählt, die Bearbeitungszeit ist vorgegeben, es ist bereits definiert, was als relevante Argumentation gilt und anhand welcher Kriterien die Leistung anschliessend beurteilt wird.

Die Lernenden sollen also kritisch denken. Aber die Bedingungen, unter denen dieses Denken stattfindet, sind ihrem Urteil weitgehend entzogen.

Man könnte das „Kritik erster Ordnung“ nennen. Diese Art der Kritik fragt danach, welche Position besser begründet ist, welche Quelle glaubwürdiger erscheint, welches Argument überzeugt, welche Lösung angemessen ist und welche Aussage sich belegen lässt. Sie bewegt sich innerhalb eines vorhandenen Bezugsrahmens und versucht, dort möglichst gute Urteile zu fällen.

Daneben gibt es eine zweite Form von Kritik. Die richtet sich nicht nur auf Aussagen, Argumente und Entscheidungen innerhalb einer Ordnung. Sie richtet sich auf die Ordnung selbst.

Dann verändern sich die Fragen:

• Warum gilt genau dies als Problem?
• Warum stellen wir diese Frage?
• Welche Annahmen liegen ihr zugrunde?
• Welche Kategorien benutzen wir, um die Wirklichkeit zu beschreiben?
• Was wird dadurch sichtbar und was bleibt unsichtbar?
• Nach welchen Kriterien bestimmen wir überhaupt, was als gute Lösung gelten soll?
• Welche Interessen, Machtverhältnisse und historischen Voraussetzungen prägen den Bezugsrahmen, innerhalb dessen wir urteilen?
• Ist dieser Bezugsrahmen selbst noch angemessen?

Das ist Kritik zweiter Ordnung.

Ein besonders aufschlussreiches Beispiel ist die Prüfung (Test, Klassenarbeit, Klausur …). Auf der ersten Ebene kann sehr grundsätzlich über Prüfungen nachgedacht werden. Man kann fragen, warum sie notwendig sind, welche Funktionen sie erfüllen, wie gerecht sie sind, wie valide sie Kompetenzen erfassen oder wie sie unter Bedingungen von KI gestaltet werden müssen. Solange dabei vorausgesetzt bleibt, dass Schule Leistungen individuell zurechnen, sichtbar machen, vergleichen und für weitere Bildungswege zertifizieren muss, bewegt sich die Kritik weiterhin innerhalb des bestehenden Bezugsrahmens.

Kritik zweiter Ordnung stellt nicht einfach grundsätzlichere Fragen. Sie macht diesen Bezugsrahmen selbst fraglich. Dann geht es darum, wie die Vorstellung entstanden ist, Lernen müsse in eine Ordnung überführt werden, in der individuelle Leistung sichtbar, vergleichbar, bewertbar und für Selektionsentscheidungen verwertbar gemacht wird. In den Blick geraten damit die Annahmen, Funktionen und historischen Bedingungen, aus denen Prüfungen ihre Selbstverständlichkeit beziehen. Es stehen nicht mehr nur Prüfungsformen zur Diskussion, sondern jene Vorstellung von Bildung, Leistung und institutioneller Zuständigkeit, die Prüfungen überhaupt erst notwendig erscheinen lässt.

Hier findet der Ebenenwechsel statt. Auf der ersten Ebene können Prüfungen sehr radikal kritisiert und vollständig neu gestaltet werden, ohne dass die schulische Ordnungslogik verlassen wird. Auf der zweiten Ebene wird diese Logik selbst zum Gegenstand des Urteils.

Für Schule ist das besonders schmerzhaft, weil damit nicht mehr über eines ihrer Instrumente gesprochen wird, sondern über die Voraussetzungen, aus denen dieses Instrument seine Notwendigkeit bezieht. Kritik erster Ordnung kann fragen, warum wir prüfen. Kritik zweiter Ordnung untersucht die Ordnung, aus der diese Notwendigkeit hervorgeht, ihre Voraussetzungen und ihre Tragfähigkeit.

Urteilskraft zeigt sich dort, wo auch der Rahmen fraglich werden darf

Urteilskraft erster Ordnung bedeutet, innerhalb einer gegebenen Ordnung zwischen verschiedenen Möglichkeiten unterscheiden und zu einem begründeten Urteil gelangen zu können. Urteilskraft zweiter Ordnung verschiebt das Urteilen auf eine reflexive Ebene: Nicht mehr nur Optionen innerhalb einer Ordnung werden beurteilt, sondern die Ordnung selbst, ihre Kategorien, Voraussetzungen und Kriterien.

Der Unterschied liegt nicht in einem Mehr an Urteilskraft, sondern in einem Wechsel der Ebene. Auf der ersten Ebene wird innerhalb eines gegebenen Bezugsrahmens geurteilt. Auf der zweiten wird dieser Bezugsrahmen selbst fraglich. Dann kann sich zeigen, dass nicht nur einzelne Antworten unzureichend sind, sondern bereits die Fragen, Kategorien und Kriterien, durch die diese Antworten möglich geworden sind.

Diese zweite Form wird in einer von künstlicher Intelligenz geprägten Welt immer wichtiger.

Eine leistungsfähige KI kann innerhalb weniger Sekunden mehrere plausible Analysen erzeugen, Argumentationen entwickeln, Texte vergleichen, Informationen strukturieren, Perspektiven simulieren und Lösungsvorschläge formulieren. Damit verschiebt sich die Aufgabe menschlichen Denkens. Es geht immer weniger darum, innerhalb einer vorgegebenen Aufgabe noch eine weitere Antwort zu produzieren. Entscheidend wird, beurteilen zu können, ob überhaupt die richtige Frage gestellt wird, welche Annahmen in einer Antwort stecken, welche Perspektiven fehlen, welche Informationen relevant sind und wann ein bestehender Bezugsrahmen verlassen werden muss.

Die besondere menschliche Leistung liegt damit zunehmend auf einer Ebene, die Schule bisher nicht kultiviert: bei Problemdefinition, Rahmensetzung, Kontextualisierung, Perspektivenwechsel, Verantwortungsübernahme und der Prüfung der Voraussetzungen des eigenen Urteilens.

Genau hier erhält Altmans Rede von einer Metafähigkeit des Denkens und Lernens ihr eigentliches Gewicht.

Schule trainiert Kritik und begrenzt zugleich ihren Radius

An diesem Punkt gerät Schule in einen grundlegenden Widerspruch. Sie kann kritisches Denken durchaus fördern. Aber sie fördert es überwiegend innerhalb einer Ordnung, deren eigene Voraussetzungen nicht gleichzeitig zur Disposition stehen können.

Natürlich kann Schule auf KI reagieren. Sie kann Unterrichtseinheiten zum kritischen Umgang mit Sprachmodellen entwickeln. Schülerinnen und Schüler können verschiedene Antworten einer KI vergleichen, Quellen überprüfen, Halluzinationen erkennen, Prompts reflektieren und die Qualität künstlich erzeugter Texte beurteilen. Sie können sogar lernen, KI selbst kritisch einzusetzen.

Das alles kann sinnvoll sein. Aber strukturell ist damit noch wenig passiert Denn weiterhin bestimmt Schule den Gegenstand, die Zeit, die Aufgabe, die Leistungserwartung und die Bewertung. Das kritische Denken wird in eine Ordnung integriert, deren grundlegende Kategorien bereits feststehen.

Damit entsteht eine bemerkenswerte Paradoxie: Schule kann kritisches Denken unterrichten, ohne ihre eigene Denkform demselben kritischen Denken auszusetzen. Hier liegt meines Erachtens die zentrale Problematik von Schule im Angesicht künstlicher Intelligenz.

Schule versucht Menschen auf eine Welt vorzubereiten, in der Bezugsrahmen permanent fraglich werden, während sie selbst Lernen in einem Bezugsrahmen organisiert, der für Lernende unbefragt bleiben muss.

Der blinde Fleck liegt nicht im Mangel an Reflexion

Kaum ein gesellschaftliches System evaluiert, diagnostiziert, überprüft, reformiert und entwickelt sich so permanent wie Schule. Es gibt Qualitätsentwicklung, Bildungsmonitoring, Kompetenzmodelle, Evaluationen, neue Lehrpläne, Förderprogramme, Digitalisierungsstrategien, veränderte Prüfungsformate und inzwischen zahllose Initiativen rund um künstliche Intelligenz. Das System beobachtet sich permanent und immer innerhalb seiner eigenen Kategorien.

Die Fragen lauten üblicherweise

• wie Unterricht verbessert werden kann. Sehr selten lautet sie, warum Lernen überhaupt primär als Unterricht organisiert wird
• wie Prüfungen gerecht(er) oder mit KI kompatibel werden können. Selten lautet sie, warum diese Form standardisierter Leistungsüberprüfung notwendig sein soll
• wie stärker individualisiert werden kann. Selten lautet sie, warum junge Menschen zunächst nach Geburtsjahrgängen geordnet, ihr Lernen in weitgehend einheitlichen Zeitstrukturen organisiert und die Folgen dieser Homogenisierung anschliessend durch Individualisierung kompensiert werden sollen
• wie kritisches Denken gefördert werden kann.

Es wird nicht gefragt, welche Bedingungen Schule selbst schafft, unter denen bestimmte Formen des Denkens gar nicht erst entstehen können.

Diese problematiche Grundarchitektur beschreibe ich in Schulschluss. Reformen operieren überwiegend innerhalb einer Denkfigur, die Schule bereits voraussetzt. Probleme erscheinen dadurch vor allem als Defizite des Vollzugs dieser Denkfigur. Optimiert werden deshalb nur Verfahren, während die Form selbst unangetastet bleibt.

Schulentwicklung kann hochreflektiert und dennoch systemblind sein

Damit lässt sich auch ein scheinbarer Widerspruch auflösen. Ein System kann permanent über sich sprechen, sich evaluieren, Veränderungen organisieren und hochgradig reflektiert erscheinen und dennoch unfähig sein, sich grundsätzlich infrage zu stellen.

Schulentwicklung produziert sehr viel Kritik erster Ordnung. Sie identifiziert Probleme, verändert Programme, korrigiert Verfahren, verschiebt Schwerpunkte und stellt einzelne Regler neu ein. Es gibt mehr selbstorganisiertes Lernen, weniger Frontalunterricht, andere Prüfungen, mehr Projektarbeit, mehr individuelle Förderung, mehr Digitalisierung und nun mehr KI Kompetenz.

Das Mischpult wird intensiv bedient, steht aber nicht zur Debatte.

Diese Selbstbegrenzung ist aus systemischer Sicht notwendig. Schule ist nicht nur eine Organisation. Sie ist eine Denkfigur. Sie strukturiert unser aller Vorstellung davon, wie Lernen stattfinden soll, wer für Bildung verantwortlich ist, wie Wissen geordnet wird, wie Leistung sichtbar gemacht werden muss, wann gelernt wird und wie Entwicklung zeitlich organisiert werden kann. Selbst Kritik an Schule bleibt deshalb innerhalb dieser Denkfigur. Gefordert werden eine bessere, gerechte(re), moderne(re) oder digitale(re) Schule. Die Form selbst wird nicht zum Gegenstand der Kritik. Darin besteht die systemische Blindheit.

KI macht sichtbar, worauf Schule tatsächlich angewiesen ist

Künstliche Intelligenz ist deshalb für Schule weit mehr als eine neue Technologie. Sie wirkt wie ein Kontrastmittel. Sie macht Strukturen sichtbar, die vorher selbstverständlich erschienen.

Besonders deutlich zeigt sich das bei Prüfungen und Leistungsnachweisen. Wenn Texte, Analysen und Lösungen technisch erzeugt werden können, geraten plötzlich jene Verfahren unter Druck, die jahrzehntelang als Beleg individuellen Könnens galten.

Interessanterweise ist damit nicht zuerst das Lernen bedroht. Bedroht ist die schulische Überprüfbarkeit von Lernen.

Deshalb drehen sich so viele Debatten zu KI um Kontrolle. Wie lässt sich unerlaubte Nutzung verhindern? Wie müssen Prüfungen verändert werden? Wie erkennt man KI Texte? Wie kann individuelle Leistung weiterhin eindeutig zugerechnet werden?

Damit wird sichtbar, worauf ein erheblicher Teil schulischer Organisation tatsächlich angewiesen ist: auf Sichtbarkeit, Zurechenbarkeit und Vergleichbarkeit von Leistung. Genau diese enge Kopplung von Instruktion, Leistungsnachweis und Statuszuweisung wird durch KI fundamental irritiert.

KI stellt damit nicht nur einzelne schulische Methoden infrage. Sie berührt die Architektur, innerhalb derer Schule Lernen überhaupt organisierbar und bewertbar macht.

Warum Altman die Reaktion des Systems überschätzt hat

Sam Altman hielt es offenbar für selbstverständlich, dass eine derart fundamentale technologische Veränderung auch eine fundamentale Veränderung des Bildungssystems auslösen würde. Das war seine Fehleinschätzung. Zwar hat die Bedeutung von KI längst entdeckt. Es gibt Strategien, Leitlinien, Unterrichtsmaterialien, Kompetenzmodelle, Professionalisierungsangebote und zahlreiche Projekte.

Aber darin zeigt sich eben auch der kritische Mechanismus. Schule kann neue Anforderungen sehr schnell aufnehmen, solange sie sich in die bestehende Logik integrieren lassen. Sie kann KI zum Unterrichtsgegenstand machen, KI-Kompetenz definieren, neue Prüfungsformen entwickeln und Regeln für erlaubte und unerlaubte Nutzung formulieren.

Was ihr sehr viel schwerer fällt, ist die Frage, ob KI nicht genau jene Grundannahmen infrage stellt, auf denen ihre eigene Organisation beruht.

Das ist der Unterschied zwischen Anpassung und Kritik. Die eine fragt, wie das Bestehende unter veränderten Bedingungen weiter funktionieren kann. Die andere fragt, ob das Bestehende unter diesen Bedingungen überhaupt noch die richtige Form ist.

Die eigentliche Probe auf kritisches Denken

Deshalb reicht die Forderung nach mehr kritischem Denken nicht. Man kann kritisches Denken problemlos in einen Lehrplan schreiben, Kompetenzen definieren, entsprechende Aufgaben entwickeln, es prüfen und benoten. Damit hätte Schule kritisches Denken erfolgreich in ihre eigene Logik integriert. Die entscheidende Frage beginnt erst danach, und sie lautet nicht, ob junge Menschen solche Kritik äussern dürfen.

Natürlich dürfen sie fragen, warum ihr Lernen nach Jahrgängen organisiert wird, warum andere bestimmen, wann sie sich mit welchem Gegenstand beschäftigen, warum Wissen in Fächer zerlegt wird, warum ihre Entwicklung permanent bewertet wird, warum ihre Leistung individuell zugerechnet und miteinander verglichen wird und warum Bildungswege durch Prüfungen, Noten und Zertifikate hierarchisiert werden.

Entscheidend ist jedoch, welchen Status diese Kritik innerhalb der schulischen Ordnung haben kann. Kann sie gelten? Stellt sie den Bezugsrahmen selbst infrage? Kann aus ihr das Urteil hervorgehen, dass diese Ordnung möglicherweise nicht nur verbessert, sondern verlassen werden müsste?

An diesem Punkt zeigt sich die Grenze schulischer Kritikfähigkeit. Kritik ist zugelassen, solange sie innerhalb der Ordnung operiert. Wo sie die Ordnung selbst zum Gegenstand des Urteils macht, berührt sie die Voraussetzungen des Systems.

Die eigentliche Probe auf kritisches Denken beginnt dort, wo Kritik nicht mehr nur innerhalb der schulischen Ordnung urteilt, sondern über diese Ordnung selbst. Entscheidend ist dann nicht, ob Schule solche Fragen toleriert, sondern ob sie zulässt, dass aus ihnen ein Urteil über ihre eigene Angemessenheit und Legitimität entsteht. Hier verläuft die Grenze zwischen einer Kritik, die das System noch in seine eigene Logik integrieren kann, und einer Kritik, die diese Logik selbst infrage stellt.

Die KI Frage ist eine Systemfrage

Damit lässt sich die Problematik auf einen einfachen Unterschied zuspitzen. Schulisches kritisches Denken fragt häufig: Welche Antwort ist richtig oder besser begründet? Die unter Bedingungen künstlicher Intelligenz entscheidende Urteilskraft fragt zusätzlich: Warum beantworten wir eigentlich diese Frage, mit diesen Kategorien, unter diesen Voraussetzungen und wer sagt, dass dieser Bezugsrahmen noch angemessen ist?

Das ist keine graduelle Steigerung derselben Fähigkeit. Es ist ein Ebenenwechsel. Diesen Ebenenwechsel vollzieht Schule nicht, weil sie dann ihre eigenen Voraussetzungen zum Gegenstand der Kritik machen müsste. Sie müsste nicht mehr nur fragen, wie sie besser funktionieren kann, sondern ob ihre grundlegende Denklogik noch trägt.

In einer vergleichsweise stabilen Welt konnte es möglicherweise genügen, Menschen darauf vorzubereiten, innerhalb vorhandener Strukturen gute Entscheidungen zu treffen. Die Welt, in der wir heute leben, verlangt etwas anderes. Wissen verändert sich permanent, technologische Systeme übernehmen kognitive Tätigkeiten, berufliche Strukturen verlieren ihre Stabilität, gesellschaftliche Gewissheiten erodieren und Probleme sind immer häufiger nicht eindeutig definiert. Mit künstlicher Intelligenz wächst zudem die Zahl verfügbarer Antworten schneller als unsere Fähigkeit, ihre Voraussetzungen und Konsequenzen zu beurteilen.

Unter diesen Bedingungen wird Urteilskraft zur Fähigkeit, nicht nur zwischen Antworten zu unterscheiden, sondern die Fragen, Kategorien und Systeme selbst beurteilen zu können. Dafür müsste Bildungsarbeit Räume schaffen, in denen die Ordnung nicht bereits vor dem Denken feststeht.

Das ist dann keine weitere Reformaufgabe für Schule, sondern eine Anfrage an ihre Denkform.