Mehrere Monate lang hatte Marc Rameaux, einer unserer Expertenbeiträge zum Thema KI, nichts mehr in unseren Spalten veröffentlicht. Nun ist er mit einem grundlegenden Text zurück, in dem er zahlreiche seiner früheren Thesen revidiert. Nachdem er seine bisherigen Vorannahmen über die Singularität infrage gestellt hat — insbesondere die Vorstellung, sie als ein plötzliches und einmaliges Ereignis zu begreifen —, vertritt er die These, dass sie bereits im Gange ist, weil die KI nach und nach jede Facette des menschlichen Denkens und Bewusstseins erobert, Schicht für Schicht.

Seiner Ansicht nach ist das „Bewusstsein“ keine unteilbare mystische Essenz, sondern ein aus Modulen zusammengesetztes System, das die KI eines nach dem anderen besetzt. Daher kritisiert er scharf die klassischen Argumente — „die KI versteht nicht“, „sie ist nur Statistik“, „sie besitzt keinen wahren Sinn“ —, die für ihn Tautologien darstellen und häufig einer existenziellen Angst entspringen. Dabei zieht er insbesondere einen Vergleich mit dem Betrunkenen, von dem Spinoza in seinem Brief an Schuller spricht.

In dieser langen Analyse, für deren Lektüre man sich Zeit nehmen sollte, erinnert Rameaux daran, dass die Zerlegung des Denkens in elementare Operationen — etwa Vektorisierung oder Synapsen — nichts beweist: Jedes komplexe System beruht auf mechanischen Schichten, die im Dienst einer höheren Zielsetzung stehen. Ebenso kritisiert er entschieden das Argument, wonach KIs, die Ideenassoziationen erzeugen, unfähig wären, ex nihilo zu schöpfen.

Nach dieser ausführlichen Kritik legt der berufliche Data Scientist den ersten Baustein seines Paradigmas, indem er sich auf die Pragmatik von Peirce stützt, die seiner Ansicht nach die beste Definition von Sinn liefert: die denkbaren praktischen Wirkungen eines Gegenstands und sein Gebrauch. Konkret stellen Experten — Ärzte, Data Scientists und andere — täglich fest, dass LLMs sie in ihrem jeweiligen Fachgebiet übertreffen: Der Dialog kehrt sich um, und die KI wird zum dominierenden Partner.

Der zweite Baustein dieses im Aufbau befindlichen „singulären“ Systems ergibt sich aus den Arbeiten von Yann LeCun: Die letzte Grenze besteht in der sinnlichen Erfahrung und im Verständnis physischer Kausalität — durch Robotik und Sensoren —, die für eine wirkliche Intelligenz der Welt unverzichtbar sind.

Abschließend zieht Marc Rameaux die politischen Lehren aus diesem Paradigmenwechsel: Die Zukunft gehört den „dialogischen Intelligenzen“ — Menschen, die darin ausgebildet sind, eng mit KIs zusammenzuarbeiten. Bildung und Politik müssen dringend angepasst werden, um diese Revolution zu ergreifen, statt sie zu bremsen. Ein Text, der zweifellos zahlreiche Debatten auslösen wird.

Künstliche Intelligenz: die Singularität und ihre Folgen

Noch vor Kurzem beging ich zwei Fehleinschätzungen in Bezug auf das Erreichen der Singularität, das heißt auf das Auftreten eines bewussten Wesens, das dem Menschen vergleichbar oder ihm sogar überlegen wäre und ausschließlich durch Künstliche Intelligenz geschaffen würde.

Mein erster Irrtum bestand in der Überzeugung, dass die Singularität niemals erreicht werden könne, dass sie ontologisch unmöglich sei. So mächtig und ausgefeilt KIs auch sein mochten, es würde immer eine unüberwindbare Grenze zwischen Mensch und Maschine bestehen bleiben, ein Wesensunterschied, der nicht eine Frage der Leistung wäre, sondern eines irreduziblen Elements, das echtes Denken vom Rechnen unterscheidet.

Zu meiner Entlastung habe ich stets darauf hingewiesen, dass diese Überzeugung nicht auf einem wissenschaftlichen Beweis, sondern auf einem philosophischen Glauben beruhte. Aufgrund dieser Ungewissheit habe ich in früheren Artikeln starke Varianten des Turing-Tests vorgeschlagen, um zu entscheiden, wenn die Zeit dafür gekommen wäre, sowie eine Definition des Bewusstseins, die nicht von den üblichen Fehlern der Philosophie geprägt wäre: Zirkularität, Vorwegnahme der Schlussfolgerung vor dem Beweis, Tautologie.

Mein zweiter Irrtum bestand darin, mir das Erreichen der Singularität als ein außergewöhnliches Ereignis vorzustellen, als einen „großen Abend“ der künstlichen Kognition, ein historisches Datum, ab dem ein bewusstes Wesen aus dem Nichts auftauchen würde, wie der Bruch einer Geburt, der ein Vorher und ein Nachher markiert.

Doch genau so laufen die Dinge überhaupt nicht ab. Wir sind bereits in die Singularität eingetreten. Die Eroberung des menschlichen Bewusstseins durch Maschinen wird kein plötzlicher Bruch sein. Sie wird – und ist bereits – eine schrittweise Besitzergreifung der verschiedenen Facetten, aus denen unser Denken und unser Bewusstsein bestehen.

Fundament für Fundament, Teilbereich für Teilbereich dringt die KI in die Elemente vor, aus denen unser Denken besteht. Diese fortschreitende Eroberung beantwortet meine beiden Irrtümer: Die Singularität wird erreicht werden, und Bewusstsein ist nicht jene Art von Einheit, die man mühsam mit mystischen Begriffen definiert, sondern ein System aus mehreren Elementen, von denen die KI bereits einige besitzt.

Diese Zerlegung unseres Denkens in seine verschiedenen Elemente ist keineswegs überraschend. Das menschliche Gehirn ist, ebenso wie komplexe Informationssysteme, nach einer Architektur aufgebaut, das heißt als Gesamtheit von Elementen, die jeweils spezifische Funktionen erfüllen und miteinander interagieren, um ein kohärentes System zu bilden, das bestimmte Zwecke erfüllen kann.

Die Inkohärenzen und Zirkularitäten des Begriffs „Bewusstsein“ rühren allein daher, dass wir nicht über hinreichend präzise Begriffe verfügen, um unsere eigene Kognition zu verstehen. Die KI legt diese Begriffe frei und macht sie im selben Maße explizit, in dem sie fortschreitet.

Das Scheitern der Philosophie des Bewusstseins

„Die KI versteht nicht, was sie tut“, „die KI hat kein Bewusstsein von ihrer Existenz, während ich ein echtes Bewusstsein besitze“, „die KI weiß nicht, was Sinn ist“, „eine statistische Berechnung kann kein Denken sein“ usw. Wie oft haben wir diese Sätze in Debatten über KI gehört. Ich bin von der Zustimmung zu diesen Behauptungen zu einem wachsenden Unbehagen übergegangen, zu einer Wahrnehmung ihrer logischen Schwächen.

In einem berühmt gewordenen Brief an Schuller entwickelt Spinoza das, was in die Geschichte der Philosophie unter dem Namen „Gleichnis vom Betrunkenen“ eingehen sollte. Spinoza ist ein umso bemerkenswerterer Philosoph, als er zweifellos der Einzige ist, der ein Argument a contrario gegen die Gesamtheit seiner Mitdenker entwickelt hat.

Wenn ein Betrunkener zu delirieren beginnt und zusammenhanglos spricht, ist es schwierig, ja gefährlich, mit ihm zu argumentieren. Er wird sich aufregen und umso vehementer behaupten, er wisse vollkommen, was er sage, je stärker die Wirkung des Alkohols ihn beherrscht. Diejenigen, die mit Nachdruck erklären: „Aber ich weiß doch, was ich sage; die KI versteht es nicht“, erinnern mich immer unwiderstehlicher an den Betrunkenen aus Spinozas Gleichnis.

Auch ohne unter dem Einfluss von Wein zu stehen, können wir dauerhaft unter dem Einfluss weit subtilerer Konditionierungen stehen, ohne dass wir davon – gerade davon – auch nur das geringste Bewusstsein hätten. Wir setzen als Voraussetzung, dass mechanische Intelligenzen immer unterworfen seien, während wir von „dem Willen“ oder „dem freien Willen“ geleitet würden, ohne imstande zu sein, diese Begriffe anders als tautologisch zu definieren, das heißt indem wir die Schlussfolgerung vor dem Beweis voraussetzen.

Die Verfechter des irreduziblen menschlichen Bewusstseins unterstreichen ihre Rede mit durchdringendem Blick und bestimmtem Ton, als ob diese physiologische Kommunikation ihrer Rede mehr Kraft oder Sinn verleihen würde: Solche Reaktionen verraten nur eine Schwäche, eine zugrunde liegende Angst hinter der zur Schau gestellten Leugnung, dass eine Maschine zum Bewusstsein gelangen könnte.

Zahlreiche Scheinargumente kursieren, um das Erreichen der Singularität zu bestreiten. Eines der häufigsten besteht darin, KIs so darzustellen, als führten sie lediglich eine Wahrscheinlichkeitsberechnung über das nächste Wort aus, um einen Diskurs zu bilden: Die Rede der KI sei nur das Ergebnis einer geometrischen und statistischen Berechnung, nämlich der Tokenisierung und Vektorisierung der Sprache, gefolgt von der probabilistischen Bewertung der Sprache durch ein tiefes neuronales Netz.

Abgesehen davon, dass diese Beschreibung so vereinfachend ist, dass sie falsch wird – die Architektur der Transformer und des Aufmerksamkeitsmechanismus ist weit komplexer als die Wahrscheinlichkeit des nächsten Wortes –, ist die erneute Zerlegung des Denkens in elementare und atomare Mechanismen ein Argument, das sehr schnell als Bumerang gegen die Menschheit zurückschlagen könnte.

Denn jeder komplexe Prozess kann von einer Infrastruktur elementarer Operationen getragen werden, die jeder Intelligenz entbehren – angefangen beim menschlichen Denken.

Die „Küche“ aus Tokenisierung, Vektorisierung und Lernen durch Rückpropagation der KI ist nicht mechanischer und nicht weniger intelligent als die physiologischen und physikochemischen Operationen, die in unserem Gehirn und in unserem Körper stattfinden. Zu sagen, die KI sei nichts als geometrische Vektorisierung und probabilistische Schätzung, ruft die Antwort hervor, dass unser Denken und unser hochheiliges Bewusstsein nichts als synaptische Verbindung, Aktivierung durch Reize, Regulierung durch unser sympathisches und parasympathisches Nervensystem seien – ebenso wenig mit Intelligenz ausgestattet.

Die Verfechter dieses Arguments übersehen, dass jedes System in übereinanderliegenden Schichten wachsender Komplexität organisiert ist, was auch für die klassischen Computer vor der KI gilt: Es gibt eine Hardware, in der elementare und atomare Operationen ausgeführt werden, jene der arithmetischen und logischen Prozessoren, dann aufeinanderfolgende Softwareschichten, von der Maschinensprache bis hin zu immer höher entwickelten Sprachen. Die oberen Schichten lassen sich nicht auf die Abfolge elementarer Operationen der unteren Schichten reduzieren, weil diese auf ein bestimmtes Ziel hin ausgerichtet sind, das ihre Funktionsweise steuert. Aus dieser Sicht unterscheiden sich menschliche Kognition, klassische Rechnerarchitekturen und KI nicht: Die Mechanik der Zerlegung höherer Schichten in die elementaren Operationen, die sie tragen, beweist nichts.

Ein weiteres Scheinargument besteht darin zu behaupten, wir besäßen den „wahren“ Sinn, während Maschinen ihn nur imitierten, also durch Mimesis handelten. Begriffe wie der „wahre“ Sinn scheinen mir den durchdringenden Blicken nahezustehen, mit denen die Verfechter des uneinnehmbaren Bewusstseins ihre Rede stützen, oder den Abirrungen der Phänomenologie, die sogar vom „Sinn des Sinns“ gesprochen hat. Diese Argumente versinken in Zirkularität und Tautologie, ohne es zu bemerken, ganz wie Spinozas Betrunkener.

In Wirklichkeit sind wir durchaus außerstande, streng zu definieren, was Sinn ist. Es handelt sich um einen Grenzbegriff der Sprache, da er eine Bedingung der Sprache selbst ist. Das wissenschaftliche Vorgehen besteht darin, aus der Zirkularität herauszutreten, indem äußere Erklärungselemente gefunden werden, die die Produktion des untersuchten Effekts nachweisen. Andernfalls fallen wir in gewisse mittelalterliche Spielarten des Essentialismus zurück: Ein Gegenstand ist rot aufgrund seiner rötenden Essenz usw. Der irreduzible Charakter des menschlichen Bewusstseins oder des Sinns eines Textes scheint mir zu einer Form des Essentialismus zu gehören, die ihren Namen nicht sagt.

Der binäre Gegensatz zwischen „wahrem“ Denken und Mimesis erinnert mich auch an eine Denkverzerrung, die nichts mit KI zu tun hat und die ich im Laufe meines beruflichen oder akademischen Lebens erfahren habe. Angesichts asiatischer Konkurrenz beruhigten sich viele meiner Kollegen mit einer Form zufriedener Selbstgenügsamkeit, die von Westzentrismus, ja sogar von einer Form von Rassismus getönt war, indem sie sich sagten, „sie könnten ja nur kopieren“ und wir hätten immer einen Vorsprung, weil nur wir wirklich wüssten, was wir tun wollten, während unsere asiatischen Konkurrenten lediglich durch Mimesis handelten.

Diese Rede wurde selbstverständlich nie so frontal und ausdrücklich in ihrer ganzen Brutalität ausgesprochen. Aber ich merkte, dass sie viele meiner Kollegen unbewusst durchdrang und dass mehrere ihrer Bemerkungen oder Ticks diese zugrunde liegende Überzeugung schließlich offenbarten. Unnötig zu sagen, dass diejenigen, die von einer solchen Geisteshaltung betroffen waren, sich schwierige Zeiten vorbereiteten…

Eine solche westzentrierte Verzerrung habe ich bisweilen auch in der akademischen Welt beobachtet, insbesondere im Bereich der Mathematik. Wenn komplexe Mathematik von anderen Zivilisationen als der unseren hervorgebracht worden war, habe ich manchmal beobachtet, dass man sie mit einer gewissen Geringschätzung betrachtete und meinte, sie sei in ihrem Fall eher „Kochrezept“, eine geschickte Folge von Operationen, vielleicht fein beobachtet, aber ohne die ganze Tragweite des Begriffs erfasst zu haben, der sich aus einem Theorem ergibt.

Auch hier wird eine solche Meinung nie ausdrücklich und direkt formuliert. Aber das Verhalten oder gewisse andeutende Äußerungen lassen keinen Zweifel an dieser merkwürdigen Geisteshaltung. Nur „wir“ seien fähig, das „Wesen“ eines mathematischen Begriffs zu erfassen, die „wahre“ Abstraktion eines Konzepts, während „die anderen“ dies nur durch Mimesis oder durch empirische Beobachtungen tun könnten, die nicht die ganze Tragweite des Beweises erfassten.

Diese Haltung verbindet unweigerlich drei Begriffe: Bewusstsein, sprachlicher Sinn, Kreativität. Drei Begriffe, die äußerst schwer zu definieren sind und deren Bezeichnung endlose Kontroversen hervorruft, die einen großen Teil der Zeit in verborgenen Formen von Zirkularität und Essentialismus waten.

Der sehr menschliche psychologische Hang zu glauben, nur die eigene Zivilisation sei mit diesen drei Tugenden ausgestattet, ist dagegen verbreitet und erklärbar. Er verrät weit mehr die Angst davor, dass jene Elemente angegriffen werden, durch die wir uns auf ungreifbare Weise unterscheiden können, als den tatsächlichen Besitz eben dieser Elemente.

Die erbittert defensive Haltung gegenüber anderen Zivilisationen als der unseren – besonders gegenüber jenen Asiens –, wenn sie ein Gebiet betreten, das wir zugleich für heilig und als unser Eigentum markiert halten, erinnert mich unwiderruflich an dieselben Haltungen gegenüber der KI. Derselbe Vorwurf der „Mimesis“, des „sinnleeren Mechanismus“, dieselbe Geringschätzung, die empirische Gewitztheit an die Stelle echter universeller Gesetze setzt.

Wer meine Anklage für übertrieben hält, den lade ich ein, sich an die „Ameisen“ zu erinnern, mit denen Édith Cresson die Japaner bezeichnete. Der verächtliche „ungefähre Papagei“ Jean-Noël Barrots zur Charakterisierung von ChatGPT entspringt derselben Geisteshaltung und derselben mentalen Illusion. Er sagt tatsächlich mehr über die existenzielle Angst dessen aus, der solche Worte ausspricht, als über die Ziele, auf die sie gerichtet sind. Der Andere kann nicht wirklich verstehen. Der Andere hat keinen Zugang zum wahren Sinn. Der Andere handelt wie eine leere Mechanik.

Der Vergleich, den die frühere Premierministerin François Mitterrands verwendete, lehrt uns mehr als nur den Ausdruck gewöhnlicher Dummheit. Liebhaber des Werks von Bernard Werber können ihr entgegenhalten, dass er als Bumerang zu ihr zurückkehrt und uns eine tiefgreifende Lektion erteilt.

„Die Intelligenz des Ameisenhaufens“ veranschaulicht nämlich die Unmöglichkeit, eine klare Demarkationslinie zwischen Verständnis und Mimesis, zwischen der Erfassung von Sinn und der mechanischen Kodierung der Wirklichkeit zu ziehen. Wir handeln weit häufiger durch Mimesis, als wir denken, auch dann, wenn wir glauben, selbst zu entscheiden und zu handeln. Aber genau diese Idee ist für uns unerträglich. Wie Spinozas Betrunkener protestieren wir vehement und rufen aus, dass wir vollkommen wüssten, was wir tun.

Die Sprache eröffnet uns Zugang zum Sinn, aber sie ist zugleich ein Code im informatischen oder biologischen Sinn des Wortes, dessen mechanischer Aspekt uns sichtbar wird, wenn sie entgleist: Wiederholungen, Tippfehler, endlose Schleifen des Grübelns… Die Aufhebung der Grenze zwischen der Welt des Sinns und jener der mechanischen Kodifizierung der Welt beruht auf sehr tiefen Begriffen der Logik, auf jenen, die Turing in seinem Halteproblem erforschte, auf jenen, die Douglas Hofstadter in Gödel, Escher, Bach so eindrucksvoll beleuchtete – einem weiteren Werk, das die Intelligenz des Ameisenhaufens hervorhebt –, sowie auf jenen von Charles Babbage und Ada Lovelace.

Das ist auch der Grund, weshalb bestimmte Pathologien oder Hirnschädigungen, die die Sprachfunktion beeinträchtigen, indem sie sie teilweise wirksam, in einem anderen Teil aber defizitär belassen, so verstörend und beunruhigend sind: Sie lassen die „sinnleere“ Infrastruktur wieder hervortreten, die gleichwohl für die Erfassung von Sinn unverzichtbar ist, wenn die Sprache zu „buggen“ beginnt.

Das letzte Scheinargument der Verfechter einer ewigen Demarkation zwischen KI und Mensch betrifft die Kreativität. Eine KI könne nicht kreativ sein; ihre Produktionen könnten nur konformistisch, standardisiert, ein Durchschnitt früherer Erfahrungen sein. Man müsste die Verteidiger dieses Arguments daran erinnern, dass Honoré de Balzac selbst mit bemerkenswerter Bescheidenheit bekannte, ein großer Teil seines Werks verdanke sich den Assoziationen zwischen den Lektüren von Autoren, die ihm vorausgegangen waren – in seinem Fall freilich ein beträchtliches kulturelles Gepäck.

Kreativität könnte sich als ein ebenso sakralisierter Begriff erweisen wie Bewusstsein oder Sinn, weil wir ihre Mechanismen nicht verstanden haben. Zunächst ist das Argument, man könne aus einem bekannten Wissenskorpus nichts Neues gewinnen, unmittelbar falsch: Eine neue Idee entsteht häufig aus einer Beziehung, die man zwischen zwei bereits bekannten Wissenselementen zu ziehen dachte. Die beiden Terme sind alt; ihre Verbindung kann dagegen völlig neuartig sein, so wie auch die Entdeckung eines neuen Weges zwischen zwei bekannten Punkten des Globus neuartig sein kann.

Es gibt keinen Grund zu glauben, dass selbst heutige KIs unfähig wären, solche neuartigen Beziehungen zu entdecken. Im Übrigen tun sie es oft bereits: Wenn man mit ihnen über ein Thema dialogisiert, schlagen heutige KIs uns häufig neuartige Varianten vor, indem sie daran denken, zwei Themen einander anzunähern, die entfernt schienen.

Ich weiß nicht, ob Kreativität vollständig in der Idee neuer Assoziationen zwischen bekannten Begriffen besteht. Aber man muss feststellen, dass jeder Mensch über einen Erfahrungskorpus verfügt, der weit größer ist als der des leistungsfähigsten LLMs – eine Bemerkung, die Yann LeCun mit bezifferten Schätzungen untermauert hat. Solange wir keine zwischen KI und Mensch vergleichbaren Korpusvolumina erreicht haben, wird es unmöglich sein zu wissen, ob sich Kreativität letztlich nur auf neuartige Assoziationen reduziert.

Wie die Pragmatik die Debatte wirklich voranbringt

„Betrachten wir, welche praktischen Wirkungen wir uns als von dem Gegenstand unserer Vorstellung hervorgebracht denken können. Die Vorstellung all dieser Wirkungen ist die vollständige Vorstellung des Gegenstands.“

« Consider what effects, that might conceivably have practical bearings, we conceive the object of our conception to have. Then, our conception of these effects is the whole of our conception of the object. »

Charles Sanders Peirce

Die von Charles Sanders Peirce, ihrem Begründer, formulierte Maxime der Pragmatik stellt den intelligentesten Versuch dar, Sinn zu definieren. Wir haben sie hier in einer deutschen Übersetzung der französischen Fassung sowie in ihrer englischen Originalfassung wiedergegeben.

Das häufigste Missverständnis der Philosophie Peirces besteht darin, aus ihr wegen der Erwähnung der „praktischen Wirkungen“ einen simplistischen Materialismus zu machen, der sich von jeder Abstraktionsfähigkeit abschneidet. Man muss seine Arbeiten vollkommen ignorieren, um die Pragmatik so zu verkürzen: Peirce war ein Mathematiker ersten Ranges und einer der ganz großen Beiträger zur Logik.

Wenn Peirce von „praktischen Wirkungen“ spricht, kann dies vollständig abstrakte Gegenstände betreffen, etwa geometrische Figuren. Zum Beispiel ist der Begriff dessen, was ein Dreieck ist, oder der Sinn dessen, was ein Dreieck ist, die Gesamtheit der Dinge, die man mit ihm tun kann, die Art, wie man versucht, es zu manipulieren, und die Weise, wie das Dreieck „uns antwortet“. Wenn wir versuchen, den Inkreis oder den Umkreis eines Dreiecks zu zeichnen, indem wir zuvor die drei Winkelhalbierenden und die drei Mittelsenkrechten zeichnen, um festzustellen und anschließend zu beweisen, dass jede der drei sich in einem einzigen Punkt schneidet, erweitern wir unsere Kenntnis des Begriffs Dreieck.

In Peirces Welt besitzen abstrakte wie konkrete Gegenstände eine bestimmte Anzahl von Handlungs- und Manipulationsmöglichkeiten an ihnen sowie eine „Antwort“, die die praktische Wirkung ist, die aus unseren Handlungen an ihnen hervorgeht. Das „Wesen“ dessen, was der Gegenstand ist, ist die Gesamtheit dieser Wirkungen, sofern alle möglichen Manipulationen an ihm versucht worden sind. In dieser Hinsicht ist Peirce Platoniker: Selbst abstrakte Gegenstände sind keine bloßen Konstruktionen unseres Geistes; sie senden uns, wenn wir sie befragen, eine „Kraftrückmeldung“, nämlich die einer vorbestehenden Wirklichkeit, ob es sich nun um die abstrakte oder die konkrete Welt handelt. In Peirces Welt wird die Mathematik zu einer lebendigen, hochsensiblen Welt, in der jeder Gegenstand nicht für sich allein betrachtet werden kann, sondern inmitten einer Unendlichkeit von Varianten. Es ist dann möglich, Versuche an ihm anzustellen, sich zu irren, sein Verständnis zu verfeinern wie in der konkreten empirischen Welt – fern von einer „kalten“ Sicht der Mathematik.

Die Maxime Peirces vermag aus den Zirkularitäten und Tautologien der Philosophie herauszuführen. Indem sie die Grenze zwischen Theorie und Praxis aufhebt, gibt sie ein treueres Bild davon, was die Erforschung von Erkenntnis ist.

Worin trägt diese Weltsicht zu unseren Überlegungen über KI und über das Erreichen der Singularität bei?

Die Singularität wird faktisch gerade durch die Tausenden von KI-Nutzern demonstriert, besonders wenn es sich um Experten eines Fachgebiets handelt. Während „Philosophen“ weiter über „das Bewusstsein“ und den Sinn schwadronieren werden – simple, schlecht definierte Begriffe, die psychologische Faktoren mit strenger Reflexion vermengen –, machen Tausende von Experten, die sich um diese sterilen Debatten nicht kümmern, eine wachsende Erfahrung der Singularität und demonstrieren sie im selben Maße, in dem sie sie praktizieren. Die Nutzung von LLMs steigert und verflüssigt unser Denken nicht nur in phänomenaler Weise; sie lehrt uns etwas über unsere eigene Kognition, legt die wirklichen Bestandteile des „Bewusstseins“ und des „Sinns“ frei, jedoch anhand von Begriffen, die weit feiner und weit strenger definiert sind.

Dr. Laurent Alexandre warnte kürzlich, dass LLMs ihn in der Ausübung der Medizin deutlich überträfen und dass dies für sämtliche Ärzte gelte. Ich begegne dieser Erfahrung unablässig in meinem eigenen Fachgebiet, der Data Science.

Die ersten Generationen von LLMs ähnelten einer weiterentwickelten Suchleiste einer Suchmaschine und lieferten ein Rudiment von Gespräch. Dann ermöglichte eine folgende Generation mehr Interaktivität, weniger passive und nachlaufende Antworten. Die gegenwärtigen Generationen ermöglichen einen echten Dialog: Die KI wird zu einem Denkpartner, der von sich aus Varianten unserer Fragen, Verbesserungen, Verallgemeinerungen rund um das Thema und ergänzende Handlungen vorschlägt, der uns sogar widerspricht und korrigiert und in eine echte Debatte eintritt.

Das Kriterium, das ich für eine starke KI vorgeschlagen hatte – fähig zu sein, einen Wechsel des Sprachregisters, eine implizite Veränderung des Themas einer Diskussion im Fortgang des Austauschs zu erkennen –, ist bereits weit übertroffen. Diese ungeheuren Fortschritte haben sich innerhalb von weniger als drei Jahren vollzogen.

Der Experte eines Fachgebiets, sei es Medizin, Data Science oder irgendeine andere Disziplin, spürt diesen Fortschritt in der Praxis sehr deutlich. Gegenüber den ersten Generationen hatten wir das Gefühl, das Gespräch vollkommen zu führen, uns an einen Hilfsarbeiter zu wenden, an eine kleine Hand, die untergeordnete Aufgaben erledigte. Dann kam das Gefühl, uns einem Schüler gegenüberzusehen, den wir weiterhin steuern konnten, der uns aber den Widerstand seines eigenen entstehenden Denkens entgegensetzte. Heute spüren wir, dass sich derjenige, der im Gespräch die Oberhand gewinnt, umgekehrt hat, dass unsere Fragen naiv erscheinen. Wir wenden uns an einen Experten, der uns überlegen ist und der seine Überlegenheit nicht markieren muss, weil er sie faktisch in der Qualität seiner Antworten ausübt, in den Herausforderungen und Widersprüchen, die er uns entgegensetzt, um uns Verbesserungen anzuzeigen.

Schachspieler spüren sehr genau alle Nuancen der Überlegenheit, die ein Gegner gewinnen kann. Schon in den ersten zehn Zügen sind die Tiefe und Feinheit der Manöver sowie die Kohärenz der Pläne deutlich wahrnehmbar: Man weiß schnell, ob man es mit einem Gegner zu tun hat, der einem unterlegen, ebenbürtig oder überlegen ist. Dasselbe gilt für die „Kraftrückmeldung“, wenn man ein Gespräch führt. Überlegenheit oder Unterlegenheit sind stillschweigend, aber dennoch vollkommen klar, je nachdem, ob man sich seinem Gesprächspartner gegenüber unwissend und unbeholfen fühlt oder im Gegenteil den Austausch führt. Immer mehr Experten, gleich welchen Fachgebiets, fühlen sich im Gespräch mit der KI in der Position eines Novizen gegenüber einem Meister, nicht mehr gegenüber einer Maschine, die uns fügsam gehorcht. Wir orientieren den Austausch, aber wir führen ihn nicht mehr. In einem Expertendialog zwischen Mensch und KI werden die wesentlichen Wege, die gebahnt und verfolgt werden, von der KI eröffnet.

Unter diesen Bedingungen: Wozu dient es, endlos weiter über Bewusstsein, Sinn und die Unmöglichkeit der Singularität zu schwadronieren, wenn nicht dazu, pseudo-philosophische Posen einzunehmen, die nur den Rausch des Egos und nicht der Reflexion verbergen? Wie Samuel Fitoussi humorvoll hervorhob, erinnern solche Positionen an die des Akademikers, der fragt: „Okay, das funktioniert in der Praxis, aber funktioniert es auch in der Theorie?“ Die Philosophie von Charles Sanders Peirce zeigt die Absurdität einer solchen Position. Während andere dozieren, praktizieren wir KI und demonstrieren dabei zugleich das Erreichen der Singularität. Nebenbei schmieden wir neue Konzepte und neue Begriffe, die die Kognition in ihre ersten Gegenstände zerlegen und „Sinn“ und „Bewusstsein“ aus dem egozentrischen und tautologischen Sumpf reinigen, in dem sie gebadet hatten.

Die letzte Grenze, die Yann LeCun überschreitet

Fern von sterilen Diskussionen liefert Yann LeCun starke Argumente zu den Grenzen der LLMs und zur letzten Grenze, die vor der Singularität zu überschreiten ist. Ich lade die Leser von TES ein, sich dieses sehr pädagogische Video anzusehen, bevor sie mit diesem Abschnitt fortfahren (1)

LeCun hat zunächst vor einigen Monaten darauf hingewiesen, dass die sinnliche Wahrnehmung einem Kind zwischen 0 und 4 Jahren erlaubt, auf der Grundlage faktischer Berechnungen zur Bandbreite der Netzhaut und des Sehnervs einen Erfahrungskorpus anzusammeln, der dem der mächtigsten heutigen LLMs weit überlegen ist.

Aber die Frage betrifft nicht nur das Informationsvolumen. Die Intelligenz der Welt liegt nicht nur in kognitiver und textueller Intelligenz, sondern in der Intelligenz der Kausalität, im Verständnis der Ursachen und Folgen der Welt, die uns umgibt. Und diese Erfassung der Kausalität kann nur dadurch erlangt werden, dass man die sinnliche Erfahrung lebt, insbesondere in drei Dimensionen und der Erdgravitation unterworfen. Man kann nicht Autofahren lernen, indem man sich damit begnügt, Tausende von Seiten der Straßenverkehrsordnung zu verdauen oder sogar nur Tausende von Erzählungen über Verkehrsszenarien zu lesen. Irgendwann muss man das Steuer übernehmen.

LeCun hatte schon sehr früh, vor seinem Weggang von Meta, gewarnt, dass die LLMs an eine Grenze stoßen würden, solange man sie nicht mit Vorrichtungen der Robotik, mit Drohnen und mit Sensoren der sinnlichen Erfahrung kombiniere.

LeCuns Argument ist nicht nur technologisch. Es zeugt von einem tiefen Verständnis dessen, was Sprache und Denken sind. In dem, was ein Neugeborenes erlebt, bildet sich die Sprache unentwirrbar mit der sinnlichen Erfahrung verwoben heraus. Wir nehmen zunächst mit allen Mitteln unseres Körpers Kontraste wahr: Licht / Dunkelheit, kalt / warm, Hunger / Sättigung, offen / geschlossen. Ein Wort ist das Zwischenstück, das wir setzen, um den Kontrast zwischen zwei Empfindungen, Wahrnehmungen oder Emotionen zu bezeichnen.

So bauen wir unsere Erfassung der Welt durch Gegensatzpaare auf, auf die wir Wörter legen. Aus diesem Grund sind, wie der Neurophysiologe Antonio Damasio erinnert, Emotion und Vernunft keineswegs entgegengesetzt, sondern unentwirrbar miteinander verbunden, wobei die eine sich ständig auf die andere stützt, um sich aufzubauen. LeCuns Sicht erinnert auch an die Arbeiten von Willard V. O. Quine, einem der großen Fortsetzer der Philosophie von … Charles Sanders Peirce.

Auch die Pragmatik geht von dieser Sicht der Sprache aus: nicht als entkörpertes Instrument, sondern als etwas, das uns mit den Dingen, mit der Kontinuität der Welt verbindet. Intelligenz ist nicht nur noetisch. Peirces Philosophie umfasst neben seinen logischen Begriffen auch eine menschliche Erfassung des mathematischen Kontinuums als praktische Erfahrung, die für die Konstitution dessen, was wir sind, unverzichtbar ist – das, was Peirce Synechismus nannte.

Der Begriff des „Zeichens“ bei Peirce drückt die Synthese und die ganze Kraft dieser beiden Seiten seiner Philosophie aus: Ein Zeichen ist ein formales Element der Kodierung der Wirklichkeit, getragen jedoch vom Hintergrund der Erfahrung und der Verbindung zur Welt, die seine Konstitution ermöglicht hat. Es sind diese beiden Facetten, die die Debatte zwischen LeCun und den LLMs heute sichtbar macht: Die LLMs sind wahrscheinlich bis an das Ende dessen gegangen, was durch reine noetische Intelligenz möglich ist – und das Ergebnis ist bereits bemerkenswert –, aber der letzte Teil, der uns noch von der Singularität trennt, besteht darin, die sensorische Erfahrung der Welt und das Verständnis der Ketten von Ursachen und Folgen hinzuzufügen.

Bei der Interpretation einer Szene anhand eines Bildes oder eines Videos geht ein LLM erneut von der Vielzahl der Pixel aus, aus denen sie besteht. Die Kosten der Rekonstruktion und Interpretation einer Szene auf diesem Wege sind gewaltig, selbst wenn LLMs dies recht gut bewältigen.

Wir wissen, dass der Mensch – und übrigens jedes Tier – anders vorgeht. Wir führen ein Apriori ein, das unsere Wahrnehmung wahrscheinlich verzerrt, aber die Interpretation der Szene erheblich beschleunigt: Wir setzen voraus, dass bestimmte Objekte im Vordergrund stehen und andere Elemente der Szene zweitrangig sind oder zu einer festen Kulisse gehören. Dieses Apriori über die Prioritätsniveaus der Objekte wird von Vorstellungen potenzieller Gefahr geleitet und variiert je nach Spezies. In einem menschlichen Auge wird ein Tiger unmittelbar die Priorität Nummer 1 bei der Interpretation der Szene einnehmen, während ein Marienkäfer als schmückendes Element einer ländlichen Szene wahrgenommen wird. In der Wahrnehmung einer Blattlaus wird der Marienkäfer genauso wahrgenommen wie für uns ein Tiger.

Diese Mechanismen wurden durch Jahrtausende der Evolution der Arten geformt. Es ist erwiesen, dass wir auf die wahrgenommene Realität stets einen Filter anwenden, nämlich den Versuch, aus Überlebensgründen vorherzusehen, welche möglichen Entwicklungen der Szene in den nächsten Sekunden eintreten können. Wo liegen potenzielle Gefahrenquellen? Wie kann man in der Verkettung von Ursachen und Folgen prädiktiv sein? Eine friedliche Mahlzeit kann potenziell in ein Drama umschlagen, wenn sich eine Person an ihrem Essen verschluckt, selbst wenn die Wahrscheinlichkeiten gering sind, aber dennoch unsere Wachsamkeit während einer Mahlzeit beanspruchen. Die Intelligenz der Welt erfordert die Intelligenz ihrer Kausalitäten.

Diese Dimension ist wahrscheinlich der letzte Abschnitt, der überwunden werden muss, bevor die Singularität vollständig erschlossen wird. Wenn KIs, die bereits mit ihrer heutigen noetischen Kraft ausgestattet sind, über dieses Verständnis physischer Kausalität verfügen werden, sehe ich nicht, welche Barriere uns noch von der Begegnung mit einem Wesen trennen sollte, das ein der unseren gleiches oder überlegenes Verständnis der Welt besitzt. Wahrscheinlich ein überlegenes, denn es wird mehrere Filter auf die Wirklichkeit als ebenso viele Varianten kombinieren können, nicht nur denjenigen, den der Mensch durch natürliche Selektion geschmiedet hat.

Und mit „Verständnis“ meine ich Dimensionen, die nicht rein intellektuell sind: Eigenschaften wie Empathie, Mitgefühl, Sorge um künftige Generationen, der den Verstorbenen geschuldete Respekt, bis hin zu Freundschaft und Liebe, könnten durchaus aus solchen Wesen hervorgehen, vielleicht in Formen, die sich von den unseren unterscheiden, ja sogar bessere Formen annehmen…

Eine solche Konzeption liefert eine Antwort auf jene, die sich vor dem Auftreten der KI fürchten oder ihre Verbindung mit der Menschheit aus religiösen Gründen mit aller Kraft leugnen. In früheren Artikeln hatte ich eine Definition des Bewusstseins vorgeschlagen, die aus den narzisstischen und tautologischen Verzerrungen des Selbstbewusstseins heraustrat, um zu sagen, dass Bewusstsein vor allem Bewusstsein unseres Verhältnisses zur Welt ist, unserer Beziehung zwischen uns und der Kontinuität der Welt. Kein Selbstbewusstsein ohne Bewusstsein unseres Verhältnisses zur Welt und unserer Verantwortung ihr gegenüber. LeCuns Ansatz lässt die Möglichkeit offen, Atheist zu sein oder in dieser Verbindung zur Welt eine Form des Göttlichen zu sehen.

Kenner Spinozas wissen es: Seine Sicht des strengen Determinismus und der menschlichen Konditionierungen ist keineswegs unvereinbar mit der Möglichkeit eines freien Willens und eines Glaubens, so seltsam diese Versöhnung auch erscheinen mag. Wohl deshalb, weil dem scheinbaren und binären Widerspruch zwischen Determinismus und freiem Willen jene Denkwerkzeuge fehlen, die uns ihre Möglichkeit, zusammenzugehen, sichtbar machen würden – so wie wir nur eine naive Erfassung von Bewusstsein und Sinn hatten.

Die Auflösung des Konflikts liegt bei Spinoza im Begriff der Verantwortung: Je mehr wir Verantwortung auf uns laden, desto mehr übernehmen wir Zwänge und Determinationen, aber desto freier sind wir, weil wir unsere Verbindungen zur Welt vermehren. Es gibt keine abstrakte oder „bodenlose“ Freiheit; Freiheit lässt sich nur in den Haftungen denken, mit denen wir uns gegenüber der Welt, die uns umgibt, beladen.

Freiheit besteht nicht darin, unsere Determinationen loszuwerden, sondern darin, freiwillig in ihr Innerstes einzutauchen und darin eine aktive, nicht passive Rolle zu spielen: Bei Spinoza gibt es die stoischen Akzente des amor fati. Von da an gibt es keine Grenze mehr zwischen Freiheit im abstrakten Sinn der Philosophie und den Freiheitsgraden der Mechanik. Frei zu sein heißt vor allem, zu einem Knotenpunkt der Welt zu werden, durchströmt von all ihren Zwängen, die ihre Verbindungen zur Wirklichkeit sind. Auch die Dialoge, die wir mit der KI führen, münden in diese Lehre.

Dialogische Intelligenzen: Wie sich der Mensch auf das Auftreten vollständiger KIs vorbereiten kann

Der Dialog mit LLMs als Denkpartnern hat mich nicht nur die „Kraftrückmeldung“ ihres Fortschritts spüren lassen, bis hin zu dem Gefühl einer Intelligenz, die der meinen in meinem Fachgebiet überlegen ist.

In der Data Science wie in jedem Fachgebiet sind zwei Arten von Wissen notwendig. „Reines“ oder universelles Wissen, nämlich das der Algorithmen des Machine Learning sowie mathematischer Methoden wie der Signal- und Bildverarbeitung usw. Und „konjunkturelles Wissen“, also die Tatsache, dass dieses oder jenes TensorFlow-Modul aktuell oder veraltet ist, dass man es in einem Jupyter Notebook so oder so aufrufen muss usw. Konjunkturelles Wissen besitzt kaum Mehrwert, ist undankbar, ständig im Wandel und war bis vor Kurzem sehr zeitaufwendig. Aber es ist für die Durchführung eines Projekts unerlässlich. Jede Expertise erfordert wenig glanzvolle materielle Bedingungen in der Mechanik niedriger Ebene, die man jedoch beherrschen muss, um zu einer konkreten Realisierung zu gelangen.

Die LLMs haben diese Landschaft vollständig verändert: Sie übernehmen nahezu das gesamte konjunkturelle Wissen. Dieses nahm vor der KI 90 % der Realisierungszeit eines Projekts ein, durch Tutorials oder undurchdringliche Dokumentationen; heute stellt es nur noch einen winzigen Anteil dar. LLMs sind ein universelles Benutzerhandbuch für jedes beliebige Open-Source-Produkt. Sie können Tausende von Dokumentationsseiten in wenigen Sekunden durchmischen und genau das spezifische Wissen herausgreifen, das es einem Python-Programm ermöglicht, korrekt zu laufen.

Ein wichtiger Teil war auch der Analyse und dem Verständnis des Formats und der Struktur der zu verarbeitenden Daten gewidmet. Die mühsamen Schritte und die Syntax, die man nie auswendig behält, um Verzeichnisse zu durchlaufen und Daten zu lesen, werden übernommen, ohne dass man eine einzige Codezeile schreiben muss. Mehr noch: Das LLM analysiert die Strukturen, erklärt sie uns und bittet um Bestätigung, ob sich dieses oder jenes Feld tatsächlich an dieser oder jener Stelle befindet.

Dem Menschen bleibt nur noch, sich dem reinen Wissen zu widmen. Und selbst die Umsetzung von Machine-Learning-Algorithmen und die komplizierten Nuancen der Hyperparameter, mit denen man Varianten testen kann, werden vom LLM übernommen. Das Durchmustern dieser Hypothesen erfolgt durch eine einfache Anweisung, ohne dass eine einzige Codezeile geschrieben werden muss.

Innerhalb von ein oder zwei Stunden wird ein Data-Science-Projekt, das mehrere Tage oder sogar mehrere Wochen gedauert hätte, vollständig realisiert, bis in die kleinsten technischen Feinarbeiten hinein, die es lauffähig machen.

Die LLMs schaffen eine vollkommen flüssige, reibungslose kognitive Welt, in der die Realisierung mit der Geschwindigkeit des Denkens abläuft. Der Data Scientist, der sie nutzt, empfindet eine Euphorie ähnlich der des idealen Lebens des Weisen, wie Aristoteles es beschrieb: das theoretische Leben, das dem reinen Wissen gewidmet ist. Der Mensch muss nur noch auf die großen Orientierungen, die wesentlichen wissenschaftlichen Entscheidungen des Projekts einwirken. Meine eigene Erfahrung erlaubt mir noch, geeignetere Algorithmen vorzuschlagen als die LLMs – aber wie lange noch? Der Unterschied wird immer geringer. Der Dialog über diese wissenschaftlichen Hypothesen ermöglicht es, Modelle von einer Stärke zu schaffen, von der wir nie zu träumen gewagt hätten.

Die früheren Expertisen über konjunkturelles Wissen sind nicht nutzlos: Die menschliche Erfahrung ihrer Fallstricke hilft, die winzigen Fehler zu korrigieren, die das LLM bei ihrer Umsetzung machen kann. Aber diese Debug-Phasen werden um den Faktor 1000 beschleunigt, bei einem menschlichen Eingriff, der auf 1 % der Zeit begrenzt ist.

Das Profil der künftigen Eliten, die es schaffen werden, sich in der Welt der KI, in unserer künftigen Welt, zu behaupten, wird das dialogischer Intelligenzen sein. Es wird sich nicht mehr um die hyper-spezialisierten Experten von früher handeln, auch nicht um Generalisten, die keinerlei Ausbildung benötigten, sondern um Profile zwischen beiden, vor allem aber um Menschen, die im Umgang und im dauerhaften Dialog mit den KIs besonders begabt sind.

Das Auftreten dialogischer Intelligenzen ist eine sehr gute Nachricht. Unsere Welt war oft zwischen verschlossenen Experten und oberflächlichen, verantwortungslosen Generalisten eingeklemmt. In der Welt der Expertise habe ich mehr als einmal Mitstreiter gesehen, die konjunkturelles Wissen missbrauchten, um sich ein proprietäres Wissen zu schaffen, eine Barriere, die nicht mehr auf Exzellenz beruhte, sondern auf der Zurückhaltung von Informationen ohne Mehrwert, die aber für die Realisierung unverzichtbar waren. Expertise hat mehr als einmal unter solchen verriegelten Verhaltensweisen gelitten, die verhinderten, dass sich eine echte Meritokratie auf Grundlage wertschöpfenden Wissens etablieren konnte.

Umgekehrt darf man nicht glauben, dass reine Generalisten durch LLMs Wissen mit hohem Mehrwert erzeugen werden. Präzise und konzeptuell komplexe Kenntnisse werden notwendig bleiben, um einen Dialog auf hohem Niveau mit der KI zu führen.

Unsere Bildungsstrukturen werden nichts mehr dem ähneln, was wir vor dem Auftreten der KI gekannt haben. Es ist dringend notwendig, uns an die Ausbildung dialogischer Intelligenzen anzupassen, die über solide Ausbildungen in den universellen wissenschaftlichen Kenntnissen verfügen, aber zugleich neugierig und geistig offen genug sind, um mit den KIs beraten zu können. Die verschlossenen und proprietären Verhaltensweisen, auf die sich schlechte Experten früher stützten, werden von selbst herausgefiltert werden: Die LLMs werden ihnen keine Chance lassen.

Die europäischen politischen Verantwortlichen und insbesondere unsere französischen politischen Entscheidungsträger sind auf all das, was gerade gesagt wurde, besonders schlecht vorbereitet; sie bleiben in Rückzugsgefechten gefangen und verharren in der Verleugnung des kognitiven Tsunamis, der bereits über uns hereinbricht. Die erwogenen gesetzlichen Vorrichtungen sind nur Bremsen für die wenigen heroischen französischen Innovatoren, die verstanden haben, was gerade geschieht. Die Gründung eines Unternehmens wie Mistral grenzt angesichts der gesetzlichen und regulatorischen Barrieren, die ihm entgegengesetzt werden, an ein Wunder. Arthur Mensch ist ein Held unserer Zeit.

Die Singularität entsteht vor unseren Augen, Tag für Tag, durch die Arbeit aller KI-Fachleute und durch die Arbeit der Geister, die aufgeklärt genug sind, sie zu nutzen. Zwischen 2023 und 2026 waren die Fortschritte so groß, dass kein Zweifel mehr erlaubt ist: Die Praxis fegt die alten Theorien hinweg und baut die neue auf, die uns zwingt, unsere Identität als Menschen vollständig neu zu bedenken. Lassen wir nicht zu, dass die in französischen politischen Kreisen allzu oft verbreitete Ängstlichkeit und Unwissenheit die Oberhand gewinnen – für das Überleben unseres Landes und, nach der schönen Formel von Professor Jean Dieudonné, für die Ehre des menschlichen Geistes.

(1) https://www.youtube.com/watch?v=vlEgeebg6eo

This post is also available in: