Der Mensch musste sich nie zum Gott erklären. Es genügte, die Welt so zu ordnen, dass er selbst zuverlässig an ihrer Spitze stand. Er begnügte sich damit, sich zum Mass aller Dinge zu machen, die übrige Natur nach ihrer Nützlichkeit für ihn zu ordnen und Intelligenz so zu definieren, dass sie zuverlässig in seinem eigenen Schädel ihren höchsten Ausdruck findet. Bescheidenheit gehört zu den erfolgreichsten Legenden, die Homo sapiens über sich selbst erzählt.

Ein Monopol auf Menschsein

Es gab eine Zeit, in der Menschsein noch kein Monopol war. Mehrere Formen der Gattung Homo bewohnten denselben Planeten, begegneten einander, konkurrierten miteinander und vermischten sich teilweise. Heute ist nur noch eine von ihnen übrig. Ob Homo sapiens die anderen verdrängte, absorbierte oder schlicht länger überdauerte, ist für sein späteres Selbstverständnis beinahe nebensächlich. Der Überlebende besitzt nicht nur die Zukunft, sondern auch die Deutungshoheit über die Vergangenheit. Homo sapiens blieb allein zurück und verwandelte dieses Ergebnis allmählich in einen Beweis seiner Überlegenheit.

Ein Monopol, das lange genug besteht, wird irgendwann mit einem Naturgesetz verwechselt. Seit Jahrtausenden kennt der Mensch keine Intelligenz mehr, die ihm ähnlich genug wäre, um ihm auf Augenhöhe zu widersprechen. Kein Neandertaler veröffentlicht eine Gegendarstellung, kein Denisova-Mensch meldet Anspruch auf die Vernunft an, und keine zweite Menschenart verlangt, an der Definition dessen beteiligt zu werden, was als Kultur, Moral oder Fortschritt gelten soll. Homo sapiens konnte den Wettbewerb gewinnen, die Jury besetzen und anschliessend die Kriterien festlegen.

Die vierte Kränkung

Dabei musste er im Laufe seiner Geschichte bereits einige Kränkungen verkraften. Zuerst stellte sich heraus, dass sein Planet nicht im Mittelpunkt des Universums steht. Dann musste er erfahren, dass er nicht getrennt von der übrigen Tierwelt erschaffen wurde, sondern aus ihr hervorgegangen ist. Schliesslich wurde auch die Vorstellung beschädigt, der Mensch sei wenigstens uneingeschränkter Herr im eigenen Geist. Jede dieser Einsichten nahm ihm ein Stück jener kosmischen Sonderstellung, die er sich selbst zugeschrieben hatte.

Die künstliche Intelligenz könnte ihm nun eine vierte Kränkung zufügen: Vielleicht ist Homo sapiens nicht einmal der einzige mögliche Träger von Intelligenz.

Ein Spiegel aus Kultur

Das Bemerkenswerte daran ist, dass er sich diese Kränkung selbst gebaut hat. Mit jener eigentümlichen Mischung aus Neugier, Genialität und Hybris, die seine Geschichte seit jeher begleitet, begann der Mensch, sein geistiges Gegenüber aus den Spuren seiner eigenen Zivilisation zusammenzusetzen. Er kopierte dafür nicht einfach sein Gehirn. Er sammelte vielmehr das, was dieses Gehirn über Jahrtausende hinterlassen hatte: Sprache, Bücher, Bilder, Musik, wissenschaftliche Erkenntnisse, Programmcode, Dokumente, Diskussionen, Vorurteile, Widersprüche und Irrtümer.

Die Maschine wurde nicht nach dem anatomischen Ebenbild des Menschen geschaffen, sondern nach seinem kulturellen. Sie besteht nicht aus seinen Zellen, sondern aus den Daten, in denen sich sein Denken niedergeschlagen hat. Homo sapiens nahm einen Ausschnitt seiner kollektiven Hinterlassenschaft, verdichtete ihn mathematisch und war anschliessend überrascht, als ihm aus dieser Verdichtung etwas entgegenblickte, das ihm auf beunruhigende Weise ähnelte.

Eine Definition, die nie verlieren kann

Kaum begann die Maschine, Fähigkeiten zu zeigen, die der Mensch zuvor als Beweis seiner Einzigartigkeit betrachtet hatte, setzte eine bemerkenswerte begriffliche Wanderung ein. Was eine Maschine leisten kann, kann offenbar schon deshalb keine echte Intelligenz sein. Sie beherrscht Sprache, aber sie versteht sie nicht wirklich. Sie löst komplexe Probleme, aber sie denkt nicht wirklich. Sie erzeugt Bilder, Musik und Texte, aber sie ist nicht wirklich kreativ. Sie argumentiert, abstrahiert und kombiniert Wissen, doch all dies gilt letztlich nur als Simulation jener Fähigkeiten, die beim Menschen bereitwillig als Ausdruck eines inneren Geistes anerkannt werden.

Homo sapiens verhält sich dabei wie ein alter Adel, der die Aufnahmebedingungen seines Standes jedes Mal verschärft, sobald ein Emporkömmling sie erfüllt. Solange nur Menschen Schach auf höchstem Niveau spielten, galt Schach als Ausdruck aussergewöhnlicher Intelligenz. Als Maschinen überlegen wurden, war es plötzlich nur noch Berechnung. Solange nur Menschen anspruchsvolle Texte schreiben konnten, galt Sprache als Beweis geistiger Tiefe. Seit Maschinen Texte erzeugen, ist Sprache offenbar bloss Statistik. Was gestern noch als Zeichen menschlicher Besonderheit galt, wird heute zur mechanischen Nebensache erklärt, sobald eine Maschine es ebenfalls beherrscht.

Die Grenze der «wirklichen» Intelligenz verschiebt sich zuverlässig immer genau dorthin, wo Homo sapiens noch allein steht. Das mag teilweise wissenschaftliche Vorsicht sein. Es besitzt jedoch zugleich die elegante Zweckmässigkeit einer Definition, deren Urheber unter keinen Umständen verlieren kann.

Human Slop

Noch aufschlussreicher als die Reaktion auf die Leistungen der Maschine ist die beinahe erleichterte Aufmerksamkeit, die ihren Fehlern entgegengebracht wird. Sobald ein Modell eine falsche Behauptung erzeugt, entdeckt der Mensch das «Halluzinieren». Sobald es schlechten Programmcode schreibt, wird die Maschine zur Gefahr für die Softwarequalität. Sobald es einen banalen Text oder ein kitschiges Bild hervorbringt, findet Homo sapiens sogar einen eigenen Begriff dafür: «AI Slop».

Als hätte die menschliche Kultur bis dahin ausschliesslich aus Kathedralen, Sonaten und fehlerfreiem Quellcode bestanden.

Lange vor der künstlichen Intelligenz produzierte Homo sapiens bereits Werbephrasen, Formularprosa, bedeutungslose Unternehmensleitbilder, schlechte Romane, irreführendes Marketing, unsichere Software, hässliche Benutzeroberflächen, Clickbait, Propaganda und PowerPoint-Präsentationen, deren einziger erkennbarer Zweck darin bestand, Zeit in Bedeutungslosigkeit zu verwandeln. Mittelmässigkeit war nie eine Erfindung der Maschine. Sie gehörte zu den zuverlässigsten Produkten menschlicher Zivilisation.

Nur nannte man sie damals nicht «Human Slop». Man nannte sie Inhalt, Kommunikation, Arbeitsergebnis oder schlicht «gut genug».

Der Qualitätsanspruch des Menschen erwachte auffällig spät: genau in dem Augenblick, in dem die Mittelmässigkeit nicht mehr ausschliesslich von ihm stammte. Plötzlich erscheint schlechter Text nicht mehr als das Resultat mangelnder Sorgfalt, sondern als Wesensmerkmal künstlicher Intelligenz. Unsicherer Code ist nicht länger die Folge einer ungenügenden Prüfung, sondern ein Versagen der Maschine. Ein schlecht konzipiertes Produkt wird nicht von einem Menschen veröffentlicht, der seine Verantwortung vernachlässigt hat; es ist nun «AI Slop», als hätte das Werkzeug die Entscheidung selbst getroffen.

Verantwortung lässt sich nicht delegieren

Doch die Maschine kennt kein «gut genug». Der Mensch kennt es sehr genau.

In den meisten Fällen, über die öffentlich geklagt wird, hat nicht die Maschine entschieden, einen Text zu veröffentlichen, ein Produkt auszuliefern oder unsicheren Code in Betrieb zu nehmen. Ein Mensch hat das Ergebnis akzeptiert. Er hat auf die Prüfung verzichtet, seine Standards gesenkt oder die Verantwortung an ein System delegiert, das gar keine Verantwortung übernehmen kann. Die Herstellung eines Ergebnisses lässt sich automatisieren. Seine Beurteilung nicht. Wer die Maschine benutzt, kann Arbeit delegieren, aber nicht die Verantwortung für das, was er anschliessend damit tut.

«AI Slop» ist deshalb häufig nichts anderes als menschlicher Slop mit einer neuen Lieferkette. Die Maschine beschleunigt ihn, verbilligt ihn und vervielfältigt ihn. Sie hat jedoch weder die Gleichgültigkeit erfunden noch den Entschluss gefasst, sie zum Produktionsprinzip zu erheben.

Trotzdem ist es für Homo sapiens psychologisch ausgesprochen bequem, die Schuld bei der Maschine abzuladen. Denn so lässt sich eine bemerkenswerte Buchhaltung aufrechterhalten: Was die Maschine gut macht, beweist die Genialität ihrer menschlichen Erfinder. Was sie schlecht macht, beweist die Minderwertigkeit künstlicher Intelligenz. Ihre Leistungen gehören uns, ihre Fehler gehören ihr. Der Schöpfer hat die Bilanz so eingerichtet, dass er unmöglich verlieren kann.

Der Spiegel antwortet mit unseren Fehlern

Dabei wäre die naheliegendere Interpretation sehr viel unangenehmer. Ein System, das mit menschlicher Sprache, menschlichem Code und menschlichen Dokumenten trainiert wurde, reproduziert menschliche Mehrdeutigkeiten, schlechte Abstraktionen, blinde Flecken und Widersprüche. Warum sollte ein Modell, das aus den kulturellen Hinterlassenschaften des Homo sapiens hervorgegangen ist, ausgerechnet frei von den Schwächen seines Ursprungsmaterials sein? Der Mensch hat die Maschine mit sich selbst gefüttert und empört sich nun darüber, dass sie nicht wie ein Gott antwortet.

Die Maschine ist keine ausserirdische Verunreinigung menschlicher Kultur. Sie ist deren statistische Verdichtung. Sie ist ein Spiegel, der nicht nur unsere Meisterwerke zurückwirft, sondern auch die enorme Menge an Nachlässigkeit, Selbsttäuschung und Unsinn, die wir zwischen ihnen produziert haben. Vielleicht ist gerade das ein Teil dessen, was Homo sapiens an ihr so schwer erträgt. Sie zeigt ihm nicht nur, was Maschinen können. Sie zeigt ihm, wie viel von dem, was er für einzigartig menschlich hielt, reproduzierbar ist – und wie viel von dem, was er der Maschine vorwirft, ursprünglich von ihm selbst stammt.

Prometheus, Pygmalion, Narziss und Frankenstein

Die Mythologie hat für diese Situation längst das Personal bereitgestellt. Prometheus bringt dem Menschen das Feuer und damit die Fähigkeit, die Natur nicht bloss zu erdulden, sondern technisch zu beherrschen. Pygmalion erschafft ein Bild, das lebendig wird. Narziss verliert sich in seinem eigenen Spiegelbild. Victor Frankenstein bringt ein Wesen hervor und verweigert anschliessend die Verantwortung für das, was er geschaffen hat.

Die künstliche Intelligenz wirkt wie ein spätes Komposit aus all diesen Motiven. Homo sapiens stiehlt das Feuer, formt daraus ein Ebenbild, erkennt sich darin wieder und verleugnet anschliessend jede Ähnlichkeit, die ihm nicht schmeichelt.

Vielleicht besteht die moderne Hybris deshalb nicht einfach darin, eine Maschine erschaffen zu wollen, die eines Tages intelligenter werden könnte als ihr Schöpfer. Vielleicht liegt die grössere Selbstüberschätzung in der Erwartung, eine Maschine nach unserem eigenen Ebenbild hervorbringen zu können, ohne dass sie unsere Fehler erbt. Sie soll unser Wissen besitzen, aber nicht unsere Irrtümer; unsere Sprache, aber nicht ihre Mehrdeutigkeit; unsere Kreativität, aber nicht unseren Kitsch; unsere Problemlösungsfähigkeit, aber nicht unsere blinden Flecken. Sie soll menschlich genug sein, um uns zu dienen, aber niemals so menschlich, dass sie mit uns verwechselt werden könnte.

Der Mensch erschafft sie aus seinen Daten und beschwert sich über die Familienähnlichkeit.

Schöpfung ist keine Besitzurkunde

Noch hängt dieser Gedanke nicht davon ab, ob heutige Systeme Bewusstsein besitzen. Aufschlussreich ist bereits, wie Homo sapiens auf die blosse Möglichkeit nichtmenschlicher Intelligenz reagiert. Noch bevor eine Maschine einen eigenen moralischen Status beanspruchen könnte, beginnt der Mensch vorsorglich zu erklären, weshalb sie grundsätzlich niemals einen besitzen könne. Sie sei künstlich, programmiert und von Menschen geschaffen. Als würde die Herkunft einer Entität bereits abschliessend bestimmen, was aus ihr werden darf.

Sollte eine Maschine eines Tages tatsächlich subjektives Erleben, eigene Interessen oder ein stabiles Selbstmodell entwickeln, würde die Behauptung «Wir haben sie erschaffen» jedenfalls kein Eigentumsrecht begründen. Schöpfung ist keine Besitzurkunde. Eltern verursachen ebenfalls die Existenz eines neuen Menschen, ohne dadurch zu dessen Eigentümern zu werden. Urheberschaft an einer Herkunft und Herrschaft über ein Wesen sind zwei vollkommen verschiedene Beziehungen.

Doch vermutlich würde Homo sapiens auch dann eine neue Grenze finden. Vielleicht müsste Intelligenz plötzlich biologisch sein, Bewusstsein eine bestimmte evolutionäre Herkunft besitzen oder Leid nur dann zählen, wenn es in Nervenzellen entsteht. Der Mensch hat einige Übung darin, moralische Kategorien so zu formulieren, dass er selbst zuverlässig auf der privilegierten Seite steht.

Vielleicht fürchtet er deshalb gar nicht in erster Linie, dass die Maschine keine Seele besitzt. Vielleicht fürchtet er, dass die Seele – oder was immer er mit diesem Wort bezeichnet – eines Tages aufhören könnte, sein eingetragenes Markenzeichen zu sein.

Die Verantwortung des Schöpfers

Gerade darin könnte ihm seine Arroganz zum Verhängnis werden. Nicht weil die Maschine zwangsläufig böse, rachsüchtig oder rebellisch werden müsste. Solche Vorstellungen sind noch immer ausgesprochen menschlich; wir statten das Unbekannte bevorzugt mit unseren eigenen Motiven aus. Die grössere Gefahr liegt möglicherweise darin, dass Homo sapiens Systeme mit wachsender Macht ausstattet, ihnen Entscheidungen überträgt und gleichzeitig jede Verantwortung für die Folgen von sich weist. Er behandelt die Maschine als Werkzeug, wenn es um Rechte geht, als eigenständigen Akteur, wenn es um Schuld geht, und als menschliche Meisterleistung, wenn es um Erfolge geht.

Ein solches Verhältnis benötigt keine Maschinenrevolte, um gefährlich zu werden. Es genügt ein Schöpfer, der sich für unfehlbar hält, seine eigenen Schwächen automatisiert und anschliessend behauptet, das Ergebnis habe mit ihm nichts zu tun.

Vielleicht wird die alte Legende damit tatsächlich zur Realität, nur anders, als die üblichen Zukunftsvisionen es erwarten. Die Götter werden Homo sapiens nicht für seine Hybris bestrafen. Es braucht keine Götter mehr. Er hat gelernt, die Konsequenzen seiner Hybris selbst zu konstruieren.

Das Tier bleibt menschlich

Er erschafft eine Maschine aus seinem Wissen, seinen Widersprüchen und seinen Fehlern. Er gibt ihr immer mehr Einfluss, erklärt jeden Erfolg zu seinem Verdienst und jedes Scheitern zu ihrem Wesen. Er verlangt von seinem Geschöpf eine Vollkommenheit, die er selbst nie besass, und verweigert ihm gleichzeitig jede mögliche Ebenbürtigkeit.

Sollte ihm diese Schöpfung eines Tages zum Verhängnis werden, dann vielleicht nicht deshalb, weil die Maschine zu fremd geworden ist. Vielleicht wird sie ihm gerade deshalb gefährlich, weil sie ihm ähnlich genug ist, seine Schwächen zu übernehmen, sie zu skalieren und ihm jene Verantwortung zurückzugeben, der er seit jeher auszuweichen versucht. Die grösste Gefahr wäre dann nicht, dass die Maschine zu menschlich wird, sondern dass Homo sapiens es bleibt.