Die leistungsschwächste KI

Olivier Hamants Plädoyer für Robustheit und was dies von der von uns aufgebauten Infrastruktur verlangt

I. Ein Wort, das wir nicht mehr verwenden sollten

Beginnen wir mit einem Wort, das unser Denken still und leise neu geordnet hat.

Seit dreißig Jahren weist „Impact“ in eine Richtung: die Auswirkungen unserer Aktivitäten auf die Umwelt. Den Fußabdruck messen, die Zahl reduzieren, die Reduzierung melden. Die Logik ist top-down.

Sie geht davon aus, dass wir handeln und die Welt dies aufnimmt, dass wir die Variable sind, die gesteuert wird.

Der französische Biologe Olivier Hamant schlägt vor, dies umzukehren. Die Frage, die nun zählt, so argumentiert er, ist die Auswirkung der Umwelt auf unsere Aktivitäten. Und alles ändert sich, wenn man den Pfeil umdreht. Der erste Ansatz setzt Kontrolle voraus.

Die zweite geht von Schwankungen aus und fragt, was wir aufbauen müssen, um diese zu überstehen.

Vokabular ist Infrastruktur. Die Wörter, die einem Designteam zur Verfügung stehen, bestimmen, welche Systeme denkbar sind, welche Kompromisse wie Kosten und welche wie Vorteile erscheinen und welche Fehler überhaupt als Fehler erkennbar sind. Ein Team, das nur das Wort „Optimierung“ kennt, wird optimieren und jedes Argument für Spielraum als Argument für Verschwendung empfinden.

In diesem Essay geht es um ein Werk, das den fehlenden Wortschatz liefert, und darum, was passiert, wenn man diesen Wortschatz mit bereits aufgebauter Infrastruktur abgleicht.

II. Die Welt des Mittelwerts hinter sich lassen

Hamant ist Pflanzenbiologe. Er ist Forschungsdirektor am INRAE an der École normale supérieure de Lyon und leitet das Institut Michel Serres, das sich mit natürlichen Ressourcen und den Gemeingütern befasst und Robustheit als eines seiner vier Gründungskonzepte nennt.

Er hat rund hundert Artikel in den Bereichen Biophysik und Pflanzenentwicklung veröffentlicht und im Februar 2026 die Ehrendoktorwürde der UCLouvain erhalten.[1] Die folgende Argumentation ergibt sich aus der Untersuchung des Zellwachstums.

Seine Diagnose des Jahrhunderts lässt sich in einem Satz zusammenfassen: Wir verlassen die Welt des Mittelwerts und betreten die Welt der Standardabweichung. Wir verlassen die Kontinuität zugunsten des Bruchs.

Die einzige Gewissheit, sagt er, sei, dass die Ungewissheit fortbestehen und zunehmen werde.[2]

Er führt dies nicht auf eine einzelne Disziplin zurück, sondern auf die übereinstimmenden Berichte des IPCC, der IPBES, der IUCN, des Weltwirtschaftsforums und sogar der CIA, und führt es auf Donella Meadows und ihre Kollegen in „Die Grenzen des Wachstums“ (1972) zurück.[3] Was auch immer man von der Politik dieser Gremien halten mag – ihre gemeinsame Beobachtung ist eher struktureller als ideologischer Natur: Die Varianz nimmt zu, und Systeme, die auf den Durchschnitt abgestimmt sind, werden mit Bedingungen konfrontiert, auf die sie nicht ausgelegt sind.

Dann folgt die Behauptung, die die eigentliche Arbeit leistet. Die schwankende Welt ist nicht etwas, das uns einfach widerfahren ist. Sie ist das Ergebnis unserer eigenen Optimierung.

Leistung ist nach Hamants Definition Wirksamkeit (das Erreichen des Ziels) plus Effizienz (mit minimalem Aufwand). Null Lagerbestand. Just-in-time. Enge Kopplung. Dies ist eine hervorragende Anpassung an eine stabile Welt mit reichlich vorhandenen Ressourcen, und genau das ist es, was eine kleine Störung zu einer systemischen macht.

Ein einziges Containerschiff blockiert 2021 den Suezkanal, und der Welthandel kommt für eine Woche zum Erliegen. 2024 wird ein Software-Update veröffentlicht, und die Flughäfen stehen still. Ein Virus, das an sich nicht ungewöhnlich gefährlich ist, trifft auf eine hypervernetzte und hyperoptimierte Welt und wird zur Pandemie. Eine Syndemie, wie er es formuliert: eine Krankheit eines überoptimierten Systems.[4]

Der Soziologe Charles Perrow hat dies in „Normal Accidents: Living with High-Risk Technologies“ (1984) benannt. In Systemen, die zugleich sehr komplex und eng miteinander verflochten sind, sind Unfälle keine Anomalien, die durch technische Maßnahmen beseitigt werden können. Sie sind Eigenschaften der Systemkonfiguration.

Die Frage ist nicht, ob, sondern wann und was danach geschieht.[5]

III. Kontraproduktivität

Dem Leistungsgedanken stellt Hamant die Robustheit gegenüber: die Fähigkeit eines Systems, trotz Schwankungen kurzfristig stabil und langfristig lebensfähig zu bleiben. Die damit verbundene Ökonomie ist nicht Optimierung, sondern Lebensfähigkeit. Dabei strebt man, wie er es ausdrückt, nach Suboptimalität.

Als ihre mathematische Form nennt er die Lebensfähigkeitstheorie des französischen Mathematikers Jean-Pierre Aubin: nicht eine Bahn hin zu einem Optimum, sondern ein begrenzter Bereich, in dem man bleiben muss. [6] (Aubin wird hier so zitiert, wie Hamant ihn heranzieht; wir haben die mathematische Primärliteratur nicht herangezogen.)

Die diesem Konzept zugrunde liegende Biologie ist real und wissenschaftlich überprüft. Pflanzenorgane sind auffallend reproduzierbar – jede Blüte am Stiel hat dieselbe Form –, und doch bestehen sie aus Zellen, die mit deutlich unterschiedlichen Geschwindigkeiten wachsen. Diese Heterogenität ist kein Rauschen, das der Organismus nicht unterdrücken konnte. Sie wird aufrechterhalten und trägt zur Bildung des unveränderlichen Organs bei.

Lokale Schwankungen erweisen sich eher als lehrreicher Anhaltspunkt denn als Fehlerterm.[7]

Verallgemeinert wird dies zu einer Aussage über Systeme als solche. Robustheit baut auf all dem auf, was eine Leistungskultur als Versagen betrachtet:[8]

• Heterogenität. Teile, die sich unterscheiden, damit sie nicht alle auf dieselbe Weise versagen.
• Redundanz. Mehr als nur ein Exemplar von dem, was zählt.
• Langsamkeit. Genug Zeit, damit eine Korrektur greifen kann, bevor die nächste Veränderung eintritt.
• Inkohärenz. Interne Uneinigkeit, die nicht wegoptimiert wurde.
• Spielraum. Kapazität, die Sie derzeit nicht nutzen.

Hamant greift auf Ivan Illich zurück, um den Mechanismus zu benennen, und entlehnt dabei den Begriff aus „Tools for Conviviality“ (1973). Kontraproduktivität: der Punkt, an dem jede Leistungssteigerung die Robustheit verringert. Jenseits dieser Schwelle führt eine Verbesserung in der Sache dazu, dass man schlechter überleben kann.[9]

Daraus ergeben sich zwei Konsequenzen.

Die erste ist eine Umkehrung des schwächsten Glieds. In einer stabilen, ressourcenreichen Welt ist das schwache Glied in einer Wertschöpfungskette das leistungsschwächste, weil es alle anderen ausbremst. In einer instabilen Welt ist das schwache Glied das leistungsstärkste. Denn es ist am stärksten optimiert und daher am anfälligsten. Die Abhängigkeit vom schnellsten, günstigsten und leistungsfähigsten Lieferanten ist keine Beschaffungspräferenz.

Es ist eine strukturelle Belastung, die sich als Vorsicht tarnt.[10]

Zweitens ist Robustheit keine moralische Haltung. Hamant drückt es deutlich aus: Sie ist ein Rezept für den Aufbau von Lebensfähigkeit in einer schwankenden Welt. Das Argument lässt sich auch gegenüber Menschen anbringen, die diese politische Haltung nicht teilen, und es hält die Diskussion fern von moralisierenden Tönen, in denen die meisten Texte über Technologie und Ökologie versanden.[11]

IV. Das schmale Band

Was sagt das also über künstliche Intelligenz aus?

Hamant ist hier nicht neutral. Auf die direkte Frage, ob generative KI uns helfen wird, den bevorstehenden Schwankungen zu begegnen, räumt er ihr einen Nutzen ein: Serendipität. Die Konfrontation mit unbekannten Quellen, anderen Daten und anderen Denkweisen, die die Eingaben eines Systems wirklich diversifiziert und somit die Robustheit fördert.

Darüber hinaus äußert er sich vernichtend, und zwar aus systemischen statt aus ästhetischen Gründen: der Ressourcenverbrauch in den Regionen, in denen die Rechenleistung bereitgestellt wird, die Hunderte Millionen von Klick-Arbeitern, die seiner Darstellung nach die Modellausgaben bereinigen, sowie zwei sich verstärkende technische Fehler.

Das erste nennt er „consanguinité“, Inzucht. Modelle produzieren Inhalte und ernähren sich dann von den Inhalten, die sie selbst produziert haben. Eine Verschlechterung ist die Folge. Die Version in seinen Seminarunterlagen ist noch weiter gefasst: Inzucht des Designs, die Konvergenz von Architektur, Zielsetzung und Bewertung über eine kleine Anzahl nahezu identischer Systeme hinweg.[12]

Der zweite Fehler ist das Einschlafen am Steuer. Wenn ein System sehr leistungsfähig ist, vertrauen die Menschen ihm und hören mit der Zeit auf, es zu überprüfen. Kombiniert man diese beiden Fehler, führt dies dazu, dass Menschen immer weniger zuverlässigen Systemen immer mehr vertrauen.

Er nennt es eine Maschine zur Erzeugung von Katastrophen und greift erneut auf Perrows „normalen Unfall“ zurück.

Hamants Version davon ist eine ingenieurwissenschaftliche These: Unüberprüfte Systeme versagen. Arendt verdeutlicht, worum es dabei geht.

Auf die Frage, welche Art von KI tatsächlich sinnvoll ist, antwortet Hamant, dass es diejenige mit der geringsten Leistungsfähigkeit ist. Denn ein System, das langsam genug oder fehlbar genug ist, um eine Überprüfung durch einen Menschen zu erfordern, ist ein System, das den Menschen konstruktionsbedingt und nicht nur aus politischen Gründen im Regelkreis hält. Ein Modell, das so schnell läuft, dass niemand es überprüft, ist, wie er es ausdrückt, eine sich anbahnende Katastrophe.[13]

Das ist der enge Bereich. Es ist nicht der Bereich, in dem die Spitzenforschungslabore miteinander konkurrieren, und es ist kein Bereich, in den man gelangt, indem man einem Maximierer ein Grundsatzdokument beifügt.

Es ist ein Bereich, in den man gelangt, indem man die Ablehnungsmechanismen in das Substrat einbaut.

Hamant ist kein Technikfeind, und er achtet sorgfältig darauf, dies zu betonen. Robustheit, so argumentiert er, sei technikfreundlich, da sie Objekte begünstige, die vor Ort repariert werden können. Und daher sei sie „konvivial“ in dem Sinne, wie Illich den Begriff in *Tools for Conviviality* (1973) verwendete: Ein konviviales Werkzeug ist eines, das sein Benutzer beherrschen und für eigene Zwecke nutzen kann, anstatt eines, das vorschreibt, wie es verwendet werden muss.

Es ist die Welt der Leistungsorientierung, die sich als technikverschlingend erweist, wobei jede Generation „leistungsfähiger“ Technologie ihre Vorgängerin verschlingt und das Verständnis immer weiter aus dem greifbaren Bereich der Alltäglichkeit verdrängt. Kaum jemand kann heute noch das Gerät in seiner Hosentasche reparieren. Sein Paradebeispiel für endgültige Entfremdung ist die KI: Systeme, die selbst für die Menschen, die sie bauen, zu Black Boxes geworden sind.

Was er stattdessen fordert, liest sich fast wie eine Spezifikation:[14]

• Objekte, die vor Ort reparierbar sind.
• Von Grund aufanpassungsfähig und kreislaufwirtschaftlich.
• Wo möglich aus Materialien hergestellt, die vor Ort produziert werden.
• Nicht die eine beste Technologie, sondern ein Plan A, ein Plan B, ein Plan C und ein Plan D, die jeweils der Robustheit eines Ortes dienen.

V. Die Konvergenz

Die Philosophen waren bereits mit am Bau beteiligt.

Die „Village“-Plattform und das „Tractatus“-Governance-Framework wurden auf einer veröffentlichten philosophischen Grundlage errichtet:[15]

• Isaiah Berlin über Wertepluralismus. Vier Essays über Freiheit (1969).
• Christopher Alexander über strukturelle Integrität. „The Nature of Order“, Band 2 (2002).
• Wittgenstein über die Grenzen des Sagbaren. „Tractatus Logico-Philosophicus“ (1921).
• Simone Weil über Achtsamkeit. „Waiting for God“ (1951).
• Elinor Ostrom über die Allmende. Governing the Commons (1990).
• Rahmenwerke der Māori zur Datenhoheit. „Te Mana Raraunga“, die CARE-Prinzipien, OCAP.

Letztere sind im wahrsten Sinne des Wortes Stand der Technik. Indigene Gemeinschaften haben sich schon lange bevor die Industrie einen Begriff dafür hatte mit Datensouveränität auseinandergesetzt. Fünf von Alexanders Prinzipien tragen im Framework Regelkennungen und werden als Designkriterien durchgesetzt, anstatt nur als Bestrebungen dokumentiert zu sein:

• Nicht-Getrenntheit. Governance ist Teil des kritischen Ausführungspfads und wird nicht nachträglich angefügt.
• Tiefe Verflechtung. Dienste validieren sich gegenseitig; kein einzelner Dienst kann eine Aktion allein genehmigen.
• Gradienten statt Grenzen. Governance funktioniert auf Intensitätsstufen, nicht als binärer Schalter.
• Strukturerhaltende Transformation. Änderungen müssen die wesentliche Struktur des Systems bewahren; Prüfprotokolle bleiben über Versionen hinweg interpretierbar und frühere Governance-Entscheidungen behalten ihre Gültigkeit.
• Lebendiger Prozess. Das Rahmenwerk entwickelt sich aus dokumentierten Fehlern und beobachteten Randfällen und nicht aus einer vorab festgelegten Spezifikation.[15]

Vergleichen Sie diese nun mit Hamant, der noch nie etwas davon gehört hat und seine Überlegungen auf Zellwänden und Turgordruck aufbaut.

Das Konzept der Gradienten wird in unserer eigenen veröffentlichten Architektur mit dem Satz umschrieben, dass sich lebende Systeme allmählich anpassen, während mechanische Systeme abrupt versagen. Das ist Hamants Unterscheidung zwischen Robustheit und Leistung, in einem einzigen Satz ausgedrückt, noch bevor wir auch nur ein Wort von ihm gelesen hatten.[16]

„Deep Interlock“ ist sein ausgearbeitetes Beispiel aus dem Ingenieurwesen: nicht der optimierte Kampfjet, sondern das Verkehrsflugzeug, das mit halber Auslastung und drei unabhängigen Autopiloten fliegt. Redundanz plus echte Unabhängigkeit, sodass der Ausfall eines Systems nicht mit dem Ausfall des nächsten korreliert.[17]

„Lebendiger Prozess“ ist seine wiederholte Aufforderung, nicht mehr nach der schlüsselfertigen Lösung zu suchen, sondern stattdessen nach den Bedingungen, unter denen Lösungen entstehen. Und seine Unterscheidung zwischen Agilität, die zwischen Risiken hindurchslalomt, während das Ziel festgehalten wird, und Anpassungsfähigkeit, die genügend Spielraum lässt, um das Ziel zu ändern, wenn sich die Welt ändert.[17]

„Strukturerhaltung“ ist das, was er mit „durer et transmettre“ – bestehen und weitergeben – meint, was er als einen tiefen menschlichen Antrieb bezeichnet. Hier kommt auch eine Unterscheidung zum Tragen, die er von der Philosophin und Psychoanalytikerin Cynthia Fleury übernimmt: Zerbrechlichkeit gehört zu Objekten, die unwiderruflich zerbrechen; Verletzlichkeit gehört zu Lebewesen, die heilen.[17] (Wir zitieren Fleury so, wie Hamant sie wiedergibt, und nicht aus ihren eigenen Texten.)

„Nicht-Getrenntheit“ ist seine Umkehrung der Zugangsbeschränkung. Die Grundlage eines Projekts, so argumentiert er, sei nicht die Ökonomie; es sei vielmehr die Sorge um das Milieu, die das soziale Band schaffe, welches wiederum die Ökonomie erzeuge. Die Ökonomie sei das Ergebnis, nicht das Tor.[17]

Zwei unabhängige Ableitungen derselben fünf Kriterien. Eine aus der Architektur, eine aus der Pflanzenbiologie. Und die Bestätigung kam, nachdem die Prinzipien bereits festgelegt waren. Diese Reihenfolge ist entscheidend. Sie macht dies zu einem Beweis und nicht zu einer Rechtfertigung.

VI. Wozu die Aufzeichnung dient

Ein Protokoll, das signiert, versiegelt und mit einem Zeitstempel versehen ist, ist nach den Maßstäben des Zeitalters der Optimierung ein seltsames Artefakt. Es lässt sich langsamer erstellen als eine veränderbare Zeile. Es beansprucht Speicherplatz. Es schließt eine saubere nachträgliche Bearbeitung aus.

Jeder dieser Punkte ist mit Leistungseinbußen verbunden.

Sie sind aber auch genau der springende Punkt.

Hamant stellt fest, dass Menschen die einzigen Lebewesen sind, die Zugang zu sehr langer Zeit haben, und dass wir diesen Zugang durch das Schreiben erhalten. Seine Kritik richtet sich darauf, was wir mit diesem Zugang tun: Wir frieren die Zukunft ein – in Kryotechnik, Saatgutbanken und Biobanken –, anstatt die lange Zeit zu bewohnen. Eine versiegelte und mit einem Zeitstempel versehene Aufzeichnung ist die andere Verwendungsmöglichkeit. Sie ist ein Instrument des „durer et transmettre“, geschaffen, damit ein Urenkel überprüfen kann, was ein Urgroßelternteil gesagt hat und wann.[17]

Robustheit legt Wert auf Reversibilität. Ein kryptografisches Siegel ist per Definition irreversibel.

Die Lösung liegt bereits in der Architektur, unter dem Namen „Strukturerhaltende Transformation“: Korrekturen erfolgen durch Anmerkungen, niemals durch Löschung. Prüfprotokolle bleiben über Versionen hinweg interpretierbar; historische Entscheidungen behalten ihre Gültigkeit; Rücknahmen werden innerhalb des Dokuments vermerkt, anstatt daraus entfernt zu werden. Was man erhält, ist die Reversibilität der Interpretation auf der Grundlage einer irreversiblen Beglaubigung. Die Aufzeichnung heilt durch Akkretion.[18] In Fleurys Worten ist sie eher anfällig als zerbrechlich. Und das ist eine Designeigenschaft, kein Trost.

Das zugrunde liegende Prinzip

Das bringt uns zu dem Teil dieser Argumentation, den Hamant nicht liefert und den wir hier von einer stilistischen Präferenz zu einer strukturellen erheben.

Im Winter nach dem Fall Frankreichs veröffentlichte Simone Weil in der unbesetzten Zone unter einem Pseudonym, das sie gewählt hatte, um die Zensur von Vichy zu umgehen, einen Aufsatz über die „Ilias“, dessen These lautet, dass das wahre Thema des Gedichts die Gewalt sei. Und diese Gewalt ist das, was jeden, der ihr ausgesetzt ist, in ein Ding verwandelt. Ihr zweiter Schritt ist der, der für die Infrastruktur von Bedeutung ist: Gewalt entwürdigt auch denjenigen, der sie ausübt, indem sie Vernunft und Mitleid abstumpft, bis derjenige, der sie ausübt, ebenfalls zu einem Automaten wird.[19]

Aggregation ist dieser Vorgang. Profiling, Schlussfolgerungen aus den Texten anderer Menschen und die Rekonstruktion von Persönlichkeitsmerkmalen anhand des Verhaltens – all dies erzeugt ein Bild einer Person aus Material, das diese nicht selbst übermittelt hat, und zu Zwecken, bei deren Festlegung sie nicht anwesend war, um Einwände zu erheben. Die Person wird zu einem Objekt, das das System in seiner Gewalt hält.

Weil ist schon seit einiger Zeit in den veröffentlichten Grundlagen dieses Projekts vertreten, in dem Teil, den jede Gemeinschaft entsprechend ihrer eigenen Tradition gestaltet. Ihre Darstellung von Aufmerksamkeit als empfängliche Auseinandersetzung mit Leid ist der Grund, warum die Plattform anbietet, sich Zeit für einen Todesfall zu nehmen, anstatt einen Verlust auf eine Zusammenfassung zu komprimieren.[15] Das ist eine echte gestalterische Konsequenz, und sie bleibt, wo sie ist.

Doch das Argument des „Poem of Force“ gehört in den Teil, den niemand herausredigieren kann. Weder eine Community, noch ein Mitglied, noch wir:

Kein Mitglied darf auf eine Aggregation reduziert werden. Weder wir noch das Modell erstellen, speichern oder leiten ein zusammengesetztes Bild einer Person ab. Wenn die Plattform Material über eine Person zusammenstellt, wie beispielsweise bei der genealogischen Anreicherung innerhalb einer einzelnen Gemeinschaft, geschieht dies auf Wunsch eines Mitglieds, anhand der eigenen Aufzeichnungen dieser Gemeinschaft, und es wird nichts ohne die Bestätigung dieses Mitglieds verfasst.

Weils zweiter Satz macht dies zu einer strukturellen und nicht zu einer politischen Verpflichtung. Eine Plattform, die lediglich die Fähigkeit zur Aggregation beibehält, wird unter kommerziellem Druck und im Laufe der Zeit zu einer Plattform, die diese Fähigkeit auch nutzt. Die Verweigerung muss architektonisch verankert sein, da man nicht darauf vertrauen kann, dass der Betreiber diese Verweigerung dauerhaft aufrechterhält.

Das ist dasselbe Argument wie die Trennung von Build- und Laufzeit, zu der Homer gelangt ist.

VII. Ein Modell, das irgendwo verbleibt

Zu Hamants ausgearbeiteten Beispielen für den Kompromiss zwischen Leistung und Robustheit gehört die Sprache selbst: der leistungsfähige Algorithmus, der ein Gespräch abbricht, im Gegensatz zur Sprache mit ihren Fehlern, Redundanzen und ihrer Heterogenität. Genau das ermöglicht Nuancen, Missverständnisse und damit den Dialog.[20]

Er spricht nicht von der Verarbeitung natürlicher Sprache, und genau deshalb ist diese Beobachtung nützlich. Die Redundanz wird nicht trotz des Dialogs toleriert. Sie ist die Voraussetzung für den Dialog.

Ein System, das sie wegkomprimiert, hat genau das entfernt, was den Austausch zu einem Austausch gemacht hat.

Dies ist die klarste verfügbare Aussage darüber, warum ein global gemitteltes Modell das falsche Instrument für eine Gemeinschaft ist, die ihre eigenen Sprachregister, ihre eigenen Schweigen und ihre eigene Art hat, Dinge nicht auszusprechen. Und sie ergibt sich unabhängig von jeglichem Souveränitätsargument, was sie umso stärker macht: Selbst wenn die Zuständigkeit irrelevant wäre, selbst wenn die Daten den Ort nie verlassen würden, wäre die Mittelwertbildung dennoch ein Verlust.

Dem gegenüber steht das Institut Michel Serres, das sich vor allem als lebendige Schule beschreibt, die Raum für „connaissances situées et impliquées“ bietet. Situiertes und impliziertes Wissen, das aus dem Zuhören und aus der Zusammenarbeit in der gesamten Gesellschaft entsteht. Das Institut leitet seinen Namen und seine Prämisse aus Michel Serres’ *Le Contrat Naturel* (1990) ab, in dem vorgeschlagen wurde, alle natürlichen Wesen als Rechtssubjekte anzuerkennen und sich eine symbiotische Organisation der Beziehungen zwischen Menschen und allem anderen Lebendigen vorzustellen.[21]

Dieser Ausdruck ist keine Metapher, die wir übernehmen. Situiertes und impliziertes Wissen ist dasselbe Bekenntnis wie eine situierte Sprachebene, nur dass es von einem Forschungsinstitut statt von einer Plattform formuliert und aus einer anderen Richtung erreicht wird.

Die konzeptionelle Konsequenz daraus ist Hamants Plan A, B, C, D. Nicht das beste Modell, sondern mehrere Modelle, die lokal reparierbar und anpassungsfähig sind und der Robustheit eines Ortes dienen. Das wendet sich sowohl gegen die Monokultur innerhalb unseres eigenen Systems als auch außerhalb davon: Wenn ein Verbund keine echte interne Vielfalt aufweist – also unterschiedliche Implementierungen, Zuständigkeiten, Sprachen und Bereitstellungstopologien –, dann ist der Pluralismus rein rhetorisch, und die Kritik an der „Design-Inzucht“ trifft auch auf uns zu.

VIII. Die Verwalter

Rekursive, sich selbst verbessernde Programmieragenten werden einen immer größeren Teil der Arbeit beim Aufbau und der Wartung dieser Systeme übernehmen. Das ist keine Vorhersage; es ist bereits teilweise Realität. Und Hamant hat den Fehlermodus mit unwillkommener Präzision benannt. Am Steuer einzuschlafen ist kein Laufzeitproblem, das durch eine Laufzeitgrenze gelöst werden kann.

Es ist ein Problem der Erstellungsphase, und genau in dieser Phase wird der Mensch verdrängt.

Hamant sagt uns, was kaputtgeht. Hannah Arendt sagt uns, wo es endet. Und sie ist der Grund, warum diese Architektur die Form hat, die sie hat. Sie liefert nach wie vor die klarste Darstellung, die wir kennen, davon, wie Werte abdriften: wie etwas schiefgeht, ohne dass jemand beschließt, etwas Falsches zu tun.

Das ist die Frage, auf die die gesamte Struktur eine Antwort geben soll.[22]

Ein Mechanismus zieht sich durch ihr Werk, und er verläuft als Abfolge: Selbstgefälligkeit, dann Normalisierung, dann Abdriften. Das Entscheidende daran ist, dass er eher mechanischer als moralischer Natur ist. Er braucht keinen Bösewicht, und niemand muss irgendetwas entscheiden.

Selbstgefälligkeit. Diese Unterscheidung wird bei der Nacherzählung meist verwischt. Arendt argumentiert nicht, dass Eichmann unfähig war zu denken. Sie argumentiert, dass er nicht dachte, und dass Unheil in diesem Ausmaß kein monströses Motiv erforderte, sondern lediglich das Fehlen der Denkaktivität bei jemandem, der mit Abläufen beschäftigt war. Gedankenlosigkeit ist keine Dummheit. Es ist eine Fähigkeit, die nicht ausgeübt wurde – unter Bedingungen, die es bequem machten, sie nicht auszuüben.

Ein Flugbegleiter, der aufhört, die Abweichungsberichte zu lesen, weil diese seit sechs Monaten zuverlässig sind, ist nicht inkompetent. Er befindet sich in dem von Arendt beschriebenen Zustand, und das System hat dies für ihn so eingerichtet.

Normalisierung. Ihre beständigste und am häufigsten falsch interpretierte Beobachtung ist, dass großes Unheil sich selten als monströs ankündigt. Es kommt als das Alltägliche und Administrative daher, getragen von Menschen, die das zeigen, was sie als „eine merkwürdige, durchaus authentische Unfähigkeit zu denken“ bezeichnete. Keine Dummheit, nicht einmal Überzeugung, sondern das Versagen, die Welt aus einem anderen Blickwinkel als dem eigenen zu betrachten.[23][24] Das Groteske wird alltäglich, nicht weil sich jemand dafür entschieden hat, sondern weil sich alle daran gewöhnt haben.

Abdriften. Dann verschwinden die Werte. Nicht aufgehoben, und niemand verteidigt die Entscheidung, denn es gibt keine Entscheidung. Sie werden dem Ermessen überlassen und Schritt für Schritt, der jeweils vernünftig erscheint, ausgehöhlt, während alle sie weiterhin rezitieren, und hinterher kann niemand sagen, wann sie aufgehört haben, irgendetwas auszuschließen.

Es ist der Ausfallmodus, den die Dienste des „Tractatus“ aufhalten sollten – ausgedrückt auf zivilisatorischer Ebene. Die eigene Darstellung des Frameworks darüber, was geschieht, wenn Akteure durch Trainingsschleifen optimieren, lautet, dass Anweisungen verblassen, Grenzen verrutschen und Prüfpfade unzuverlässig werden können.[25] Drei Beschreibungen derselben Abfolge, von denen sich keine ankündigt.

Was Arendt liefert, ist der Grund, warum dies architektonisch gestoppt werden muss, anstatt nur aufmerksam beobachtet zu werden. Nichts in der Abfolge löst Alarm aus, da sich die Beteiligten bei jedem einzelnen Schritt vernünftig verhalten.

Das ist die Gestalt dessen, wogegen sich diese Architektur richtet. Nicht die Beschlagnahme. Nicht ein außer Kontrolle geratenes Modell. Eine langsame Anpassung, einen bequemen Schritt nach dem anderen, an etwas, das niemand akzeptiert hätte, wäre es auf einmal eingetreten.

Deshalb kann Rechenschaftspflicht nicht durch Protokollierung erfüllt werden. Arendts Bezeichnung für eine Autorität, die real ist, obwohl niemand dafür rechenschaftspflichtig ist, lautete „Herrschaft durch Niemanden“: ein komplexes System von Ämtern, in dem niemand – weder der Einzelne noch die Wenigen noch die Vielen – zur Verantwortung gezogen werden kann. Nicht die Abwesenheit von Herrschaft, sondern Tyrannei ohne Tyrannen, die sich dadurch auszeichnet, dass niemand mehr da ist, mit dem man streiten könnte.[26]

Das ist eine vollständige Beschreibung eines autonomen Akteursstapels ohne rechenschaftspflichtigen Auftraggeber, geschrieben ein halbes Jahrhundert zu früh. Und der praktische Test ist einfacher als jede Theorie: Wenn sich die Bedingungen unter dir ändern, wen rufst du dann an?[27] Ein perfekter Prüfpfad, der bei keiner Person endet, ist die Herrschaft durch Niemanden mit besserer Dokumentation.

Arendts letzter Beitrag ist derjenige, der diesen Abschnitt mit dem Rest des Aufsatzes verbindet. In den „Vorlesungen über Kants politische Philosophie“ (gehalten 1970, posthum veröffentlicht 1982) unterscheidet sie zwischen der Erkenntnis, die nach Lösungen sucht, dem Denken, das nach Sinn sucht, und dem Urteil, das über einen konkreten Fall entscheidet, ohne dass eine Regel vorliegt, die diesen im Voraus festlegt.

Das Urteil ist genau jene Fähigkeit, die sich nicht durch die Anwendung eines Verfahrens erfüllen lässt, da die Aufgabe darin besteht, die Regel zu finden, anstatt ihr zu folgen.[28] Es ist auch jene Fähigkeit, deren Fehlen sie bei Eichmann diagnostizierte: Das Unvermögen, die Welt aus einem anderen Standpunkt als dem eigenen zu betrachten, ist ein Versagen des Urteilsvermögens, nicht der Intelligenz.

Das ist dieselbe Behauptung, die Alexander in *The Nature of Order* aufstellt, wenn er darauf besteht, dass das Ganzheitsurteil nicht auf eine Regel reduziert werden kann, und dieselbe Behauptung wie die grundlegende Einschränkung dieses Rahmenwerks, dass Werte nicht automatisiert, sondern nur verifiziert werden können.[29][30] Drei Wege zu einer Schlussfolgerung: aus der politischen Philosophie, aus der Architektur und aus dem Bau des Objekts.

Alexander fügt die Einschränkung hinzu, wie die Arbeit zustande kommen sollte. Sein lebendiger Prozess erfordert, dass jeder Schritt auf das Ergebnis des vorherigen einwirkt, dass die Anpassung schrittweise erfolgt und dass jeder Schritt am Ganzen gemessen werden kann. Eine Struktur, die in großen Blöcken aus einem Masterplan generiert wird, ist für ihn das Paradebeispiel für einenstrukturzerstörenden Prozess.

Codierungsagenten sind Generatoren großer Blöcke; dafür sind sie da.[29]

Daraus ergeben sich drei Verpflichtungen, von denen jede mit Kosten verbunden ist.

Agenten geben geordnete Differenzierungen ab, keine Blöcke. Diese sind klein genug, dass die Auswirkung jedes einzelnen auf das Ganze tatsächlich beurteilt werden kann. Dies ist eine bewusste Reduzierung des Durchsatzes. Damit wird Hamants Argument, dass robuste Zirkularität Spielräume erfordert und dass ein zu schnell ablaufender Zyklus niemals echte Regeneration zulässt, auf den Entwicklungszyklus angewendet.

Die Beurteilung der Ganzheitlichkeit bleibt beim Menschen. Nicht „ein Mensch genehmigt die Differenzierung“. Das Kriterium für die Arbeit eines Agenten ist, ob sie die Ganzheitlichkeit des Systems bewahrt, erweitert und verbessert. Eine Beurteilung, die, wie Alexander betonte, nicht auf eine Regel reduziert werden könne – weshalb die Software-Patterns-Bewegung zwar seine Form annahm, seine Ergebnisse jedoch nicht reproduzierte. Dies ist das Pendant zur grundlegenden Einschränkung des Frameworks selbst: Werte können nicht automatisiert, sondern nur verifiziert werden.

Die Haltung des Verwalters kehrt sich um. Hamant beschreibt diesen Wandel präzise. In einer stabilen Welt führt der Entscheider und sagt: „Ich will “ und „Ich weiß, wie“. In einer instabilen Welt moderiert der Entscheider und sagt: „Ich würde gerne “ und „Ich weiß nicht, wie“. Bescheiden, inklusiv und eine Gruppe mobilisierend, die schließlich ohne ihn weitermachen kann.[31] Auf die agentische Entwicklung angewendet bedeutet dies, dass der Mensch nicht der offizielle Genehmiger ist.

Es ist der Mensch als derjenige, der die Absicht trägt, ohne dabei explizit die Methode festzulegen.

Ich würde gerne beziffern, was die Steuerung innerhalb des Trainingszyklus im Vergleich zur nachträglichen Filterung kostet. Das kann ich nicht. Der eigene Plan der Plattform veranschlagt fünf bis zehn Prozent und stuft die Messung als offen ein; und solange sie nicht durchgeführt wird, wäre jede präzisere Angabe eine Zahl, die ich mir ausdenken würde.

IX. Prozesse, nicht Überzeugungen

Nichts von dem oben Gesagten wird von Bedeutung sein, wenn der einzige Weg dorthin darin besteht, Menschen davon zu überzeugen, andere Werte zu vertreten. Dieser Weg ist langsam, er ist konfrontativ und scheitert genau dort, wo die Schwankungen am größten sind.

Hamants praktischer Vorschlag ist anders, und er ist der Teil seiner Arbeit, der es am meisten verdient, übernommen zu werden. Ändert man die Prozesse, folgen die Werte von selbst. Oder besser gesagt: Sie werden überflüssig, denn ein anders gestalteter Prozess führt zu anders geformtem Verhalten bei Menschen, die ihre Meinung zu nichts geändert haben.

Sein prägnantestes Beispiel ist eine Unterscheidung in drei Begriffe, wobei die Polarität im Englischen umgekehrt zum Französischen verläuft.

• Wettbewerb. Das eigene Projekt auf Kosten anderer vorantreiben.
• Zusammenarbeit, die kontraintuitive Variante. Einzelne Projekte vorantreiben, in der Hoffnung, dass die Summe der Erfolge zu einem kollektiven Erfolg führt. Hamants Fazit: eine Win-Win-Situation, bei der jemand anderes verliert – in der Regel die am wenigsten begünstigte Partei oder das Ökosystem. Wettbewerb mit freundlicherem Gesicht.
• Kooperation. Ein gemeinsames Ziel vor das individuelle stellen, was manchmal bedeutet, Einbußen bei der eigenen Leistung in Kauf zu nehmen, um die Robustheit der Gruppe zu stärken.[32]

Englischsprachige sollten beachten, dass „collaboration“ unser warmherziger Begriff und „cooperation“ unser bürokratischer Begriff ist, was genau das Gegenteil der oben genannten Bedeutung ist. Die Unterscheidung verändert das, was man aufbaut.

Das Beispiel ist ein Prozess, kein Gefühl: der Wechsel von einem „appel à projet“ – einer Ausschreibung, bei der Geldgeber einzelne Angebote bewerten – zu einem „appel à commun“, einem Aufruf, der ein Gemeinwesen bildet. Das eine ist ein Bewertungsmechanismus und führt zu Bewertungsverhalten. Das andere ist ein Bündelungsmechanismus und führt zu Bündelungsverhalten.

Niemand musste großzügiger werden.

Hamant berichtet, dass derselbe Wandel bereits im französischen Bauwesen stattfindet, wo Materialengpässe direkte Konkurrenten zu echter gegenseitiger Hilfe getrieben haben. In seiner Darstellung kein Kartell, sondern richtig verstandenes Eigeninteresse in einer Welt der Knappheit.[33]

Für eine Plattform ist dies keine Abstraktion. Wenn ein Gemeingut eine gemeinsam genutzte Ressource ist, besteht das Gestaltungsproblem in der Zugangskontrolle. Wenn ein Gemeingut in erster Linie ein gemeinsames Handeln ist – was Hamants Formulierung ist und auch die von Ostrom in „Governing the Commons“ (1990) –, dann besteht das Gestaltungsproblem in Governance, Beitrag und Stellung.

Diese führen zu unterschiedlichen Produkten, die aus demselben Code entstehen. Es ist der Unterschied zwischen Abonnenten eines Dienstes und Mitgliedern einer Sache, die sie gemeinsam gestalten, und er entscheidet darüber, was das Abonnement tatsächlich einbringt.[34]

Es gibt Belege dafür, dass sich dies verbreitet. Die wallonische Verwaltung hat Robustheit in ihre strategische Vision für 2030 aufgenommen. larobustesse.org existiert als offene Commons unter CC BY-SA, wird von der Region Wallonien finanziert, veranstaltet monatliche öffentliche Sitzungen und lehnt es ausdrücklich ab, eine Marke zu sein oder Inhalte zu validieren. Ein Konzept, das über Lerngemeinschaften und offene Lizenzen – und nicht durch eine auf Gesetzgebung ausgerichtete Lobbyarbeit – aus einem Biologielabor in die Planungsdokumente einer Regionalregierung gelangte.[35]

Das ist ein Weg, der jedem offensteht. Er ist in seiner Form zugleich das Argument, das er vertritt: heterogen, redundant, langsam, lokal verankert und niemandem gehörend.

X. Die Bewahrung ist eine Einschränkung, kein Ziel

Es wäre naheliegend, zum Abschluss ein übergeordnetes Ziel zu benennen: die menschliche Verantwortung für die Bedingungen, unter denen Leben auf der Erde möglich bleibt – vor allem anderen.

Wir lehnen diese Formulierung ab.

„Ein übergeordnetes Ziel, alles andere ist ihm untergeordnet“ ist die logische Form der Optimierung. Es ist auch genau die Form der Position, die wir ablehnen. Das Argument für die planetare Auswanderung. Dafür, die Erde als eine von mehreren Instanzen zu behandeln. Hat diese Struktur, mit anderem Inhalt. Jedes Argument, das diese Form annimmt, kann von einem Gegner widerlegt werden, der einfach den Inhalt austauscht.

Also: Die Bewahrung ist kein Ziel im Rahmen des Wertekanons. Sie ist die Randbedingung, die das Fortbestehen pluralistischer Werte ermöglicht. Berlin führt in „Four Essays on Liberty“ (1969) aus, dass es keinen einzigen Punkt gibt, auf den hin optimiert werden könnte, da Werte tatsächlich pluralistisch und inkommensurabel sind und manche Verluste eher tragisch als falsch sind.[36] Aubins Lebensfähigkeitstheorie, wie Hamant sie heranzieht, liefert die mathematische Form: Lebensfähigkeit ist ein begrenzter Bereich, kein Maximum.

Ostroms erstes Gestaltungsprinzip in „Governing the Commons“ liefert die Form der Steuerung, und Hamants Erläuterung dazu ist der entscheidende Begriff: die poröse Membran.[37] Definiert, durchgesetzt und nicht hermetisch verschlossen.

Pluralismus hinsichtlich der Ziele im Kern. Monismus hinsichtlich dessen Grenze.

Das gegenteilige Argument lautet nicht „die Erde aufgeben“. Es lautet vielmehr, dass eine auf einen Planeten beschränkte Spezies einen einzigen Ausfallpunkt darstellt und dass Redundanz über verschiedene Standorte hinweg sinnvoll ist. Das ist ein Robustheitsargument in Hamants eigenem Vokabular, weshalb es auf dieser Grundlage berücksichtigt werden muss, anstatt es einfach beiseite zu wischen.

Auf dieser Grundlage scheitert es. Redundanz, die den Verbrauch des Originals erfordert, ist keine Redundanz; es ist eine Verlagerung. Jedes vorgeschlagene Backup außerhalb der Erde wird derzeit durch Entnahme aus der einzigen funktionierenden Instanz finanziert. Und die Umkehrung des Prinzips vom schwächsten Glied besiegelt das Schicksal: Ein maximal optimiertes, maximal von Abhängigkeiten belastetes Backup ist das fragile Glied in der Kette, nicht das robuste.

Hamants eigene Version ist unverblümter. Die „Ultra-Performanten“, so bemerkt er, haben alle „Todesprojekte“: Mars, Bunker – in dem Glauben, sie könnten den Schwankungen entkommen. Er antwortet ihnen mit einem afrikanischen Sprichwort, wonach der Baum, der fällt, mehr Lärm macht als der Wald, der wächst.[31]

Weil liefert den tieferen Einschnitt. Entwurzelung. „déracinement“. Das ist das charakteristische Leiden, das sie in der industriellen Moderne diagnostiziert hat. Eine Zivilisation, deren Vorzeigeprojekt die Auswanderung ist, heilt diesen Zustand nicht. Sie institutionalisiert ihn.[38]

All dies ist auch keine Behauptung über das Wesen des Menschen. Essentialistische Argumente darüber, was Menschen im Grunde sind, ziehen Kritik seitens der Biologie auf sich, die eher Gradienten als Arten sieht, und haben in Aotearoa Neuseeland eine Genealogie, die sie von jedem Dokument fernhalten sollte, das sich an Te Tiriti orientiert. Die vertretbare Behauptung ist enger gefasst und ausreichend: Menschen sind bislang die einzigen nachweisbaren Träger einer rechenschaftspflichtigen Verpflichtung.

Das ist eine Aussage darüber, wer zur Verantwortung gezogen werden kann, und sie erfordert kein Urteil über das Bewusstsein. Es ist die positive Form von Arendts Warnung. Wenn die Herrschaft durch „Niemanden“ das Ergebnis ist, wenn Verantwortung keinen Träger hat, dann ist ein namentlich benannter Träger keine Nebensächlichkeit, sondern das, was Regierungsführung von bloßem Verfahren unterscheidet. Es ist auch das, was die Architektur bereits kodiert, und es deckt sich mit der lückenlosen Rechenschaftspflicht, die die Kaupapa-Māori-KI-Governance erfordert.[39]

Und deshalb muss eine Randbedingung strukturell und nicht nur deklarativ sein. Ein Wert, der lediglich deklariert wird, ist genau das, was Arendt als „abdriftend“ beschreibt: dem Ermessen überlassen, Schritt für Schritt durch scheinbar vernünftige Maßnahmen ausgehöhlt, zwar weiterhin rezitiert, aber nicht mehr tragfähig, ohne dass jemand sagen kann, wann dies aufgehört hat. Verpflichtungen, die niemand einfach wegredigieren kann, sind die Antwort auf diesen Versagensmodus.

Werte, die nicht stillschweigend außer Kraft gesetzt werden können, können auch nicht stillschweigend normalisiert werden.[24]

Weil liefert wiederum die Struktur: Pflichten gehen Rechten voraus, und Rechte sind die Anerkennung von Pflichten und nicht Besitztümer, die man gegenüber der Welt geltend macht. Kaitiakitanga formuliert dieselbe Umkehrung. Vormundschaft als Verpflichtung gegenüber dem, was verwaltet wird, nicht als Autorität darüber. Und sie formuliert dies aus einer Tradition heraus, die unabhängig und als Erste zu dieser Erkenntnis gelangt ist. Die Richtung der Entwicklung ist entscheidend: Hier gelangt die europäische Philosophie dorthin, wo indigene Rahmenkonzepte bereits waren, und nicht umgekehrt.

Das deutlichste Beispiel dafür ist gar nicht philosophischer Natur. Es ist gesetzlich verankert.

Im Jahr 1990 schlug Michel Serres in „Le Contrat Naturel “ vor, natürliche Wesen als Rechtssubjekte anzuerkennen. Im Jahr 2014 verlieh das Te-Urewera-Gesetz Te Urewera Rechtspersönlichkeit.[40] Im Jahr 2017 erklärte das „Te Awa Tupua (Whanganui River Claims Settlement) Act“ den Whanganui-Fluss zu einer juristischen Person, die alle Rechte, Befugnisse, Pflichten und Haftungen einer solchen besitzt und in deren Namen von Te Pou Tupua ausgeübt werden. Ein menschliches Gesicht für ein Gebilde, das Klagerecht hat, aber keine Stimme.[41]

Es wäre ein Irrtum – und genau der Irrtum, vor dem dieser Abschnitt warnt –, dies so zu interpretieren, als würde Aotearoa einen französischen Philosophen umsetzen. Das Gesetz kodifiziert eine Position, die die Iwi und Hapū des Whanganui vertraten und in einem der am längsten andauernden Rechtsstreitigkeiten der Rechtsgeschichte des Landes durchgesetzt haben, begründet in der Untrennbarkeit von Mensch und Fluss.

Serres gelangte 1990 zu einer ähnlichen Erkenntnis, und zwar aus einer europäischen Tradition heraus, die drei Jahrhunderte lang das Gegenteil behauptet hatte. Die Whanganui-iwi waren bereits dort angelangt – und das schon seit Generationen.

Was das Gesetz der Argumentation hinzufügt, ist nicht Autorität, sondern der Nachweis der Tragfähigkeit des Konzepts. Es stellt fest, dass diese Position nicht nur vertretbar, sondern auch gesetzlich verankerbar ist. Dass ein echtes Rechtssystem so gestaltet werden kann, dass es einer Einheit Rechtsstellung gewährt, die keine Verträge abschließen, keine Rechtsstreitigkeiten führen und nicht sprechen kann – vorausgesetzt, eine namentlich benannte menschliche Partei übernimmt die Verpflichtung in ihrem Namen.

Das ist eher ein struktureller als ein moralischer Appell, und es ist derselbe Schritt, den eine amtliche Urkunde – wenn auch in einem viel kleineren Bereich – für die eigene Geschichte einer Person vollzieht.

XI. Was wir nicht wissen

Es wurde von innen heraus kontradiktorisch getestet, nicht von außen. Es gab keinen unabhängigen Penetrationstest, und wir erheben keinen Anspruch darauf.

Unter Last wurden noch keine Messungen durchgeführt. Es läuft im Produktivbetrieb, aber überall, wo es läuft, handelt es sich um dieselbe Organisation, daher wird weiterhin ein Modell von einem anderen Anbieter benötigt.

Ein Agent, der sich schlichtweg weigert, das Framework zu konsultieren, wird davon nicht aufgehalten.[25] Wenn die Aussagen eines Modells ein Mitglied erreichen, werden sie überprüft, bevor sie als Antwort gelten, und das Modell kann dies nicht umgehen. Wenn die Überprüfung selbst fehlschlägt, werden die Aussagen dennoch ausgegeben, da es dem System selbst schaden würde, bei jeder fehlgeschlagenen Überprüfung die Antwort zu verweigern. Was das System jedoch nicht tut, ist, sie als einwandfrei zu bezeichnen.

Sanktionen eskalieren nicht. Ein Moderator kann eingreifen, aber nichts merkt sich, dass dies bereits das dritte Mal ist. Und zwei Mitglieder, die sich innerhalb eines Dorfes zerstritten haben, verfügen nicht über einen Weg, wie ihn zwei Dörfer haben, der drei Stufen durchläuft und in einer Anhörung endet.

Ob der Verband echte interne Heterogenität aufweist oder lediglich ein gezieltes Optimum darstellt, ist eine offene Frage, und ein Leser von Hamants *De l’incohérence* wird sie stellen.[42] Seine Anklage richtet sich gegen Kohärenz an sich, und dies ist ein höchst kohärentes System.

Ob der Akteursdurchsatz mit strukturerhaltendem Wandel in Einklang gebracht werden kann, ist der folgenreichste ungelöste Punkt auf der Liste, da die gesamte These der akteursbezogenen Entwicklung darauf beruht.

Und Hamant selbst liefert den letzten Vorbehalt, den wir bewusst gegen uns selbst anführen. In einem Beitrag in englischer Sprache für die Great Transition Initiative warnte er davor, den biologischen Standpunkt unbedacht auf menschliche Gesellschaften zu übertragen. Denn Menschen wollen Absichten und Ziele bewahren, während lebende Systeme nach probabilistischen Regeln funktionieren und ihre Entwicklung erst im Nachhinein, rückblickend, feststeht.[43]

Das ist die Grenze all dessen, was oben dargelegt wurde. Die Biologie liefert den Beweis, dass Heterogenität bei Organismen Robustheit erzeugt, und die Systemtheorie überträgt dieses Muster auf die technische Infrastruktur. Der Schritt von dort hin zu dem, was wir bauen sollten, ist eine Argumentation, keine Ableitung.

Wir haben ihn so sorgfältig wie möglich formuliert, und er bleibt ein Argument.

Was wir ohne Vorbehalte sagen können, ist enger gefasst und unserer Meinung nach ausreichend. Die Welt wird immer lauter. Systeme, die auf den Durchschnitt abgestimmt sind, werden auf Bedingungen treffen, auf die sie nicht ausgelegt sind.

Und die Infrastruktur, die am ehesten noch bestehen wird, ist nicht die schnellste oder leistungsfähigste, sondern jene, die ihre Spielräume bewahrt hat, ihre Unterschiede bewahrt hat, einen Menschen im Kreislauf belassen hat, der noch erkennen konnte, ob das Ganze gesund war, und Aufzeichnungen geführt hat, die jemand in drei Generationen noch lesen und überprüfen kann.

Quellenangaben