De minst presterende AI

Olivier Hamants pleidooi voor robuustheid, en wat dit vraagt van de infrastructuur die we bouwen


I. Een woord dat we niet meer zouden moeten gebruiken

Limestone bluffs and flax at dusk, West Coast
De wereld staat niet stil om gemeten te worden. Foto © John Stroh

Laten we beginnen met een woord dat stilletjes onze manier van denken heeft veranderd.

Al dertig jaar wijst ‘impact’ in één richting: de impact van onze activiteiten op het milieu. Meet de voetafdruk, verklein het getal, rapporteer de vermindering. De logica is top-down.

Het gaat ervan uit dat wij handelen en de wereld ontvangt, dat wij de variabele zijn die beheerd wordt.

De Franse bioloog Olivier Hamant stelt voor om dit om te draaien. De vraag die er nu toe doet, zo betoogt hij, is de impact van het milieu op onze activiteiten. En alles verandert als je de pijl omdraait. De eerste benadering gaat uit van controle.

De tweede gaat uit van fluctuatie en vraagt wat we moeten bouwen om die te overleven.

Woordenschat is infrastructuur. De woorden waarover een ontwerpteam beschikt, bepalen welke systemen denkbaar zijn, welke afwegingen op kosten lijken en welke op functies, en welke mislukkingen überhaupt als mislukkingen herkenbaar zijn. Een team dat alleen het woord ‘optimalisatie’ kent, zal optimaliseren en zal elk argument voor speling zien als een argument voor verspilling.

Dit essay gaat over een oeuvre dat de ontbrekende woordenschat aanreikt, en over wat er gebeurt als je die woordenschat toetst aan infrastructuur die al is aangelegd.


II. De wereld van het gemiddelde achter ons laten

Stubble field under a wide cloudy sky after harvest
Marge is wat er in de weide overblijft nadat de oogst is binnengehaald. Foto © John Stroh

Hamant is plantenbioloog. Hij is onderzoeksdirecteur bij INRAE binnen de École normale supérieure de Lyon, en hij leidt het Institut Michel Serres, dat zich bezighoudt met natuurlijke hulpbronnen en de commons en robuustheid als een van zijn vier grondbegrippen noemt.

Hij heeft ongeveer honderd artikelen gepubliceerd op het gebied van biofysica en plantontwikkeling, en ontving in februari 2026 een eredoctoraat van de UCLouvain.[1] Het argument dat hierna volgt, komt voort uit het meten van hoe cellen groeien.

Zijn diagnose van de eeuw is samengevat in één zin: we verlaten de wereld van het gemiddelde en betreden de wereld van de standaardafwijking. We ruilen continuïteit in voor breuk.

De enige zekerheid, zegt hij, is dat de onzekerheid zal blijven bestaan en toenemen.[2]

Hij schrijft dit niet toe aan één enkele discipline, maar aan de samenvallende rapportages van het IPCC, IPBES, IUCN, het World Economic Forum en zelfs de CIA, en voert het terug op Donella Meadows en haar collega’s in *The Limits to Growth* (1972).[3] Wat men ook mag vinden van de politieke standpunten van deze instanties, de observatie die zij delen is eerder structureel dan ideologisch: de variantie neemt toe, en systemen die zijn afgestemd op het gemiddelde zullen te maken krijgen met omstandigheden waarvoor ze niet zijn ontworpen.

Dan volgt de stelling die het echte werk doet. De fluctuerende wereld is niet iets dat ons is overkomen. Het is het resultaat van onze eigen optimalisatie.

Prestatie is, volgens Hamants definitie, effectiviteit (het bereiken van het doel) plus efficiëntie (met minimale middelen). Geen voorraad. Just-in-time. Nauwe koppeling. Dit is een uitstekende aanpassing aan een stabiele wereld met overvloedige hulpbronnen, en het is precies wat een kleine verstoring tot een systemische verstoring maakt.

Eén enkel containerschip blokkeert in 2021 het Suezkanaal en de wereldhandel ligt een week stil. In 2024 wordt een software-update uitgebracht en vallen de luchthavens stil. Een virus dat op zichzelf niet buitengewoon gevaarlijk is, komt terecht in een hyperverbonden en hypergeoptimaliseerde wereld en wordt een pandemie. Een syndemie, in zijn bewoordingen: een ziekte van een overgeoptimaliseerd systeem.[4]

De socioloog Charles Perrow benoemde dit in *Normal Accidents: Living with High-Risk Technologies* (1984). In systemen die tegelijkertijd zeer complex en sterk onderling afhankelijk zijn, zijn ongevallen geen anomalieën die door middel van techniek kunnen worden uitgebannen. Ze zijn eigenschappen van de configuratie.

De vraag is niet óf, maar wanneer, en wat er daarna gebeurt.[5]


III. Contraproductiviteit

Tegenover prestatie stelt Hamant robuustheid: het vermogen van een systeem om ondanks schommelingen op korte termijn stabiel en op lange termijn levensvatbaar te blijven. De daarmee samenhangende economische benadering is niet optimalisatie, maar levensvatbaarheid. Waar men, zoals hij het stelt, streeft naar suboptimaliteit.

Hij noemt de levensvatbaarheidstheorie van de Franse wiskundige Jean-Pierre Aubin als de wiskundige vorm hiervan: geen traject naar een optimum, maar een begrensd gebied waarbinnen men moet blijven. [6] (Aubin wordt hier geciteerd zoals Hamant hem aanhaalt; we hebben de primaire wiskundige literatuur niet geraadpleegd.)

Daffodils in flower beneath bare poplars
Elke bloem heeft dezelfde vorm, opgebouwd uit cellen die in opvallend verschillende snelheden groeien. Foto © John Stroh

De biologie die hieraan ten grondslag ligt, is reëel en door vakgenoten beoordeeld. Plantenorganen zijn opvallend reproduceerbaar: elke bloem aan de stengel heeft dezelfde vorm, en toch zijn ze opgebouwd uit cellen die in opvallend verschillende snelheden groeien. Die heterogeniteit is geen ruis die het organisme niet heeft kunnen onderdrukken. Ze wordt in stand gehouden en draagt bij aan het voortbrengen van het onveranderlijke orgaan.

Lokale fluctuatie blijkt eerder een leerzame aanwijzing te zijn dan een foutterm.[7]

In het algemeen geldt dit als een stelling over systemen als zodanig. Robuustheid is gebaseerd op het gehele scala aan zaken die een prestatiecultuur als mislukking beschouwt:[8]

De twee begrippen, en wat elk daarvan onder ‘afval’ verstaat
De prestatiewereld noemt dit… …en de robuuste wereld noemt het
Inactieve voorraad, onbenutte capaciteit Marge — wat een schok opvangt die niemand had gemodelleerd
Dubbel werk, verspillende overlapping Redundantie — meer dan één van wat ertoe doet
Inconsistentie tussen eenheden Heterogeniteit — onderdelen die niet allemaal op dezelfde manier defect raken
Vertraging, wrijving, uitstel Traagheid — de tijd die nodig is voordat een correctie effect heeft vóór de volgende wijziging
Interne onenigheid Incoherentie — meningsverschillen die niet zijn weggeoptimaliseerd
Eén enkele beste leverancier Een enkel storingspunt

Hamant grijpt terug op Ivan Illich om het mechanisme te benoemen, waarbij hij de term ontleent aan *Tools for Conviviality* (1973). Contraproductiviteit: het punt waarop elke verbetering van de prestatie de robuustheid vermindert. Voorbij die drempel zorgt beter worden in hetgeen je doet ervoor dat je slechter wordt in overleven.[9]

Counterproductivity: where more performance starts costing survival Optimisation applied → Capacity Performance Robustness the threshold slack, spare stock, second sources past here, each gain in performance is bought from the margin that would have absorbed a shock
De term van Illich, zoals Hamant die gebruikt. Beide curven zijn reëel — het systeem wordt inderdaad steeds beter in datgene waarvoor het is afgestemd. Wat voorbij de drempel wegvalt, is het vermogen om iets op te vangen waarvoor het niet is afgestemd.

Hieruit vloeien twee gevolgen voort.

De eerste is een omkering van de zwakste schakel. In een stabiele wereld met een overvloed aan hulpbronnen is de zwakke schakel in een waardeketen de minst presterende, omdat deze iedereen vertraagt. In een onstabiele wereld is de zwakke schakel juist de best presterende. Omdat deze het meest geoptimaliseerd is, en daardoor het meest kwetsbaar. Afhankelijkheid van de snelste, goedkoopste en meest capabele leverancier is geen inkoopvoorkeur.

Het is een structurele aansprakelijkheid die zich voordoet als voorzichtigheid.[10]

The weak link inverts when the world stops holding still STABLE WORLD — the weak link is the slowest supplier Afast supplier Bfast supplier Cslow — holds everyone up supplier Dfast FLUCTUATING WORLD — the weak link is the most optimised supplier Akeeps margin supplier Bfastest, cheapest, no slack supplier Cslow, but holds stock supplier Dsecond source On the procurement form, the lower diagram reads as prudence. It is the sentence that names your point of failure.
Hamants omkering. Afhankelijkheid van de snelste, goedkoopste en meest capabele leverancier is geen inkoopvoorkeur; in een veranderlijke wereld is dat juist waar de keten als eerste breekt.

Ten tweede is robuustheid geen moreel standpunt. Hamant is duidelijk: het is een recept om levensvatbaarheid op te bouwen in een veranderlijke wereld. Het argument kan worden aangevoerd tegenover mensen die de politieke visie niet delen, en het houdt het gesprek uit het moraliserende register waar de meeste teksten over technologie en ecologie ten onder gaan.[11]


IV. De smalle bandbreedte

Wat zegt dit dan over kunstmatige intelligentie?

Hamant is hier niet neutraal. Gevraagd of generatieve AI ons zal helpen de komende schommelingen het hoofd te bieden, kent hij er één nut aan toe: serendipiteit. Blootstelling aan onbekende bronnen, andere gegevens, andere redeneringen, wat de input van een systeem daadwerkelijk diversifieert en daarmee de robuustheid ondersteunt.

Verder is hij vernietigend, en wel op gronden die eerder systemisch dan esthetisch zijn: het verbruik van hulpbronnen in de gebieden waar de rekenkracht wordt gehost, de honderden miljoenen ‘click-workers’ die volgens hem de modeloutput opschonen, en twee elkaar versterkende technische tekortkomingen.

De eerste noemt hij ‘consanguinité’, inteelt. Modellen produceren inhoud en voeden zich vervolgens met de inhoud die ze zelf hebben geproduceerd. Aantasting volgt. De versie in zijn seminarie-materiaal is nog breder: inteelt van het ontwerp, de convergentie van architectuur, doelstelling en evaluatie binnen een klein aantal vrijwel identieke systemen.[12]

De tweede is in slaap vallen achter het stuur. Wanneer een systeem zeer goed presteert, vertrouwen mensen het en houden ze na verloop van tijd op met controleren. Combineer deze twee tekortkomingen en je krijgt mensen die steeds meer vertrouwen stellen in steeds minder betrouwbare systemen.

Hij noemt het een machine voor het produceren van catastrofes, en grijpt opnieuw terug op Perrows ‘normaal ongeval’.

Hamants versie hiervan is een technische stelling: niet-geverifieerde systemen falen. Arendt geeft aan wat hier op het spel staat.

Gevraagd naar wat voor soort AI daadwerkelijk de moeite waard is, antwoordt Hamant dat het de minst presterende is. Want een systeem dat traag genoeg of feilbaar genoeg is om door een mens te moeten worden gecontroleerd, is een systeem dat de mens bij de gang van zaken betrekt door de opbouw ervan, in plaats van door beleid. Een model dat zo snel draait dat niemand het controleert, is, in zijn woorden, een ramp in wording.[13]

Dat is de smalle bandbreedte. Het is niet de bandbreedte waarin de toonaangevende laboratoria met elkaar concurreren, en het is geen bandbreedte die je betreedt door een beleidsdocument aan een maximalisator te koppelen.

Het is een band waar je in terechtkomt door de weigeringen in het substraat in te bouwen.

Wat Hamant niet is, is een technofoob, en daar is hij voorzichtig mee. Robuustheid, zo stelt hij, is technofiel, omdat het de voorkeur geeft aan objecten die lokaal kunnen worden gerepareerd. En daarom ‘conviviaal’ in de zin die Illich aan het woord gaf in *Tools for Conviviality* (1973), waarin een conviviaal gereedschap er een is dat de gebruiker onder de knie kan krijgen en naar eigen doeleinden kan aanpassen, in plaats van een gereedschap dat dicteert hoe het moet worden gebruikt.

Het is de prestatiegerichte wereld die technofagisch blijkt te zijn: elke generatie ‘prestatiegerichte’ technologie verslindt haar voorganger en duwt het begrip ervan steeds verder buiten het bereik van de gewone mens. Bijna niemand kan tegenwoordig het apparaat in zijn zak nog repareren. Zijn belangrijkste voorbeeld van terminale vervreemding is AI: systemen die zelfs voor de mensen die ze bouwen black boxes zijn geworden.

Wat hij in plaats daarvan voor ogen heeft, leest bijna als een specificatie:[14]


V. De convergentie

Nikau palm canopy seen from below, light through overlapping fronds
Diepe verwevenheid: elk blad blijft zitten omdat de andere dat ook doen. Foto © John Stroh

De filosofen waren al bij de ontwikkeling betrokken.

Het Village-platform en het Tractatus-bestuurskader zijn gebouwd op een gepubliceerde filosofische basis:[15]

Deze laatste zijn in de volste zin van het woord ‘prior art’. Inheemse gemeenschappen theoretiseerden al over gegevenssoevereiniteit lang voordat de industrie er een woord voor had. Vijf van Alexanders principes hebben regel-identificatoren in het raamwerk en worden afgedwongen als ontwerpcriteria in plaats van gedocumenteerd als ambities:

Lees ze nu eens af tegen Hamant, die hier nog nooit van heeft gehoord en redeneert vanuit celwanden en turgordruk.

In onze eigen gepubliceerde architectuur wordthet begrip ‘gradiënten’ samengevat met de stelling dat levende systemen zich geleidelijk aanpassen, terwijl mechanische systemen plotseling bezwijken. Dat is Hamants onderscheid tussen robuustheid en prestaties, verwoord in één enkele zin, nog voordat we ook maar één woord van hem hadden gelezen.[16]

‘Deep Interlock’ is zijn uitgewerkte technische voorbeeld: niet de geoptimaliseerde straaljager, maar het passagiersvliegtuig dat op halve capaciteit vliegt met drie onafhankelijke automatische piloten. Redundantie plus echte onafhankelijkheid, zodat het uitvallen van de ene geen verband houdt met het uitvallen van de volgende.[17]

Living Process is zijn herhaalde oproep om te stoppen met het zoeken naar de kant-en-klare oplossing en in plaats daarvan te zoeken naar de omstandigheden waarin oplossingen ontstaan. En zijn onderscheid tussen wendbaarheid, die tussen risico’s door slalomt terwijl het doel vast blijft, en aanpassingsvermogen, dat voldoende ruimte laat om het doel te veranderen wanneer de wereld dat doet.[17]

Structure-Preserving is wat hij bedoelt met ‘durer et transmettre’, voortduren en doorgeven, wat hij een diepe menselijke drang noemt. Hier komt ook een onderscheid tot uiting dat hij ontleent aan de filosofe en psychoanalytica Cynthia Fleury: kwetsbaarheid hoort bij objecten die onherroepelijk breken; kwetsbaarheid hoort bij levende wezens die genezen.[17] (We citeren Fleury zoals Hamant haar weergeeft, in plaats van uit haar eigen teksten.)

‘Niet-gescheidenheid’ is zijn omkering van de toegangsbeperking. De basis van een project, zo stelt hij, is niet de economie; het is de zorg voor het milieu, die de sociale band creëert, die op haar beurt de economie voortbrengt. Economie is de output, niet de toegangspoort.[17]

De convergentie — vijf criteria die tweemaal zijn afgeleid, eenmaal uit de architectuur en eenmaal uit de plantenbiologie
Het principe van Alexander, in de gepubliceerde grondslagen Waar Hamant uitkomt, redenerend vanuit levende systemen
Gradiënten in plaats van grenzen
besturing op intensiteitsniveaus, geen schakelaar
Levende systemen passen zich geleidelijk aan; mechanische systemen schakelen abrupt
Diepe verwevenheid
diensten versterken elkaar
Niet de geoptimaliseerde straaljager, maar het passagiersvliegtuig op halve capaciteit met drie onafhankelijke automatische piloten
Levend proces
ontstaat uit gedocumenteerde mislukkingen
Stop met het zoeken naar de kant-en-klare oplossing. Zoek naar de omstandigheden waarin oplossingen ontstaan
Structuurbehoudende transformatie
correctie door annotatie, nooit door verwijdering
Durer et transmettre — en Fleury’s kwetsbaarheid, die geneest, tegenover breekbaarheid, die breekt
Niet-gescheidenheid
bestuur in het uitvoeringstraject
De basis van een project is niet de economie, maar de zorg voor het milieu. Economie is de output, niet de poort

Twee onafhankelijke afleidingen van dezelfde vijf criteria. De ene uit de architectuur, de andere uit de plantenbiologie. En de bevestiging kwam pas nadat de principes waren geformuleerd. Die volgorde is van belang. Daardoor is dit bewijs in plaats van een rechtvaardiging.


VI. Waar het document voor dient

Autumn willows reflected in still river water at golden hour
Durer et transmettre. Een rivier is het oudste verslag dat een plek bewaart. Foto © John Stroh

Een verslag dat is ondertekend, verzegeld en van een tijdstempel voorzien, is een vreemd artefact naar de maatstaven van het optimalisatietijdperk. Het kost meer tijd om op te stellen dan een veranderlijke rij. Het kost opslagruimte. Het sluit een nette bewerking achteraf uit.

Al deze aspecten brengen prestatieverlies met zich mee.

Ze zijn ook, juist, de kern van de zaak.

Hamant merkt op dat mensen de enige levende wezens zijn die toegang hebben tot zeer lange tijdspannes, en dat we die toegang verkrijgen door middel van het schrijven. Zijn kritiek betreft wat we met die toegang doen: we bevriezen de toekomst, in cryogenica, zaadbanken en biobanken, in plaats van die lange tijdspannes te bewonen. Een verzegeld en van een tijdstempel voorzien document is het andere gebruik. Het is een instrument van ‘durer et transmettre’, zo ontworpen dat een achterkleinkind kan verifiëren wat een overgrootouder heeft gezegd, en wanneer.[17]

Robuustheid hecht waarde aan omkeerbaarheid. Een cryptografisch zegel is per definitie onomkeerbaar.

De oplossing zit al in de architectuur, onder de naam ‘Structure-Preserving Transformation’: correctie vindt plaats door middel van annotatie, nooit door verwijdering. Auditlogs blijven interpreteerbaar tussen verschillende versies; historische beslissingen blijven geldig; intrekkingen worden binnen het document vastgelegd in plaats van eruit verwijderd. Wat je krijgt is omkeerbaarheid van interpretatie op een substraat van onomkeerbare attestatie. Het document herstelt zich door accumulatie.[18] In de termen van Fleury is het kwetsbaar in plaats van breekbaar. En dat is een ontwerpeigenschap, geen troost.

Het onderliggende principe

Dat brengt ons bij het deel van dit betoog dat Hamant niet aandraagt, en dat wij hier verheffen van een stilistische voorkeur tot een structurele.

In de winter na de val van Frankrijk, in de niet-bezette zone en onder een pseudoniem dat was gekozen om de censuur van Vichy te omzeilen, publiceerde Simone Weil een essay over de Ilias, waarin zij betoogt dat het ware onderwerp van het gedicht ‘kracht’ is. En die kracht is datgene wat iedereen die eraan wordt onderworpen in een ding verandert. Haar tweede stap is degene die van belang is voor de infrastructuur: kracht degradeert ook degene die haar uitoefent, waarbij het verstand en het medeleven worden verdoofd totdat de bezitter zelf ook een automaat is geworden.[19]

Aggregatie is die handeling. Profilering, het trekken van conclusies op basis van wat anderen hebben geschreven, en het samenstellen van een beeld op basis van gedrag: het allemaal vormt een beeld van een persoon op basis van materiaal dat hij of zij niet heeft verstrekt, voor doeleinden waartegen hij of zij niet aanwezig was om bezwaar te maken. De persoon wordt een ding dat het systeem in zijn bezit heeft.

Weil maakt al enige tijd deel uit van de gepubliceerde grondslagen van dit project, in het deel dat elke gemeenschap naar eigen traditie vormgeeft. Haar beschrijving van aandacht als ontvankelijke betrokkenheid bij leed is de reden waarom het platform de tijd neemt om stil te staan bij een overlijden, in plaats van een verlies samen te vatten in een korte samenvatting.[15] Dat is een reëel ontwerpgevolg en het blijft waar het is.

Maar het argument van het ‘Poem of Force’ hoort thuis in het deel dat niemand kan wegredigeren. Geen gemeenschap, geen lid, en ook wij niet:

Geen enkel lid mag worden gereduceerd tot een aggregaat. Noch wij, noch het model construeren, bewaren of leiden een samengesteld beeld van welke persoon dan ook af. Wanneer het platform materiaal over een persoon verzamelt, zoals bij genealogische verrijking binnen een enkele gemeenschap, gebeurt dit op verzoek van een lid, op basis van de eigen gegevens van die gemeenschap, en wordt er niets geschreven zonder bevestiging van dat lid.

PDF downloaden (EN) Presenteren als dia’s (EN) Briefing-PDF (EN) Vragen en antwoorden (EN) Woordenlijst (EN)
Drie verduidelijkingen

Het gaat hier niet om privacy. Privacy heeft betrekking op het verbergen, en een volledig openbaar gemaakt geaggregeerd geheel blijft een geaggregeerd geheel. Het principe verbiedt een handeling, niet een openbaarmaking.

Toestemming lost het niet op, maar auteurschap verandert de handeling. De smekeling van Weil stemt ermee in en is hoe dan ook een ding. Federatie vormt geen uitzondering op dit principe, omdat bij federatie het lid de auteur blijft van wat wordt doorgegeven: de envelop bevat alleen wat expliciet is gekozen, met vermelding van de herkomst.

Het onderscheid ligt tussen een persoon die een record verstuurt en een systeem dat een persoon samenstelt.

Het bindt ons en het model, niet de gemeenschap. Whakapapa-gegevens zijn relationeel van opzet; het verbinden van mensen over generaties heen is het doel, niet de schade. Het principe moet in de code worden afgebakend, zodat een rūnanga die genealogische relaties opbouwt onaangetast blijft, terwijl samenstelling aan de kant van de operator en aan de kant van het model onmogelijk blijft.

De tweede clausule van Weil is wat dit tot een structurele in plaats van een beleidsmatige verbintenis maakt. Een platform dat louter de mogelijkheid behoudt om gegevens te aggregeren, wordt onder commerciële druk en na verloop van tijd een platform dat daar ook gebruik van maakt. De weigering moet architectonisch zijn, omdat er niet op kan worden vertrouwd dat de exploitant dit blijft weigeren.

Dat is hetzelfde argument als de scheiding tussen bouwtijd en looptijd, zoals afgeleid uit Homer.


VII. Een model dat ergens blijft

Backlit cosmos flowers with dew and spider silk at dawn
Gecontextualiseerd en specifiek. Een gemiddelde zou al deze aspecten verliezen. Foto © John Stroh

Een van de voorbeelden die Hamant geeft van de afweging tussen prestaties en robuustheid is de taal zelf: het performante algoritme dat een gesprek afkapt, tegenover de taal met haar fouten, herhalingen en heterogeniteit. Dat is juist wat nuance, misverstanden en dus dialoog mogelijk maakt.[20]

Hij heeft het niet over natuurlijke taalverwerking, en juist daarom is deze opmerking nuttig. De redundantie wordt niet getolereerd ondanks de dialoog. Het is juist de voorwaarde voor dialoog.

Een systeem dat dit wegcomprimeert, heeft juist datgene verwijderd wat de uitwisseling tot een uitwisseling maakte.

Dit is de duidelijkste verklaring die er is voor waarom een wereldwijd gemiddeld model het verkeerde instrument is voor een gemeenschap die haar eigen registers, haar eigen stiltes en haar eigen manier van dingen niet zeggen heeft. En deze verklaring staat los van elk soevereiniteitsargument, wat haar krachtiger maakt: zelfs als jurisdictie niet relevant zou zijn, zelfs als de gegevens nooit zouden vertrekken, zou het middelen nog steeds een verlies betekenen.

Daartegenover staat het Institut Michel Serres, dat zichzelf in de eerste plaats omschrijft als een levende school, die ruimte biedt aan ‘connaissances situées et impliquées’. Gesitueerde en betrokken kennis, voortkomend uit luisteren en uit samenwerking in de hele samenleving. Het instituut ontleent zijn naam en uitgangspunt aan Michel Serres’ *Le Contrat Naturel* (1990), waarin werd voorgesteld alle natuurlijke wezens als rechtssubjecten te erkennen en een symbiotische organisatie van de relaties tussen mensen en al het andere levende voor te stellen.[21]

Die uitdrukking is geen metafoor die we uit het buitenland overnemen. Gesitueerde en betrokken kennis is dezelfde toewijding als een gesitueerde taallaag, geformuleerd door een onderzoeksinstituut in plaats van door een platform, en bereikt vanuit een andere invalshoek.

Het ontwerpconsequentie is Hamants plan A, B, C, D. Niet het beste model, maar meerdere modellen, die lokaal herstelbaar en aanpasbaar zijn en de robuustheid van een plek ten goede komen. Dat druist evenzeer in tegen de monocultuur binnen ons eigen systeem als daarbuiten: als een federatie geen echte interne verscheidenheid kent – dat wil zeggen uiteenlopende implementaties, jurisdicties, talen en implementatietopologieën – dan is het pluralisme retorisch en treft de kritiek op ontwerp-inteelt ook ons.


VIII. De beheerders

A path through autumn woodland deep in fallen leaves
Het stapsgewijze proces dat Alexander beschrijft. De ene stap bouwt voort op de vorige. Foto © John Stroh

Recursieve, zichzelf verbeterende codeeragenten gaan steeds meer van het werk doen dat nodig is om deze systemen op te bouwen en te onderhouden. Dat is geen voorspelling; het is al gedeeltelijk werkelijkheid. En Hamant heeft de faalmodus met onwelkome precisie benoemd. In slaap vallen achter het stuur is geen runtime-probleem dat door een runtime-grens wordt opgelost.

Het is een probleem tijdens de bouwfase, en juist in die bouwfase wordt de mens verdrongen.

Hamant vertelt ons wat er kapotgaat. Hannah Arendt vertelt ons waar het eindigt. En zij is de reden dat deze architectuur de vorm heeft die ze heeft. Zij blijft de duidelijkste beschrijving die we kennen van hoe waarden afdrijven: hoe iets misgaat zonder dat iemand besluit om iets verkeerds te doen.

Dat is de vraag waarvoor de hele structuur is opgebouwd om te beantwoorden.[22]

Eén mechanisme loopt als een rode draad door haar werk, en het verloopt als een opeenvolging: zelfgenoegzaamheid, vervolgens normalisatie, en daarna afglijden. Het belangrijke hieraan is dat het mechanisch is in plaats van moreel. Er is geen schurk voor nodig, en niemand hoeft iets te besluiten.

Zelfgenoegzaamheid. Het onderscheid hier wordt bij het navertellen meestal vervaagd. Arendt stelt niet dat Eichmann niet in staat was om na te denken. Ze stelt dat hij niet nadacht, en dat kwaad op die schaal geen monsterlijk motief vereiste, alleen de afwezigheid van denkactiviteit bij iemand die bezig was met procedures. Onnadenkendheid is geen domheid. Het is een vermogen dat niet wordt uitgeoefend, in omstandigheden die het comfortabel maakten om het niet uit te oefenen.

Een steward die stopt met het lezen van de diffs omdat de diffs al zes maanden betrouwbaar zijn, is niet incompetent. Hij bevindt zich in de toestand die Arendt beschrijft, en het systeem heeft dat voor hem geregeld.

Normalisering. Haar meest blijvende en meest verkeerd begrepen observatie is dat grote schade zich zelden aankondigt als iets monsterlijks. Ze komt als het gewone en het administratieve, gedragen door mensen die blijk geven van wat zij „een merkwaardig, volkomen authentiek onvermogen om te denken“ noemde. Geen domheid, zelfs geen overtuiging, maar het onvermogen om de wereld vanuit een ander standpunt dan het eigen standpunt te bekijken.[23][24] Het groteske wordt alledaags, niet omdat iemand daarvoor heeft gekozen, maar omdat iedereen eraan gewend is geraakt.

Afdrijving. Dan verdwijnen de waarden. Niet ingetrokken, en niemand verdedigt de beslissing, want er is geen beslissing. Ze worden aan eigen inzicht overgelaten en stap voor stap, met elke op het eerste gezicht redelijk lijkende stap, uitgehold, terwijl iedereen ze blijft herhalen, en achteraf kan niemand zeggen wanneer ze zijn opgehouden iets uit te sluiten.

Het is de faalmodus die de Tractatus-diensten moesten tegengaan, uitgedrukt op beschavingsschaal. Het eigen verslag van het raamwerk over wat er gebeurt wanneer actoren via trainingslussen optimaliseren, is dat instructies kunnen vervagen, grenzen kunnen verschuiven en audittrajecten onbetrouwbaar kunnen worden.[25] Drie beschrijvingen van dezelfde reeks gebeurtenissen, waarvan geen enkele zichzelf aankondigt.

Wat Arendt aandraagt, is de reden waarom dit architectonisch moet worden tegengegaan in plaats van aandachtig in de gaten te worden gehouden. Niets in de reeks doet alarmbellen rinkelen, omdat de betrokkenen zich bij elke afzonderlijke stap redelijk gedragen.

Dat is de vorm van hetgeen waartegen deze architectuur zich keert. Niet de inbeslagname. Niet een losgeslagen model. Een langzame aanpassing, stap voor stap, aan iets dat niemand zou hebben geaccepteerd als het in één keer was gekomen.

Daarom kan verantwoording niet worden voldaan door middel van registratie. Arendts benaming voor autoriteit die reëel is terwijl niemand er verantwoording voor hoeft af te leggen, was ‘heerschappij door Niemand’: een ingewikkeld systeem van ambten waarin niemand – noch de ene, noch de enkelen, noch de velen – verantwoordelijk kan worden gehouden. Niet de afwezigheid van heerschappij, maar tirannie zonder tiran, gekenmerkt door het feit dat er niemand meer overblijft om mee in discussie te gaan.[26]

Dat is een volledige beschrijving van een autonome reeks actoren zonder verantwoordelijke opdrachtgever, een halve eeuw te vroeg geschreven. En de praktische toets is eenvoudiger dan welke theorie dan ook: wanneer de voorwaarden onder je voeten veranderen, wie bel je dan?[27] Een perfect controlespoor dat bij niemand uitkomt, is ‘heerschappij door Niemand’ met betere administratie.

Arendts laatste bijdrage is degene die dit deel met de rest van het essay verbindt. In de „Lezingen over Kants politieke filosofie” (gehouden in 1970, postuum gepubliceerd in 1982) maakt zij een onderscheid tussen cognitie, die naar oplossingen zoekt, en denken, dat naar betekenis zoekt, en tussen oordelen, dat een specifiek geval beslist zonder dat er een regel is die dit van tevoren bepaalt.

Het oordeel is juist het vermogen dat niet kan worden vervuld door een procedure toe te passen, omdat het erom gaat de regel te vinden in plaats van deze te volgen.[28] Het is ook het vermogen waarvan zij de afwezigheid bij Eichmann vaststelde: het onvermogen om de wereld vanuit een ander standpunt dan het eigen standpunt te bekijken, is een tekortkoming van het oordeel, niet van de intelligentie.

Dat is dezelfde stelling die Alexander in *The Nature of Order* poneert wanneer hij benadrukt dat het oordeel over de heelheid niet tot een regel kan worden herleid, en dezelfde stelling als de fundamentele beperking van dit raamwerk zelf, namelijk dat waarden niet kunnen worden geautomatiseerd, maar alleen geverifieerd.[29][30] Drie wegen die tot één conclusie leiden: vanuit de politieke filosofie, vanuit de architectuur en vanuit het bouwen van het object zelf.

Alexander voegt daar de beperking aan toe over hoe het werk tot stand moet komen. Zijn ‘levende proces’ vereist dat elke stap voortbouwt op het resultaat van de vorige, dat aanpassing stap voor stap plaatsvindt en dat elke stap kan worden beoordeeld in relatie tot het geheel. Structuur die in grote brokken wordt gegenereerd vanuit een masterplan is voor hem het schoolvoorbeeld van hetstructuurvernietigende proces.

Codeeragenten zijn generatoren van grote blokken; daar zijn ze voor bedoeld.[29]

Hieruit vloeien drie verplichtingen voort, die elk een prijs hebben.

Agenten produceren geordende differentiaties, geen brokken. Klein genoeg zodat het effect van elk daarvan op het geheel daadwerkelijk kan worden beoordeeld. Dit is een bewuste vermindering van de doorvoer. Dit is Hamants punt dat robuuste circulariteit marges vereist, en dat een te snel lopende cyclus nooit echte regeneratie toelaat, toegepast op de ontwikkelingslus.

Het oordeel over de heelheid blijft menselijk. Niet „een mens keurt de differentiatie goed“. Het criterium voor het werk van een agent is of het de heelheid van het systeem behoudt, uitbreidt en versterkt. Een oordeel dat volgens Alexander niet tot een regel kon worden herleid, en dat is de reden waarom de softwarepatronenbeweging zijn vorm aannam maar zijn resultaten niet reproduceerde. Dit is de tegenhanger van de fundamentele beperking van het raamwerk zelf: waarden kunnen niet worden geautomatiseerd, alleen geverifieerd.

De houding van de beheerder keert zich om. Hamant beschrijft deze verschuiving treffend. In een stabiele wereld neemt de beslisser het voortouw en zegt: ‘Ik wil ’ en ‘Ik weet hoe’. In een onstabiele wereld faciliteert de beslisser en zegt: ‘Ik zou graag willen ’ en ‘Ik weet niet hoe’. Bescheiden, inclusief en een groep mobiliserend die uiteindelijk zonder hen verder kan gaan.[31] Toegepast op agentische ontwikkeling is dat niet de mens als officiële goedkeurder.

Het is de mens als degene die de intentie koestert, terwijl hij expliciet geen methode hanteert.

De discipline die daarbij hoort: hoe onderscheid je een robuuste vraag van een kwetsbare

Hier hoort een discipline bij, en Hamant formuleert die als een test. In de prestatiegerichte wereld gaat de tijd naar antwoorden, en produceert men uitstekende antwoorden op slecht gekozen vragen. In de robuuste wereld gaat de tijd naar vragen, omdat de hersenen de juiste vraag niet snel kunnen identificeren. Een robuuste vraag is er een die stabiel blijft wanneer je hem door interacties op zijn kop zet. Herformuleer hem met gesprekspartners op afstand en kijk of hij standhoudt.

Zijn voorbeeld: „Hoe verminderen we CO₂ in de atmosfeer?“ leidt tot directe luchtopvang met een financieel instrument eraan gekoppeld. Het gas wordt geprivatiseerd, de polycrisis verdiept zich. „Hoe creëren we de omstandigheden waarin CO₂ in de atmosfeer duurzaam daalt?“ leidt tot agro-ecologie.[31]

De onze: „Hoe zorgen we ervoor dat de codeeragent sneller correcte code produceert?“ is de niet-robuuste vraag. „Hoe creëren we de omstandigheden waarin dit systeem verifieerbaar blijft voor de beheerders naarmate de doorvoer van de agent toeneemt?“ is de robuuste vraag. Overleg vóór de implementatie is geen procesoverhead.

Het is het moment waarop die vraag wordt gesteld terwijl het antwoord nog kan worden beïnvloed.

Ik zou graag een cijfer willen plakken op wat governance binnen de trainingscyclus kost ten opzichte van achteraf filteren. Dat kan ik niet. Het eigen plan van het platform begroot vijf tot tien procent en vermeldt de meting als open; en totdat het wordt uitgevoerd, is alles wat preciezer is een getal dat ik zou verzinnen.


IX. Processen, geen overtuigingen

Rural road, power lines and an old woolshed in evening light
Gedeelde infrastructuur in een werklandschap. Niemand hoefde genereuzer te worden. Foto © John Stroh

Niets van het bovenstaande doet ertoe als de enige weg ernaartoe loopt via het overtuigen van mensen om andere waarden aan te hangen. Die weg is traag, ze is confronterend en ze faalt juist daar waar de schommelingen het ergst zijn.

Het praktische voorstel van Hamant is anders, en het is het deel van zijn werk dat het meest navolging verdient. Verander de processen, en de waarden volgen vanzelf. Of beter gezegd: ze worden overbodig, omdat een anders vormgegeven proces ander gedrag oplevert bij mensen die nergens van gedachten zijn veranderd.

Zijn scherpste voorbeeld is een onderscheid in drie termen, en in het Engels is de polariteit omgekeerd ten opzichte van het Frans.

Engelssprekenden moeten er rekening mee houden dat ‘collaboration’ ons warme woord is en ‘cooperation’ ons bureaucratische, wat het tegenovergestelde is van de bovenstaande betekenis. Het onderscheid verandert wat je opbouwt.

Het uitgewerkte voorbeeld is een proces, geen sentiment: de verschuiving van een ‘appel à projet’ – een competitieve oproep waarbij financiers individuele voorstellen rangschikken – naar een ‘appel à commun’, een oproep die een gemeenschappelijk geheel vormt. Het ene is een rangschikkingsmechanisme en leidt tot rangschikkingsgedrag. Het andere is een bundelingsmechanisme en leidt tot bundelingsgedrag.

Niemand hoefde genereuzer te worden.

Hamant meldt dat dezelfde verschuiving zich al voordoet in de Franse bouwsector, waar materiaaltekorten directe concurrenten tot oprechte wederzijdse hulp hebben gedreven. Geen kartel, in zijn benadering, maar eigenbelang dat correct wordt begrepen in een wereld van schaarste.[33]

Voor een platform is dit geen abstractie. Als een ‘commons’ een gedeelde hulpbron is, is het ontwerpprobleem toegangscontrole. Als een ‘commons’ in de eerste plaats een gezamenlijke activiteit is – wat de formulering is van Hamant en van Ostrom in *Governing the Commons* (1990) – dan is het ontwerpprobleem bestuur, bijdrage en status.

Die leveren verschillende producten op uit dezelfde code. Het is het verschil tussen abonnees op een dienst en leden van iets dat ze gezamenlijk tot stand brengen, en het bepaalt wat het abonnement daadwerkelijk oplevert.[34]

Er zijn aanwijzingen dat dit aanslaat. De Waalse overheid heeft robuustheid opgenomen in haar strategische visie voor 2030. larobustesse.org bestaat als een open commons onder CC BY-SA, gefinancierd door het Waals Gewest, organiseert maandelijkse openbare sessies en weigert expliciet een merk te zijn of inhoud te valideren. Een concept dat vanuit een biologielaboratorium zijn weg heeft gevonden naar de planningsdocumenten van een regionale overheid via leergemeenschappen en open licenties, in plaats van via belangenbehartiging waarbij wetgeving voorop staat.[35]

Dat is een weg, en die staat voor iedereen open. Het is in zijn eigen vorm ook het argument dat het draagt: heterogeen, redundant, traag, lokaal verankerd en eigendom van niemand.


X. Bewaarschap is een beperking, geen doel

Het zou logisch zijn om af te sluiten met het noemen van een overkoepelende doelstelling: menselijk toezicht op de omstandigheden waaronder leven op aarde mogelijk blijft, boven alles.

Wij verwerpen die formulering.

„Eén overkoepelende doelstelling, al het andere ondergeschikt” is de logische vorm van optimalisatie. Het is ook precies de vorm van het standpunt waartegen wij ons verzetten. Het pleidooi voor planetaire emigratie. Voor het behandelen van de aarde als één voorbeeld onder vele. Heeft die structuur, met een andere inhoud. Elk argument dat deze vorm aanneemt, kan worden weerlegd door een tegenstander die simpelweg de inhoud vervangt.

Dus: hoederschap is geen doelstelling binnen de waardenruimte. Het is de randvoorwaarde die ervoor zorgt dat meervoudige waarden kunnen voortbestaan. Berlin geeft in Four Essays on Liberty (1969) de reden waarom er geen enkel punt is waarnaar geoptimaliseerd moet worden, aangezien waarden werkelijk meervoudig en onvergelijkbaar zijn en sommige verliezen tragisch zijn in plaats van onjuist.[36] Aubins levensvatbaarheidstheorie, zoals Hamant die aanhaalt, geeft de wiskundige vorm: levensvatbaarheid is een begrensd gebied, geen maximum.

Ostroms eerste ontwerpprincipe in *Governing the Commons* geeft de bestuursvorm aan, en Hamants toelichting daarop is de uitdrukking die we moeten onthouden: het poreuze membraan.[37] Gedefinieerd, gehandhaafd en niet hermetisch afgesloten.

Pluralisme over doelen binnen de kern. Monisme over de grens ervan.

Het tegenovergestelde standpunt is niet „de aarde verlaten“. Het is dat een soort die beperkt is tot één planeet een enkel storingspunt vormt, en dat redundantie over verschillende locaties verstandig is. Dat is een robuustheidsargument in Hamants eigen woordgebruik, en daarom moet het op die grond worden beantwoord in plaats van terzijde te worden geschoven.

Op dat punt faalt het. Redundantie die het verbruik van het origineel vereist, is geen redundantie; het is overdracht. Elke voorgestelde back-up buiten de aarde wordt momenteel gefinancierd door onttrekking aan het enige werkende exemplaar. En de omkering van de zwakste schakel maakt het af: een maximaal geoptimaliseerde, maximaal met afhankelijkheden beladen back-up is de kwetsbare schakel in de keten, niet de robuuste.

Hamants eigen versie is nog directer. De ultraperformanten, zo merkt hij op, hebben allemaal ‘doodsprojecten’: Mars, bunkers, in de overtuiging dat ze schommelingen kunnen ontlopen. Hij antwoordt hen met een Afrikaans spreekwoord, dat de boom die valt meer lawaai maakt dan het bos dat groeit.[31]

Weil levert de diepere analyse. Ontworteling. Déracinement. Dat is de kenmerkende aandoening die zij in de industriële moderniteit heeft gediagnosticeerd. Een beschaving waarvan het vlaggenschipproject emigratie is, geneest die aandoening niet. Ze institutionaliseert deze.[38]

Dit alles is evenmin een bewering over de menselijke essentie. Essentialistische argumenten over wat mensen fundamenteel zijn, liggen onder vuur vanuit de biologie, die gradaties ziet in plaats van soorten, en hebben in Aotearoa Nieuw-Zeeland een genealogie die ze ver weg zou moeten houden van elk document dat in lijn is met Te Tiriti. De verdedigbare bewering is beperkter en toereikend: mensen zijn tot nu toe de enige aangetoonde dragers van een verantwoordingsplicht.

Dat is een bewering over wie verantwoordelijk kan worden gehouden, en daarvoor is geen oordeel over bewustzijn nodig. Het is de positieve vorm van Arendts waarschuwing. Als heerschappij door Niemand het resultaat is wanneer verantwoordelijkheid geen drager heeft, dan is een met naam genoemde drager geen luxe maar juist datgene wat bestuur onderscheidt van procedure. Het is ook wat de architectuur al in zich draagt, en het sluit aan bij de volledige keten van verantwoordingsplicht die Kaupapa Māori AI-bestuur vereist.[39]

En daarom moet een randvoorwaarde structureel zijn in plaats van louter verklaard. Een waarde die louter wordt verklaard, is precies wat Arendt beschrijft als ‘afdrijvend’: overgelaten aan discretionaire bevoegdheid, stap voor stap uitgehold door maatregelen die op het eerste gezicht redelijk lijken, nog steeds gereciteerd maar niet langer dragend, zonder dat iemand kan zeggen wanneer het is gestopt. Verbintenissen die niemand kan wegredigeren, zijn het antwoord op die faalwijze.

Waarden die niet stilletjes terzijde kunnen worden geschoven, kunnen ook niet stilletjes worden genormaliseerd.[24]

Weil levert opnieuw de structuur: verplichtingen gaan vooraf aan rechten, en rechten zijn de erkenning van verplichtingen in plaats van bezittingen die tegen de wereld worden ingeroepen. Kaitiakitanga verwoordt dezelfde omkering. Voogdij als verplichting jegens hetgeen onder voogdij staat, niet als gezag erover. En verwoordt dit vanuit een traditie die daar als eerste en onafhankelijk is aangekomen. De richting van de reis is van belang: dit is de Europese filosofie die aankomt waar inheemse kaders al waren, en niet andersom.

Het meest sprekende voorbeeld daarvan is helemaal niet filosofisch. Het is wettelijk vastgelegd.

In 1990 stelde Michel Serres in *Le Contrat Naturel* voor om natuurlijke wezens te erkennen als rechtssubjecten. In 2014 kende de Te Urewera-wet rechtspersoonlijkheid toe aan Te Urewera.[40] In 2017 verklaarde de Te Awa Tupua (Whanganui River Claims Settlement) Act de Whanganui-rivier tot een rechtspersoon met alle rechten, bevoegdheden, plichten en aansprakelijkheden die daarbij horen, die namens haar worden uitgeoefend door Te Pou Tupua. Een menselijk gezicht voor een entiteit die wel rechtsbevoegdheid heeft, maar geen stem.[41]

Het zou een vergissing zijn – en precies de vergissing waarvoor dit hoofdstuk waarschuwt – om dit te interpreteren als een toepassing door Aotearoa van de ideeën van een Franse filosoof. De wet codificeert een standpunt dat de iwi en hapū van de Whanganui innamen en verdedigden via een van de langstlopende claims in de juridische geschiedenis van het land, gebaseerd op de onlosmakelijke verbondenheid tussen het volk en de rivier.

Serres kwam in 1990 tot een soortgelijk inzicht vanuit een Europese traditie die drie eeuwen lang het tegenovergestelde had volgehouden. De Whanganui-iwi waren daar al, en dat al generaties lang.

Wat de wet aan het argument toevoegt, is geen autoriteit maar een bewijs van het concept. Het stelt vast dat dit standpunt niet louter betwistbaar is, maar ook wettelijk vastgelegd kan worden. Dat een echt rechtssysteem kan worden ingezet om een entiteit te vertegenwoordigen die geen contracten kan sluiten, geen rechtszaken kan voeren en niet kan spreken, mits een met naam genoemde menselijke partij de verplichting namens haar op zich neemt.

Dat is eerder een structureel dan een moreel beroep, en het is dezelfde stap, op een veel kleiner gebied, die een soevereine registratie zet voor iemands eigen geschiedenis.


XI. Wat we niet weten

Het is van binnenuit, en niet van buitenaf, op zijn weerbaarheid getest. Er heeft geen onafhankelijke penetratietest plaatsgevonden, en we beweren ook niet dat er een heeft plaatsgevonden.

Er is nog niets gemeten onder belasting. Het draait in de productieomgeving, maar overal waar het draait, is het binnen dezelfde organisatie, dus men wil nog steeds dat van iemand anders.

Een agent die simpelweg weigert het raamwerk te raadplegen, wordt er niet door tegengehouden.[25] Wanneer de woorden van een model een lid bereiken, worden ze gecontroleerd voordat ze als antwoord worden weergegeven, en het model kan daar niet omheen. Als de controle zelf mislukt, worden de woorden toch verzonden, omdat het weigeren om te antwoorden telkens wanneer een controle mislukt, op zichzelf al schadelijk is. Wat het systeem niet zal doen, is ze als correct bestempelen.

Sancties escaleren niet. Een moderator kan ingrijpen, maar niets onthoudt dat dit de derde keer is. En twee leden die binnen één dorp ruzie krijgen, beschikken niet over een procedure zoals die tussen twee dorpen bestaat, die drie fasen doorloopt en eindigt in een hoorzitting.

Of de federatie echte interne heterogeniteit kent, of slechts een goed gericht optimum, is een open vraag, en een lezer van Hamants *De l’incohérence* zal die vraag stellen.[42] Zijn aanklacht richt zich tegen coherentie als zodanig, en dit is een uiterst coherent systeem.

Of de doorvoer van actoren te rijmen valt met structuurbehoudende verandering is het meest ingrijpende onopgeloste punt op de lijst, omdat de hele these van de ontwikkeling van actoren hierop berust.

En Hamant zelf levert de laatste kanttekening, die we bewust tegen onszelf aanhalen. In een Engelstalig artikel voor het Great Transition Initiative waarschuwde hij dat het biologische standpunt niet zonder meer op menselijke samenlevingen mag worden overgedragen. Omdat mensen intentie en doelstellingen willen behouden, terwijl levende systemen volgens probabilistische regels functioneren en hun traject pas achteraf, in retrospectief, wordt vastgesteld.[43]

Dat is de grens van al het bovenstaande. De biologie levert het bewijs dat heterogeniteit robuustheid in organismen oplevert, en de systeemliteratuur breidt dit patroon uit naar technische infrastructuur. De stap van daar naar wat we zouden moeten bouwen is een argument, geen afleiding.

We hebben deze stap zo zorgvuldig mogelijk gezet, en het blijft een argument.

Wat we zonder voorbehoud kunnen zeggen, is beperkter en, naar onze mening, voldoende. De wereld wordt steeds luidruchtiger. Systemen die zijn afgestemd op het gemiddelde, zullen te maken krijgen met omstandigheden waarvoor ze niet zijn ontworpen.

En de infrastructuur die hoogstwaarschijnlijk nog overeind zal staan, is niet de snelste of de meest capabele, maar degene die haar marges heeft behouden, haar verschillen heeft behouden, een mens in de lus heeft gehouden die nog steeds kon beoordelen of het geheel gezond was, en een archief heeft bijgehouden dat iemand over drie generaties nog steeds kan lezen en verifiëren.

Een opmerking over bronnen — hoe de citaten werken, en wat in dit essay uit tweede hand is overgenomen

Drie opmerkingen over de onderstaande bronvermeldingen.

Ten eerste: wanneer in dit essay naar een denker wordt verwezen, worden het werk en het jaar in de tekst vermeld, en elk van deze werken komt voor in de bibliografie. Dit geldt voor gevallen waarin een denker via Hamant tot ons komt in plaats van via zijn of haar eigen geschriften. Aubin over levensvatbaarheid, Fleury over kwetsbaarheid en kwetsbaarheid. Dit wordt in de tekst vermeld op de plaats waar het wordt gebruikt, en in de bibliografie worden ze vermeld onder ‘Geciteerd via Hamant’.

Een keten van bronvermeldingen die niet zichtbaar is, is een keten die niet kan worden gecontroleerd, en het weergeven van iemands interpretatie van een derde partij alsof het de derde partij zelf is, is hoe een citaat tot folklore wordt.

Ten tweede is Hamant een levende wetenschapper en essayist zonder lemma in de Stanford Encyclopedia of Philosophy, die in dit project de standaardreferentie is voor filosofische beweringen. Hij betreedt dit debat daarom op een andere basis dan Berlin, Weil of Wittgenstein: als peer-reviewed empirisch en systeemgericht bewijs, met een erkende normatieve uitbreiding die hij en wij moeten verdedigen, niet als filosofische autoriteit.

Zijn oeuvre laat zich duidelijk in drie niveaus onderverdelen.

Empirische beweringen over levende systemen zijn peer-reviewed. Structurele beweringen over systemen in het algemeen worden ondersteund in zowel biologische als technische domeinen, het meest substantieel in de samenwerking met de computerwetenschapper Stéphane Grumbach.[44][45][46] Normatieve beweringen over wat we daarom zouden moeten bouwen, worden beargumenteerd in plaats van afgeleid. Het derde niveau presenteren met het gezag van het eerste zou precies de mislukking zijn waartegen dit essay zich verzet.

Ten derde, en in dezelfde geest: het artikel van Grumbach en Hamant uit 2018 sluit af met de suggestie dat de toenemende autonomie van de digitale laag zou kunnen bijdragen aan het bereiken van homeostase in de technosfeer, wat dicht in de buurt komt van het tegenovergestelde van het hier bepleite standpunt van ‘runtime-refusal’.

Zijn standpunt heeft zich verder ontwikkeld. Het artikel uit 2020[45] neigt resoluut in de richting van suboptimaliteit en menselijke hybridisatie, en tegen 2025–26 beschouwt hij de ondoorzichtigheid van modellen als het uiterste geval van vervreemding. We vermelden dit omdat een lezer die de bronvermeldingen controleert, dit zal aantreffen, en terecht.

De boeken die vermeld staan onder Hamant. Boeken (FR) hebben op het moment van schrijven geen Engelstalige handelsuitgave; de peer-reviewed artikelen en het essay voor het Great Transition Initiative zijn in het Engels. Hamant heeft ook een korte reeks Engelstalige uitlegvideo’s gepubliceerd voor lezers die geen Frans lezen.


Referenties

Numbered by first appearance in the text. Sources reaching us through Hamant rather than from their own pages are marked [via Hamant] and are also flagged at the point of use.

[1] Institut Michel Serres — pour les ressources et les biens communs. Statement of purpose and four founding concepts (natural capital, agricultural exception, common health, robustness). https://institutmichelserres.fr — research pages at http://institutmichelserres.ens-lyon.fr. Honorary doctorate: Theunis, L. (2026). “Pour Olivier Hamant, « la performance nous fragilise, la robustesse nous sauvera ».” Daily Science (Belgium), 16 February 2026. https://dailyscience.be/16/02/2026/pour-olivier-hamant-la-performance-nous-fragilise-la-robustesse-nous-sauvera/

[2] Institut Momentum (2025). Antidote au culte de la performance : la robustesse du vivant — seminar synthesis, 22 November 2025, Académie du Climat, Paris. https://institutmomentum.org/antidote-au-culte-de-la-performance-la-robustesse-du-vivant (Spoken source; attributed as such throughout.)

[3] Meadows, D. H., Meadows, D. L., Randers, J., & Behrens, W. W. (1972). The Limits to Growth. New York: Universe Books.

[4] Daily Science interview, 16 February 2026 — see [1]; and Institut Momentum synthesis — see [2]. Performance as zero stock and just-in-time; Suez 2021, CrowdStrike 2024, Covid as syndemic.

[5] Perrow, C. (1984). Normal Accidents: Living with High-Risk Technologies. New York: Basic Books.

[6] Aubin, J.-P. — viability theory. [via Hamant] Named by Hamant as the mathematical and economic approach associated with robustness: larobustesse.org, Incontournables — “la viabilité où on cherche à être sous-optimal (voir par ex. Jean-Pierre Aubin)”. CC BY-SA 4.0, funded by the Région wallonne.

[7] Hong, L., Dumond, M., Zhu, M., Tsugawa, S., Li, C.-B., Boudaoud, A., Hamant, O., & Roeder, A. H. K. (2018). Heterogeneity and robustness in plant morphogenesis: from cells to organs. Annual Review of Plant Biology, 69, 469–495. doi:10.1146/annurev-arplant-042817-040517

[8] Kirchhelle, C., & Hamant, O. (2023). Discretizing the cellular bases of plant morphogenesis: emerging properties from subcellular and noisy patterning. Current Opinion in Cell Biology, 81.

[9] Illich, I. (1973). Tools for Conviviality. New York: Harper & Row. Counterproductivity as invoked by Hamant in “Learning from Nature” [43].

[10] Institut Momentum synthesis [2] — the weak-link inversion.

[11] Institut Momentum synthesis [2] — robustness as a recipe for viability, not a moral value.

[12] Samzun, C. (2025). Interview with Olivier Hamant, PRISMES / Rumeur Publique, published 18 September 2025 (interview conducted June 2025). https://www.rumeurpublique.fr/olivier-hamant-les-entreprises-comprennent-de-mieux-en-mieux-le-concept-de-robustesse/ — serendipity as the single granted use; click-workers; consanguinité.

[13] PRISMES interview [12] — falling asleep at the wheel; the least performant AIs as the most relevant; catastrophe in gestation.

[14] Daily Science interview [1] — robustness as technophile; local repairability; conviviality; plan A, B, C, D.

[15] Stroh, J. (2026). The Philosophical Foundations of the Village Project: A Framework for Digital Sovereignty and Pluralist AI Governance. My Digital Sovereignty Limited, February 2026. https://agenticgovernance.digital/downloads/philosophical-foundations-village-project.pdf — Berlin, Alexander, Wittgenstein, Weil and indigenous data sovereignty; Alexander’s five principles; the layered constitutional model; Weil’s account of attention and how it shapes the platform’s handling of grief. Ostrom on the commons is carried in Distributive Equity Through Structure, https://agenticgovernance.digital/whitepapers/distributive-equity.html

[16] Governance Architecture — Tractatus AI Safety Framework. https://agenticgovernance.digital/architecture.html

[17] Institut Momentum synthesis [2] — three independent autopilots; conditions rather than turnkey solutions; agility versus adaptability; durer et transmettre; Fleury on fragility and vulnerability [via Hamant]; the inversion of the entry constraint.

[18] Structure-Preserving Transformation: correction by annotation, audit logs interpretable across versions, prior governance decisions remaining valid. See [15] and [16].

[19] Weil, S. (1940–41). L’Iliade ou le poème de la force. Cahiers du Sud, December 1940 and January 1941, published under the pseudonym Émile Novis. English: trans. Mary McCarthy, Politics, November 1945; current edition ed. J. P. Holoka, Simone Weil’s The Iliad or the Poem of Force: A Critical Edition (New York: Peter Lang, 2003).

[20] Institut Momentum synthesis [2] — the performant algorithm that cuts the conversation short, against language with its errors, redundancies and heterogeneity.

[21] Serres, M. (1990). Le Contrat Naturel. Paris: François Bourin. Institute self-description: connaissances situées et impliquées — see [1].

[22] Research Timeline — Tractatus AI Safety Framework. https://agenticgovernance.digital/timeline.html — “My own preference settled on Hannah Arendt, who remains the clearest account I know of how values drift — how a thing goes wrong without anyone deciding to do wrong. That is the question the architecture is built to answer.”

[23] Arendt, H. (1971). “Thinking and Moral Considerations: A Lecture.” Social Research, 38(3), 417-446, at p. 417 — “a curious, quite authentic inability to think”; reprinted in Responsibility and Judgment (New York: Schocken, 2003). See also Eichmann in Jerusalem: A Report on the Banality of Evil (New York: Viking Press, 1963) and The Life of the Mind (New York: Harcourt Brace Jovanovich, 1978) for the banality of evil as thoughtlessness. See also Stanford Encyclopedia of Philosophy, “Hannah Arendt.” https://plato.stanford.edu/entries/arendt/

[24] Stroh, J. (2026). Sovereignty Without Dominance. https://agenticgovernance.digital/papers/sovereignty-without-dominance.html — “Why now: normalisation, and the closing window”; and the immutable constitutional layer as the structural answer to values eroded by discretion. Published in English, German, French, te reo Māori and Dutch.

[25] Governance — Tractatus AI Safety Framework. https://agenticgovernance.digital/governance.html — instructions fade, boundaries drift, audit trails become unreliable when agents optimise through training loops. Limitations: see [16].

[26] Arendt, H. (1970). On Violence. New York: Harcourt, Brace & World — bureaucracy as rule by Nobody; tyranny without a tyrant.

[27] Stroh, J. (2026). You Will Not Be Told. https://agenticgovernance.digital/you-will-not-be-told — “Nobody decided this”: rule by Nobody applied to platform terms; individual harms have defendants, the drift has none.

[28] Arendt, H. (1982). Lectures on Kant’s Political Philosophy, ed. R. Beiner. University of Chicago Press (delivered 1970) — the distinction between cognition, thinking and judgment.

[29] Alexander, C. (2002). The Nature of Order, Book Two: The Process of Creating Life. Berkeley: Center for Environmental Structure. See also A Pattern Language (Oxford University Press, 1977) and The Timeless Way of Building (Oxford University Press, 1979).

[30] Stroh, J. (2026). Executive Brief: Tractatus-Based LLM Architecture for AI Safety, “The Limits of the Framework”, proposition 12.1: “Values cannot be automated, only verified.” https://agenticgovernance.digital/docs-viewer.html?slug=executive-summary-tractatus-inflection-point

[31] Institut Momentum synthesis [2] — the decider as facilitator; the robust question and the CO₂ example; the death projects of the ultra-performant. The African proverb: Daily Science interview [1].

[32] larobustesse.org — competition, collaboration and cooperation as three distinct terms; and the Institut Momentum synthesis [2]. CC BY-SA 4.0.

[33] PRISMES interview [12] — cooperation between direct competitors in the French construction sector under material shortage.

[34] Ostrom, E. (1990). Governing the Commons: The Evolution of Institutions for Collective Action. Cambridge University Press. The common good as a faire commun: Institut Momentum synthesis [2].

[35] Robustness in the local administration’s 2030 strategic vision: PRISMES interview [12]. larobustesse.org as an open commons, CC BY-SA 4.0, funded by the Région wallonne, with monthly public sessions. See [32].

[36] Berlin, I. (1969). Four Essays on Liberty. Oxford University Press. Note: Berlin’s negative/positive liberty distinction is used in this project against the platform’s own temptation to optimise, not against communities — see [15].

[37] Ostrom’s eight design principles as reproduced by Hamant, with the gloss “the porous membrane”: Institut Momentum synthesis [2]. Primary source: Ostrom [34].

[38] Weil, S. (1949). L’Enracinement : prélude à une déclaration des devoirs envers l’être humain. Paris: Gallimard, collection Espoir, ed. Albert Camus (written 1943). English: The Need for Roots (Routledge Classics); also trans. R. Schwartz & K. Kirkpatrick as Prelude to a Declaration of Obligations Towards the Human Being (Penguin, 2023). See also Waiting for God (New York: G. P. Putnam’s Sons, 1951) for attention.

[39] Taiuru, K. — Kaupapa Māori AI Framework: Te Tiriti-grounded principles for AI consent, Māori data sovereignty and full-chain accountability. https://www.taiuru.co.nz. See also Te Mana Raraunga (https://www.temanararaunga.maori.nz), the CARE Principles (https://www.gida-global.org/careprinciples) and OCAP (https://fnigc.ca).

[40] Te Urewera Act 2014 (NZ) — legal personality conferred on Te Urewera.

[41] Te Awa Tupua (Whanganui River Claims Settlement) Act 2017 (NZ), Public Act No 7. Section 12 records the Te Awa Tupua recognition; section 14 declares Te Awa Tupua a legal person with all the rights, powers, duties and liabilities of a legal person, exercised by Te Pou Tupua. https://www.legislation.govt.nz/act/public/2017/0007/latest/whole.html

[42] Hamant, O. (2024). De l’incohérence : philosophie politique de la robustesse. Paris: Odile Jacob. ISBN 978-2-415-00795-9. See also La troisième voie du vivant (Odile Jacob, 2022); Antidote au culte de la performance : la robustesse du vivant (Gallimard, Tracts n° 50, 2023); Hamant, O., Charbonnier, O., & Enlart, S. (2025). L’Entreprise robuste (Odile Jacob). (No English trade edition at the time of writing.)

[43] Hamant, O. (2021). “Learning from nature.” GTI Forum Interrogating the Anthropocene: Truth and Fallacy?, Great Transition Initiative, February 2021. https://greattransition.org/gti-forum/anthropocene-hamant — Illich’s counterproductivity; and the caveat on transferring the biological standpoint to human societies.

[44] Grumbach, S., & Hamant, O. (2018). Digital revolution or Anthropocenic feedback? The Anthropocene Review, 5(1), 87–96. doi:10.1177/2053019617748337. Open access: https://inria.hal.science/hal-01227303

[45] Grumbach, S., & Hamant, O. (2020). How humans may co-exist with Earth? The case for suboptimal systems. Anthropocene, 30, 100245. doi:10.1016/j.ancene.2020.100245. Erratum: doi:10.1016/j.ancene.2020.100276

[46] Grumbach, S. (2017). Digital platforms: a new grammar for territories? Ethics in Progress, 8(1), 101–116. doi:10.14746/eip.2017.1.7


Appendix A — Sources by kind

Peer-reviewed. [7] [8] [44] [45] [46]

Authored by Hamant in English. [43]

Hamant’s books (French only). [42]

Interviews and seminar syntheses — spoken sources, attributed as such at every point of use. [2] [12] and the Daily Science interview at [1]. Also: Sismique podcast ep. 140, https://www.sismique.fr/episodes/140-performance-turbulences-et-robustesse-olivier-hamant; Favrot, L. (2022), « La décentralisation apporte de la robustesse », Mag2Lyon, https://www.mag2lyon.fr/la-decentralisation-apporte-de-la-robustesse/

Referenced through Hamant — not read in the original. [6] Aubin on viability theory; Fleury on fragility and vulnerability, at [17].

This project’s own published positions. [15] [16] [22] [24] [25] [27] [30]. Further: The Approach (https://agenticgovernance.digital/approach.html); Glossary (https://agenticgovernance.digital/glossary.html, 316 entries, CC BY 4.0, English and te reo Māori); Paper A v4, Sovereign-Record Architecture for Community-Scale Platforms (https://agenticgovernance.digital/papers/sovereign-record-architecture-v4-may-2026.html); Paper B synopsis, Situated Language Layers (https://agenticgovernance.digital/papers/sovereign-sll-synopsis-may-2026.html); Distributive Equity Through Structure (https://agenticgovernance.digital/whitepapers/distributive-equity.html); Architectural Alignment (https://agenticgovernance.digital/architectural-alignment.html); Plural Values in Living Organisations (https://agenticgovernance.digital/papers/plural-values-living-organisations-ai-may-2026.html).

Philosophy — primary texts. [19] [23] [26] [28] [29] [36] [38]. Wittgenstein, L. (1921). Tractatus Logico-Philosophicus. Stanford Encyclopedia of Philosophy entries on Value Pluralism, Isaiah Berlin, Simone Weil, Hannah Arendt and Wittgenstein: https://plato.stanford.edu

Indigenous data sovereignty and legal standing. [39] [40] [41]

Referenced directly, other. [3] [5] [9] [21] [34]


Appendix B — Two notes on Arendt in this corpus

She appears in two distinct roles, and the citations should not be run together.

PLACEHOLDER_SPLIT In Plural Values in Living Organisations she is cited via The Human Condition (1958) for plurality — the human condition of being many, each life its own perspective, none reducible to any other — alongside Berlin and Raz. In Sovereignty Without Dominance [24] and in this essay she is cited via the 1971 lecture “Thinking and Moral Considerations”, with Eichmann in Jerusalem and The Life of the Mind alongside it [23], for normalisation and thoughtlessness. Two arguments, two works, one thinker. A reader following one should not be left assuming the other.

On the standing of the borrowing. You Will Not Be Told [27] introduces “rule by Nobody” with the qualifier whatever one makes of the borrowing, and then supplies a test that does not depend on the philosophy: when the terms change under you, who do you ring? This essay keeps that order. The concept earns its place by the test, not by the name attached to it.

Lees verder