L'IA la moins performante

L'argument d'Olivier Hamant en faveur de la robustesse, et ce qu'il exige de l'infrastructure que nous construisons


I. Un mot que nous devrions cesser d’utiliser

Limestone bluffs and flax at dusk, West Coast
Le monde ne s’immobilise pas pour se laisser mesurer. Photographie © John Stroh

Commençons par un mot qui a discrètement bouleversé notre façon de penser.

Depuis trente ans, le terme « impact » pointe dans une seule direction : l’impact de nos activités sur l’environnement. Mesurer l’empreinte, réduire ce chiffre, rendre compte de cette réduction. La logique est descendante.

Elle présuppose que nous agissons et que le monde subit, que la variable à gérer, c’est nous.

Le biologiste français Olivier Hamant propose d’inverser cette logique. La question qui importe désormais, affirme-t-il, est celle de l’impact de l’environnement sur nos activités. Et tout change lorsque l’on inverse la flèche. Le premier cadre présuppose le contrôle.

Le second présuppose la fluctuation et demande ce que nous devons construire pour y survivre.

Le vocabulaire est une infrastructure. Les mots dont dispose une équipe de conception déterminent quels systèmes sont envisageables, quels compromis apparaissent comme des coûts et lesquels comme des atouts, et quels échecs sont perçus comme tels. Une équipe qui ne dispose que du mot « optimisation » optimisera, et considérera tout argument en faveur d’une marge de manœuvre comme un argument en faveur du gaspillage.

Cet essai porte sur un ensemble de travaux qui apporte le vocabulaire manquant, et sur ce qui se passe lorsque l’on confronte ce vocabulaire à une infrastructure déjà en place.


II. Sortir du monde de la moyenne

Stubble field under a wide cloudy sky after harvest
La marge, c’est ce qui reste dans le pré une fois la récolte effectuée. Photographie © John Stroh

Hamant est biologiste végétal. Il est directeur de recherche à l’INRAE au sein de l’École normale supérieure de Lyon, et dirige l’Institut Michel Serres, qui travaille sur les ressources naturelles et les biens communs et compte la robustesse parmi ses quatre concepts fondateurs.

Il a publié une centaine d’articles en biophysique et sur le développement végétal, et a reçu un doctorat honoris causa de l’UCLouvain en février 2026.[1] L’argumentation qui suit découle de l’étude de la croissance cellulaire.

Son diagnostic du siècle se résume en une phrase : nous quittons le monde de la moyenne pour entrer dans celui de l'écart-type. Nous passons de la continuité à la rupture.

La seule certitude, dit-il, est que l’incertitude persistera et s’amplifiera.[2]

Il n’attribue pas cela à une discipline unique, mais aux rapports convergents du GIEC, de l’IPBES, de l’UICN, du Forum économique mondial et même de la CIA, et en fait remonter l’origine à Donella Meadows et ses collègues dans *Les limites de la croissance* (1972).[3] Quelle que soit l’opinion que l’on puisse avoir sur la politique de l’un ou l’autre de ces organismes, l’observation qu’ils partagent est structurelle plutôt qu’idéologique : la variance augmente, et les systèmes calibrés pour la moyenne seront confrontés à des conditions pour lesquelles ils n’ont pas été conçus.

Vient ensuite l’affirmation qui fait toute la différence. Ce monde fluctuant n’est pas quelque chose qui nous est arrivé. C’est le résultat de notre propre optimisation.

La performance, selon la définition de Hamant, est l’efficacité (atteindre l’objectif) plus l’efficience (avec un minimum de moyens). Stock zéro. Juste à temps. Couplage serré. Il s’agit là d’une superbe adaptation à un monde stable doté de ressources abondantes, et c’est précisément ce qui transforme une petite perturbation en une perturbation systémique.

Un seul porte-conteneurs bloque le canal de Suez en 2021 et le commerce mondial s’arrête pendant une semaine. Une mise à jour logicielle est déployée en 2024 et les aéroports s’arrêtent. Un virus qui n’est pas, en soi, particulièrement dangereux, rencontre un monde hyperconnecté et hyper-optimisé et se transforme en pandémie. Une « syndémie », selon sa formulation : une maladie d’un système sur-optimisé.[4]

Le sociologue Charles Perrow a donné un nom à ce phénomène dans *Normal Accidents: Living with High-Risk Technologies* (1984). Dans des systèmes à la fois très complexes et étroitement interdépendants, les accidents ne sont pas des anomalies qu’il faut éliminer par des moyens techniques. Ce sont des propriétés inhérentes à la configuration.

La question n’est pas de savoir si cela va arriver, mais quand, et ce qui se passera ensuite.[5]


III. Contre-productivité

Face à la performance, Hamant oppose la robustesse : la capacité d’un système à rester stable à court terme et viable à long terme malgré les fluctuations. L’économie qui y est associée n’est pas l’optimisation, mais la viabilité. Là où, comme il le dit, on cherche à être sous-optimal.

Il cite la théorie de la viabilité du mathématicien français Jean-Pierre Aubin comme sa forme mathématique : non pas une trajectoire vers un optimum, mais une région bornée dans laquelle il faut rester.[6] (Aubin est cité ici tel que Hamant l’évoque ; nous n’avons pas consulté la littérature mathématique primaire.)

Daffodils in flower beneath bare poplars
Chaque fleur a la même forme, mais est constituée de cellules qui se développent à des rythmes nettement différents. Photo © John Stroh

La biologie qui sous-tend ce concept est réelle et a fait l’objet d’une évaluation par les pairs. Les organes végétaux sont d’une reproductibilité frappante : chaque fleur sur la tige a la même forme, et pourtant ils sont constitués de cellules qui se développent à des rythmes nettement différents. Cette hétérogénéité n’est pas un bruit que l’organisme n’aurait pas réussi à supprimer. Elle est maintenue et contribue à la formation de l’organe invariant.

La fluctuation locale s’avère être un signal instructif plutôt qu’un terme d’erreur.[7]

Généralisée, cette observation devient une affirmation concernant les systèmes en tant que tels. La robustesse repose sur l’ensemble des éléments qu’une culture de la performance considère comme des échecs :[8]

Les deux vocabulaires, et ce que chacun d’eux désigne par le terme « déchet »
Le monde de la performance appelle cela… …et le monde de la robustesse l’appelle
Stock inactif, capacité inutilisée Marge — ce qui absorbe un choc que personne n’avait prévu
La duplication, les chevauchements inutiles Redondance — plus d’un exemplaire de ce qui compte
Incohérence entre les unités Hétérogénéité — des composants qui ne tombent pas tous en panne de la même manière
Latence, frictions, retard Lenteur — temps nécessaire pour qu’une correction prenne effet avant le prochain changement
Divergences internes Incohérence — désaccord qui n’a pas été éliminé par l’optimisation
Un seul fournisseur de référence Un point de défaillance unique

Hamant s'appuie sur Ivan Illich pour nommer ce mécanisme, en empruntant le terme à *Outils pour la convivialité* (1973). La contre-productivité : le point à partir duquel chaque gain de performance réduit la robustesse. Au-delà de ce seuil, s'améliorer dans une activité réduit vos chances de survie.[9]

Counterproductivity: where more performance starts costing survival Optimisation applied → Capacity Performance Robustness the threshold slack, spare stock, second sources past here, each gain in performance is bought from the margin that would have absorbed a shock
Terme d’Illich, tel qu’utilisé par Hamant. Les deux courbes sont réelles : le système ne cesse de s’améliorer dans le domaine pour lequel il a été optimisé. Ce qui disparaît au-delà du seuil, c’est sa capacité à absorber tout ce pour quoi il n’ a pas été optimisé.

Il en découle deux conséquences.

La première est une inversion du maillon faible. Dans un monde stable et riche en ressources, le maillon faible d’une chaîne de valeur est celui qui est le moins performant, car il ralentit tout le monde. Dans un monde instable, le maillon faible est celui qui est le plus performant. Parce qu’il est le plus optimisé, et donc le plus fragile. La dépendance vis-à-vis du fournisseur le plus rapide, le moins cher et le plus compétent n’est pas une préférence en matière d’approvisionnement.

C’est un handicap structurel qui se présente sous le couvert de la prudence.[10]

The weak link inverts when the world stops holding still STABLE WORLD — the weak link is the slowest supplier Afast supplier Bfast supplier Cslow — holds everyone up supplier Dfast FLUCTUATING WORLD — the weak link is the most optimised supplier Akeeps margin supplier Bfastest, cheapest, no slack supplier Cslow, but holds stock supplier Dsecond source On the procurement form, the lower diagram reads as prudence. It is the sentence that names your point of failure.
L’inversion de Hamant. La dépendance vis-à-vis du fournisseur le plus rapide, le moins cher et le plus performant n’est pas une préférence en matière d’approvisionnement ; dans un monde en constante évolution, c’est là que la chaîne se rompt en premier.

Le deuxième point est que la robustesse n’est pas une position morale. Hamant est explicite : c’est une recette pour assurer la viabilité dans un monde fluctuant. Cet argument peut être présenté à des personnes qui ne partagent pas cette vision politique, et il permet d’éviter que la conversation ne tombe dans le registre moralisateur où finissent la plupart des écrits sur la technologie et l’écologie.[11]


IV. La bande étroite

Qu’est-ce que cela implique pour l’intelligence artificielle ?

Hamant n’est pas neutre sur ce point. Lorsqu’on lui demande directement si l’IA générative nous aidera à faire face aux fluctuations à venir, il lui reconnaît une utilité : la sérendipité. L’exposition à des sources inconnues, à d’autres données, à d’autres raisonnements, qui diversifie véritablement les entrées d’un système et favorise ainsi la robustesse.

Au-delà de cela, il se montre cinglant, et ce pour des raisons systémiques plutôt qu’esthétiques : la consommation de ressources sur les territoires qui hébergent les serveurs, les centaines de millions de « click-workers » qui, selon lui, nettoient les résultats des modèles, et deux défaillances techniques qui s’aggravent mutuellement.

La première, il l’appelle « consanguinité », ou endogamie. Les modèles produisent du contenu, puis se nourrissent du contenu qu’ils ont eux-mêmes produit. La dégradation s’ensuit. La version présentée dans ses supports de séminaire est encore plus large : l’endogamie de la conception, la convergence de l’architecture, de l’objectif et de l’évaluation au sein d’un petit nombre de systèmes quasi identiques.[12]

La seconde est le fait de s’endormir au volant. Lorsqu’un système est très performant, les humains lui font confiance et, avec le temps, cessent de le vérifier. Combinez ces deux défaillances et vous obtenez des personnes qui font de plus en plus confiance à des systèmes de moins en moins fiables.

Il appelle cela une « machine à produire des catastrophes » et revient sur la notion d’« accident normal » de Perrow.

La version de Hamant est un postulat d’ingénierie : les systèmes non vérifiés échouent. Arendt en précise l’enjeu.

À la question de savoir quel type d’IA vaut réellement la peine d’être développée, Hamant répond que c’est la moins performante. Car un système suffisamment lent, ou suffisamment faillible, pour nécessiter une vérification humaine est un système qui maintient l’humain dans la boucle par sa conception même plutôt que par une politique. Un modèle qui fonctionne si vite que personne ne le vérifie est, selon ses propres termes, une catastrophe en gestation.[13]

C’est là la fourchette étroite. Ce n’est pas celle dans laquelle rivalisent les laboratoires de pointe, et ce n’est pas une fourchette dans laquelle on entre en joignant un document de politique à un optimiseur.

C’est une fourchette dans laquelle on entre en intégrant les refus au cœur même du système.

Hamant n’est en aucun cas un technophobe, et il y tient particulièrement. La robustesse, affirme-t-il, est technophile, car elle privilégie les objets réparables localement. Elle est donc conviviale au sens où Illich l’entendait dans *Outils pour la convivialité* (1973), où un outil convivial est celui que son utilisateur peut maîtriser et adapter à ses propres fins, plutôt que celui qui dicte la manière dont il doit être utilisé.

C’est le monde de la performance qui s’avère technophagique, chaque génération de technologie « performante » consommant sa prédécesseure et repoussant la compréhension hors de portée du commun. Presque personne ne peut désormais réparer l’appareil qu’il a dans sa poche. Son exemple phare d’aliénation terminale est l’IA : des systèmes devenus des boîtes noires, même pour ceux qui les construisent.

Ce qu’il préconise à la place ressemble presque à un cahier des charges :[14]


V. La convergence

Nikau palm canopy seen from below, light through overlapping fronds
Imbrication profonde : chaque fronde tient parce que les autres tiennent. Photographie © John Stroh

Les philosophes étaient déjà à l’œuvre.

La plateforme Village et le cadre de gouvernance Tractatus ont été construits sur un fondement philosophique publié :[15]

Ces derniers constituent un état de la technique au sens le plus complet du terme. Les communautés autochtones théorisaient la souveraineté des données bien avant que l’industrie ne dispose d’un terme pour la désigner. Cinq des principes d’Alexander portent des identifiants de règle dans le cadre et sont appliqués en tant que critères de conception plutôt que documentés comme des aspirations :

Lisez-les maintenant à la lumière de Hamant, qui n’a jamais entendu parler de tout cela et raisonne à partir des parois cellulaires et de la pression de turgescence.

Dans notre propre ouvrage sur l’architecture, nous résumonsla notion de « gradients » par cette phrase : « les systèmes vivants s’adaptent progressivement, tandis que les systèmes mécaniques se brisent brusquement ». C’est là la distinction entre robustesse et performance établie par Hamant, formulée en une seule phrase, avant même que nous ayons lu le moindre mot de ses écrits.[16]

L’« interconnexion profonde » est l’exemple d’ingénierie qu’il a élaboré : non pas l’avion de chasse optimisé, mais l’avion de ligne qui vole à moitié plein avec trois pilotes automatiques indépendants. Redondance et véritable indépendance, de sorte que la défaillance de l’un n’entraîne pas celle de l’autre.[17]

Le « processus vivant » est son appel répété à cesser de rechercher la solution clé en main et à rechercher plutôt les conditions dans lesquelles les solutions émergent. Et sa distinction entre l’agilité, qui slalome entre les risques tout en gardant l’objectif fixe, et l’adaptabilité, qui conserve une marge suffisante pour changer d’objectif lorsque le monde change.[17]

La « préservation de la structure » correspond à ce qu’il entend par « durer et transmettre », qu’il qualifie de pulsion humaine profonde. C’est également là qu’intervient une distinction qu’il emprunte à la philosophe et psychanalyste Cynthia Fleury : la fragilité appartient aux objets qui se brisent, de manière irréversible ; la vulnérabilité appartient aux êtres vivants qui guérissent.[17] (Nous citons Fleury telle que Hamant la rapporte, plutôt que d’après ses propres textes.)

La « non-séparation » est son inversion de la contrainte d’entrée. Le fondement d’un projet, soutient-il, n’est pas l’économie ; c’est le souci du milieu, qui engendre le lien social, lequel engendre l’économie. L’économie est le résultat, pas la porte d’entrée.[17]

La convergence — cinq critères dérivés à deux reprises, une fois de l’architecture et une fois de la biologie végétale
Le principe d’Alexander, dans les fondements publiés Là où Hamant intervient, en s’appuyant sur les systèmes vivants
Des gradients plutôt que des frontières
Une gouvernance par niveaux d’intensité, et non par interrupteur
Les systèmes vivants s’adaptent progressivement ; les systèmes mécaniques se brisent brusquement
Interdépendance profonde
Les services se valident mutuellement
Ce n’est pas l’avion de chasse optimisé, mais l’avion de ligne fonctionnant à moitié de sa capacité avec trois pilotes automatiques indépendants
Processus vivant
évolue à partir d’échecs documentés
Cessez de rechercher la solution clé en main. Recherchez les conditions dans lesquelles les solutions émergent
Transformation préservant la structure
correction par annotation, jamais par suppression
Durer et transmettre — et la vulnérabilité de Fleury, qui guérit, face à la fragilité, qui brise
Non-séparation
Gouvernance dans le chemin d’exécution
Le fondement d’un projet n’est pas l’économie, mais le souci du milieu. L’économie est le résultat, pas le point de départ

Deux dérivations indépendantes des mêmes cinq critères. L’une issue de l’architecture, l’autre de la biologie végétale. Et la corroboration est intervenue après que les principes eurent été formulés. Cet ordre est important. C’est ce qui fait de cela une preuve plutôt qu’une justification.


VI. À quoi sert l’enregistrement ?

Autumn willows reflected in still river water at golden hour
Durer et transmettre. Une rivière est le plus ancien témoignage qu’un lieu conserve. Photographie © John Stroh

Un registre signé, scellé et horodaté est un artefact singulier au regard des normes de l’ère de l’optimisation. Il est plus lent à rédiger qu’une ligne modifiable. Il occupe de l’espace de stockage. Il empêche toute modification rétrospective soignée.

Chacun de ces éléments représente un coût en termes de performances.

Mais c’est aussi, précisément, tout l’intérêt.

Hamant observe que les humains sont les seuls êtres vivants à avoir accès à une très longue durée, et que c’est grâce à l’écriture que nous y parvenons. Ce qu’il déplore, c’est ce que nous faisons de cet accès : nous figons l’avenir, dans la cryogénisation, les banques de semences et les biobanques, plutôt que d’habiter cette longue durée. Un enregistrement scellé et horodaté constitue l’autre usage. C’est un instrument destiné à « durer et transmettre », conçu pour qu’un arrière-petit-enfant puisse vérifier ce qu’un arrière-grand-parent a dit, et à quel moment[17].

La robustesse privilégie la réversibilité. Un sceau cryptographique est, par définition, irréversible.

La solution réside déjà dans l’architecture, sous le nom de « transformation préservant la structure » : la correction s’effectue par annotation, jamais par suppression. Les journaux d’audit restent interprétables d’une version à l’autre ; les décisions historiques conservent leur validité ; les rétractations sont enregistrées au sein même du document plutôt que d’en être supprimées. Il en résulte une réversibilité de l’interprétation sur un substrat d’attestation irréversible. L’enregistrement se reconstitue par accrétion.[18] Selon les termes de Fleury, il est vulnérable plutôt que fragile. Et il s’agit là d’une propriété de conception, non d’une consolation.

Le principe sous-jacent

Cela nous amène à la partie de cet argument que Hamant ne fournit pas, et que nous élevons ici du rang de préférence stylistique à celui de principe structurel.

Au cours de l’hiver qui a suivi la chute de la France, dans la zone non occupée et sous un pseudonyme choisi pour contourner la censure de Vichy, Simone Weil a publié un essai sur l’Iliade dont l’argument est que le véritable sujet du poème est la force. Et cette force est celle qui transforme quiconque y est soumis en une chose. Sa deuxième étape est celle qui importe pour l’infrastructure : la force dégrade également celui qui l’exerce, engourdissant la raison et la pitié jusqu’à ce que celui qui la détient devienne lui aussi un automate.[19]

L’agrégation est cette opération. Le profilage, les déductions tirées des écrits d’autrui et la reconstruction à partir du comportement : tout cela construit une image d’une personne à partir de données qu’elle n’a pas fournies, à des fins qu’elle n’a pas pu contester. La personne devient une chose détenue par le système.

Weil figure depuis un certain temps déjà dans les fondements publiés de ce projet, dans la partie que chaque communauté façonne selon sa propre tradition. Sa conception de l’attention comme engagement réceptif face à l’affliction explique pourquoi la plateforme propose de prendre le temps de faire le deuil d’un décès plutôt que de réduire une perte à un résumé.[15] Il s’agit là d’une véritable conséquence de la conception, et elle reste telle quelle.

Mais l’argument du « Poème de la Force » appartient à la partie que personne ne peut supprimer. Ni une communauté, ni un membre, ni nous :

Aucun membre ne peut être réduit à un agrégat. Ni nous, ni le modèle, ne construisons, ne conservons ni ne déduisons une image composite d’une quelconque personne. Lorsque la plateforme rassemble des informations sur une personne, comme dans le cas de l’enrichissement généalogique au sein d’une même communauté, elle le fait à la demande d’un membre, à partir des archives propres à cette communauté, et n’écrit rien sans la confirmation de ce membre.

Télécharger le PDF (EN) Présentation sous forme de diapositives (EN) PDF de présentation (EN) Questions et réponses (EN) Glossaire (EN)
Trois précisions

Il ne s’agit pas de vie privée. La vie privée concerne la dissimulation, et un agrégat entièrement divulgué reste un agrégat. Le principe interdit une opération, pas une divulgation.

Le consentement n’y remédie pas, mais la paternité modifie l’acte. Le suppliant de Weil donne son consentement et reste néanmoins un objet. La fédération ne constitue pas une exception à ce principe, car dans le cadre d’une fédération, le membre reste l’auteur de ce qui est transmis : l’enveloppe ne contient que ce qui a été explicitement choisi, avec sa provenance indiquée.

La distinction se fait entre une personne qui envoie un enregistrement et un système qui compose une personne.

Elle nous lie, nous et le modèle, et non la communauté. Les données whakapapa sont relationnelles par nature ; relier les personnes à travers les générations est l’objectif, et non le préjudice. Ce principe doit être défini dans le code de manière à ce qu’un rūnanga établissant des liens généalogiques ne soit pas affecté, tandis que la composition côté opérateur et côté modèle reste impossible.

C’est la deuxième clause de Weil qui fait de cet engagement un engagement structurel plutôt que politique. Une plateforme qui se contente de conserver la capacité d’agrégation devient, sous la pression commerciale et avec le temps, une plateforme qui l’utilise. Le refus doit être architectural, car on ne peut pas compter sur l’opérateur pour continuer à refuser indéfiniment.

C'est le même argument que celui de la séparation entre la phase de construction et la phase d'exécution, tel qu'il a été formulé par Homer.


VII. Un modèle qui reste quelque part

Backlit cosmos flowers with dew and spider silk at dawn
Situé et particulier. Une approche « moyenne » ferait perdre chacun de ces éléments. Photographie © John Stroh

Parmi les exemples concrets donnés par Hamant concernant le compromis entre performance et robustesse, l’un d’entre eux est le langage lui-même : l’algorithme performant qui écourte une conversation, opposé au langage avec ses erreurs, ses redondances et son hétérogénéité. C’est précisément ce qui permet la nuance, le malentendu, et donc le dialogue.[20]

Il ne parle pas ici du traitement du langage naturel, et c’est précisément pour cela que cette observation est utile. La redondance n’est pas tolérée malgré le dialogue. Elle est la condition même du dialogue.

Un système qui la supprime par compression a éliminé ce qui faisait de l’échange un échange.

C’est l’explication la plus claire qui soit de la raison pour laquelle un modèle basé sur une moyenne mondiale est un mauvais outil pour une communauté qui possède ses propres registres, ses propres silences, sa propre manière de ne pas dire les choses. Et cela s’impose indépendamment de tout argument de souveraineté, ce qui renforce encore son poids : même si la juridiction n’avait aucune importance, même si les données ne quittaient jamais le territoire, le calcul de la moyenne constituerait tout de même une perte.

À côté de cela, l’Institut Michel Serres, qui se décrit avant tout comme une école vivante, laissant place aux « connaissances situées et impliquées ». Des connaissances situées et impliquées, issues de l’écoute et de la coopération à l’échelle de l’ensemble de la société. L’institut tire son nom et son principe de *Le Contrat naturel* (1990) de Michel Serres, qui proposait de reconnaître tous les êtres naturels comme sujets de droit et d’imaginer une organisation symbiotique des relations entre les humains et tout ce qui vit.[21]

Cette expression n’est pas une métaphore que nous importons. Les « connaissances situées et impliquées » constituent le même engagement qu’une couche linguistique située, énoncée par un institut de recherche plutôt que par une plateforme, et atteinte par une voie différente.

La conséquence en termes de conception est le plan A, B, C, D de Hamant. Non pas le meilleur modèle, mais des modèles multiples, réparables localement, adaptables, au service de la robustesse d’un lieu. Cela va à l’encontre de la monoculture tant à l’intérieur de notre propre système qu’à l’extérieur : si la fédération ne présente pas de véritable diversité interne, c’est-à-dire des implémentations, des juridictions, des langages et des topologies de déploiement divergents, alors le pluralisme n’est que rhétorique et la critique de la consanguinité conceptuelle s’abat également sur nous.


VIII. Les gardiens

A path through autumn woodland deep in fallen leaves
Le processus étape par étape décrit par Alexander. Chaque étape s’appuie sur la précédente. Photographie © John Stroh

Des agents de codage récursifs et auto-améliorants vont prendre en charge une part croissante du travail de construction et de maintenance de ces systèmes. Ce n’est pas une prédiction ; c’est déjà en partie une réalité. Et Hamant a identifié le mode de défaillance avec une précision dérangeante. S’endormir au volant n’est pas un problème d’exécution que l’on résout par une limite d’exécution.

C’est un problème lié à la phase de construction, et c’est précisément au niveau de cette phase que l’humain est en train d’être évincé.

Hamant nous dit ce qui se brise. Hannah Arendt nous dit où cela aboutit. Et c’est grâce à elle que cette architecture a la forme qu’elle a. Elle reste l’explication la plus claire que nous connaissions sur la façon dont les valeurs dérivent : comment une chose tourne mal sans que personne n’ait décidé de mal agir.

C’est la question à laquelle toute la structure a été conçue pour répondre.[22]

Un mécanisme traverse son œuvre, et il se déroule en une séquence : la complaisance, puis la normalisation, puis la dérive. Ce qui importe ici, c’est qu’il s’agit d’un processus mécanique plutôt que moral. Il n’a besoin d’aucun méchant, et personne n’a à prendre de décision.

La complaisance. Cette distinction est généralement occultée dans les récits. Arendt ne soutient pas qu’Eichmann était incapable de penser. Elle soutient qu’il ne pensait pas, et qu’un préjudice d’une telle ampleur ne nécessitait aucun motif monstrueux, seulement l’absence d’activité de réflexion chez une personne absorbée par la procédure. L’absence de réflexion n’est pas de la stupidité. C’est une capacité laissée en désuétude, dans des conditions qui rendaient confortable le fait de ne pas l’exercer.

Un agent de bord qui cesse de vérifier les différences parce que celles-ci se sont avérées fiables depuis six mois n’est pas incompétent. Il se trouve dans la situation décrite par Arendt, et c’est le système qui l’a mis dans cette situation.

La normalisation. Son observation la plus durable et la plus mal interprétée est que les grands préjudices se manifestent rarement en s’annonçant comme monstrueux. Ils se présentent sous la forme de l’ordinaire et de l’administratif, acceptés par des personnes faisant preuve de ce qu’elle appelait « une curieuse et tout à fait authentique incapacité à penser ». Ni stupidité, ni même conviction, mais une incapacité à considérer le monde sous un autre angle que le sien.[23][24] Le grotesque devient ordinaire, non pas parce que quelqu’un l’a choisi, mais parce que tout le monde s’y est habitué.

Dérive. Puis les valeurs disparaissent. Elles ne sont pas abrogées, et personne ne défend cette décision, car il n’y a pas de décision. Elles sont laissées à la discrétion de chacun et érodées petit à petit, par des étapes qui semblent raisonnables, tandis que tout le monde continue à les réciter ; et par la suite, personne ne peut dire à quel moment elles ont cessé d’exclure quoi que ce soit.

C’est le mode de défaillance que les services du Tractatus ont été conçus pour enrayer, énoncé à l’échelle civilisationnelle. Le cadre lui-même explique ce qui se passe lorsque des agents s’optimisent par des boucles d’apprentissage : les instructions peuvent s’estomper, les limites peuvent dériver et les pistes d’audit peuvent devenir peu fiables.[25] Trois descriptions d’une même séquence, dont aucune ne s’annonce.

Ce qu’Arendt apporte, c’est la raison pour laquelle ce phénomène doit être enrayé au niveau architectural plutôt que surveillé attentivement. Rien dans la séquence ne déclenche d’alerte, car à chaque étape individuelle, les personnes impliquées se comportent de manière raisonnable.

C’est là la nature même de ce à quoi s’oppose cette architecture. Pas la saisie. Pas un modèle rebelle. Une adaptation progressive, pas à pas, à quelque chose que personne n’aurait accepté si cela s’était produit d’un seul coup.

C’est pourquoi la responsabilisation ne peut se limiter à la consignation. Arendt appelait « le règne de Personne » cette autorité qui est réelle alors que personne n’en est responsable : un système complexe de fonctions dans lequel personne, ni l’individu, ni les quelques-uns, ni la multitude, ne peut être tenu pour responsable. Non pas l’absence de règle, mais une tyrannie sans tyran, qui se distingue par le fait qu’il ne reste plus personne avec qui discuter.[26]

Il s’agit là d’une description complète d’une chaîne d’agents autonomes sans mandant responsable, rédigée un demi-siècle plus tôt. Et le test pratique est plus simple que n’importe quelle théorie : lorsque les conditions changent sous vos pieds, qui appelez-vous ?[27] Une piste d’audit parfaite qui ne débouche sur aucune personne, c’est le « gouvernement de Personne » avec une meilleure tenue des registres.

La dernière contribution d’Arendt est celle qui relie cette section au reste de l’essai. Dans ses « Conférences sur la philosophie politique de Kant » (données en 1970, publiées à titre posthume en 1982), elle distingue la cognition, qui recherche des solutions, de la pensée, qui recherche le sens, et du jugement, qui tranche un cas particulier sans règle le déterminant à l’avance.

Le jugement est précisément la faculté qui ne peut être remplacée par l’application d’une procédure, car son travail consiste à trouver la règle plutôt qu’à la suivre[28]. C’est également la faculté dont elle a diagnostiqué l’absence chez Eichmann : l’incapacité à considérer le monde d’un point de vue autre que le sien est un défaut de jugement, et non d’intelligence.

C’est là la même affirmation qu’Alexander avance dans *The Nature of Order* lorsqu’il insiste sur le fait que le jugement d’intégrité ne peut être réduit à une règle, et la même affirmation que la contrainte fondamentale propre à ce cadre, selon laquelle les valeurs ne peuvent être automatisées, mais seulement vérifiées.[29][30] Trois approches aboutissant à une même conclusion, issues respectivement de la philosophie politique, de l’architecture et de la construction de l’objet lui-même.

Alexander ajoute une contrainte quant à la manière dont le travail doit aboutir. Son processus vivant exige que chaque étape s’appuie sur le résultat de la précédente, que l’adaptation se fasse étape par étape, et que chaque étape puisse être évaluée par rapport à l’ensemble. Une structure générée par grands blocs à partir d’un plan directeur est pour lui l’exemple type d’un processusdestructeur de structure.

Les agents de codage sont des générateurs de gros blocs ; c’est leur raison d’être.[29]

Il en découle trois engagements, dont chacun représente un coût.

Les agents émettent des différenciations ordonnées, et non des blocs. Suffisamment petites pour que l’effet de chacune sur l’ensemble puisse réellement être évalué. Il s’agit d’une réduction délibérée du débit. C’est là le point soulevé par Hamant, selon lequel une circularité robuste nécessite des marges, et qu’un cycle tournant trop vite ne permet jamais une véritable régénération, appliqué à la boucle de développement.

Le jugement sur l’intégrité reste humain. Il ne s’agit pas de « un humain approuve la différenciation ». Le critère du travail d’un agent est de savoir s’il préserve, étend et renforce l’intégrité du système. Un jugement qui, selon Alexander, ne pouvait être réduit à une règle, ce qui explique pourquoi le mouvement des modèles logiciels a adopté sa forme sans reproduire ses résultats. C’est le pendant de la contrainte fondamentale du cadre lui-même : les valeurs ne peuvent être automatisées, seulement vérifiées.

La posture du responsable s’inverse. Hamant décrit précisément ce changement. Dans un monde stable, le décideur dirige en disant « je veux » et « je sais comment ». Dans un monde instable, le décideur facilite en disant « j’aimerais » et « je ne sais pas comment ». Humble, inclusif, il mobilise un groupe capable, à terme, de se passer de lui.[31] Appliqué au développement agentique, cela ne correspond pas à l’humain en tant qu’approbateur officiel.

C’est l’humain en tant que porteur d’intention, tout en ne se chargeant explicitement pas de la méthode.

La discipline qui va de pair : comment distinguer une question robuste d’une question fragile

Il existe une discipline qui va de pair avec cela, et Hamant la présente sous la forme d’un test. Dans le monde de la performance, le temps s’écoule en fonction des réponses, et l’on produit d’excellentes réponses à des questions mal choisies. Dans le monde robuste, le temps s’écoule en fonction des questions, car le cerveau ne peut pas identifier rapidement la bonne. Une question robuste est une question qui reste stable lorsqu’on la secoue par des interactions. Reformulez-la avec des interlocuteurs éloignés et voyez si elle résiste.

Son exemple : « Comment réduire le CO₂ atmosphérique ? » conduit au captage direct de l’air, assorti d’un instrument financier. Le gaz est privatisé, la polycrise s’aggrave. « Comment créer les conditions dans lesquelles le CO₂ atmosphérique diminue durablement ? » conduit à l’agroécologie.[31]

La nôtre : « Comment faire en sorte que l’agent de codage produise plus rapidement un code correct ? » est la question non robuste. « Comment créer les conditions dans lesquelles ce système reste vérifiable par ses gestionnaires à mesure que le débit de l’agent augmente ? » est la question robuste. La consultation avant la mise en œuvre n’est pas une charge supplémentaire pour le processus.

C’est le moment où cette question est posée alors qu’elle peut encore modifier la réponse.

J’aimerais chiffrer le coût de la gouvernance au sein de la boucle de formation par rapport au filtrage a posteriori. Je ne le peux pas. Le budget prévisionnel de la plateforme prévoit entre 5 et 10 % et indique que la mesure est « en cours de définition » ; tant que le projet n’est pas mis en œuvre, toute estimation plus précise ne serait qu’une invention de ma part.


IX. Des processus, pas des convictions

Rural road, power lines and an old woolshed in evening light
Une infrastructure partagée dans un paysage de travail. Personne n’a dû se montrer plus généreux. Photographie © John Stroh

Rien de ce qui précède n’aura d’importance si la seule voie pour y parvenir consiste à persuader les gens d’adopter des valeurs différentes. Cette voie est lente, conflictuelle, et elle échoue précisément là où les fluctuations sont les plus marquées.

La proposition concrète de Hamant est différente, et c’est la partie de son travail qui mérite le plus d’être reprise. Changez les processus, et les valeurs suivront. Ou plutôt, elles deviendront superflues, car un processus différemment structuré produit des comportements différents chez des personnes qui n’ont jamais changé d’avis sur quoi que ce soit.

Son exemple le plus frappant est une distinction en trois termes, dont la polarité, en anglais, est inversée par rapport au français.

Les anglophones doivent noter que « collaboration » est notre terme chaleureux et « coopération » notre terme bureaucratique, ce qui est l’inverse du sens évoqué ci-dessus. Cette distinction change ce que l’on construit.

L’exemple donné est un processus, pas un sentiment : le passage d’un « appel à projet » – un appel à candidatures concurrentiel dans lequel les bailleurs de fonds classent les propositions individuelles – à un « appel à commun », un appel qui constitue un bien commun. L’un est un mécanisme de classement et engendre des comportements de classement. L’autre est un mécanisme de mise en commun et engendre des comportements de mise en commun.

Personne n’a dû se montrer plus généreux.

Hamant signale que ce même glissement s’opère déjà dans le secteur français du bâtiment, où la pénurie de matériaux a poussé des concurrents directs à s’engager dans une véritable entraide. Il ne s’agit pas, selon son analyse, d’un cartel, mais d’un intérêt personnel correctement compris dans un monde de pénurie.[33]

Pour une plateforme, ce n’est pas une abstraction. Si un bien commun est une ressource partagée, le problème de conception est le contrôle d’accès. Si un bien commun est d’abord une action commune – ce qui est la formulation de Hamant, et celle d’Ostrom dans Governing the Commons (1990) –, alors le problème de conception est la gouvernance, la contribution et le statut.

Ces éléments génèrent des produits différents à partir d’un même code. C’est la différence entre les abonnés à un service et les membres d’une entreprise qu’ils mènent conjointement, et c’est ce qui détermine ce que l’abonnement achète réellement.[34]

Il existe des preuves que ce concept fait son chemin. L’administration wallonne a inscrit la robustesse dans sa vision stratégique à l’horizon 2030. larobustesse.org existe en tant que bien commun ouvert sous licence CC BY-SA, financé par la Région wallonne, organisant des sessions publiques mensuelles et refusant explicitement d’être une marque ou de valider des contenus. Un concept qui est passé d’un laboratoire de biologie aux documents de planification d’un gouvernement régional grâce à des communautés d’apprentissage et à des licences ouvertes plutôt que par un plaidoyer axé en priorité sur la législation.[35]

C’est une voie qui s’ouvre à tous. C’est aussi, par sa forme même, l’argument qu’elle porte : hétérogène, redondante, lente, ancrée localement et n’appartenant à personne.


X. La sauvegarde est une contrainte, pas un objectif

Il serait naturel de conclure en désignant un objectif primordial : la tutelle humaine des conditions qui permettent la vie sur Terre, avant toute autre chose.

Nous rejetons cette formulation.

« Un objectif primordial, tout le reste lui est subordonné » est la forme logique de l’optimisation. C’est aussi la forme exacte de la position à laquelle nous nous opposons. L’argument en faveur de l’émigration planétaire. Pour traiter la Terre comme une instance parmi d’autres. A cette structure, avec un contenu différent. Tout argument qui adopte cette forme peut être réfuté par un adversaire qui se contente d’en changer le contenu.

Ainsi : la sauvegarde n’est pas un objectif au sein de l’espace des valeurs. C’est la condition limite qui permet la survie de valeurs plurielles. Berlin, dans *Four Essays on Liberty* (1969), explique pourquoi il n’existe pas de point unique vers lequel tendre en matière d’optimisation, puisque les valeurs sont véritablement plurielles et incommensurables et que certaines pertes sont tragiques plutôt qu’erronées.[36] La théorie de la viabilité d’Aubin, telle qu’Hamant l’invoque, en donne la forme mathématique : la viabilité est une région bornée, et non un maximum.

Le premier principe de conception d’Ostrom dans *Governing the Commons* définit la forme de gouvernance, et la formulation qu’en donne Hamant est celle qu’il faut retenir : la membrane poreuse.[37] Définie, appliquée, mais non hermétiquement fermée.

Pluralisme quant aux fins au sein du noyau. Monisme quant à ses limites.

L’argument opposé n’est pas « abandonner la Terre ». Il s’agit plutôt du fait qu’une espèce confinée à une seule planète constitue un point de défaillance unique, et qu’une redondance entre différents sites est prudente. Il s’agit là d’un argument de robustesse dans le vocabulaire même de Hamant, c’est pourquoi il doit être pris en compte sur ce terrain plutôt que balayé d’un revers de main.

Il échoue sur ce terrain. Une redondance qui nécessite de consommer l’original n’est pas de la redondance ; c’est un transfert. Chaque solution de secours hors-Terre proposée est actuellement financée par l’exploitation de la seule instance fonctionnelle. Et l’inversion du « maillon faible » achève de le démontrer : une solution de secours optimisée au maximum et chargée au maximum de dépendances est le maillon fragile de la chaîne, et non le plus robuste.

La version de Hamant est plus directe. Les ultra-performants, observe-t-il, ont tous des projets de fin de vie : Mars, des bunkers, dans la conviction qu’ils peuvent échapper aux fluctuations. Il leur répond par un proverbe africain, selon lequel l’arbre qui tombe fait plus de bruit que la forêt qui pousse.[31]

Weil apporte une analyse plus profonde. Le déracinement. C’est le mal caractéristique qu’elle a diagnostiqué dans la modernité industrielle. Une civilisation dont le projet phare est l’émigration ne guérit pas cet état. Elle l’institutionnalise.[38]

Il ne s’agit pas non plus d’une affirmation sur l’essence humaine. Les arguments essentialistes sur ce que sont fondamentalement les êtres humains s’attirent les foudres de la biologie, qui voit des gradients plutôt que des espèces, et s’inscrivent dans une généalogie en Aotearoa Nouvelle-Zélande qui devrait les tenir bien à l’écart de tout document aligné sur le Te Tiriti. L’affirmation défendable est plus restreinte et suffisante : les êtres humains sont, à ce jour, les seuls porteurs avérés d ’une obligation de rendre des comptes.

Il s’agit là d’une affirmation sur qui peut être tenu pour responsable, et elle ne nécessite aucun verdict sur la conscience. C’est la forme positive de l’avertissement d’Arendt. Si le règne du « Personne » est ce à quoi l’on aboutit lorsque la responsabilité n’a pas de détenteur, alors un détenteur désigné n’est pas une simple subtilité, mais ce qui distingue la gouvernance de la simple procédure. C’est également ce que l’architecture encode déjà, et cela converge avec la responsabilité tout au long de la chaîne qu’exige la gouvernance de l’IA selon le Kaupapa Māori.[39]

Et c’est pourquoi une condition limite doit être structurelle plutôt que déclarée. Une valeur qui se contente d’être déclarée est exactement ce qu’Arendt décrit comme dérivant : laissée à la discrétion, érodée pas à pas sous des prétextes apparemment raisonnables, toujours récitée mais ne portant plus le poids de rien, sans que personne ne puisse dire quand elle a cessé d’exister. Des engagements que personne ne peut supprimer sont la réponse à ce mode de défaillance.

Les valeurs qui ne peuvent être discrètement outrepassées ne peuvent être discrètement normalisées jusqu’à disparaître.[24]

Weil, là encore, fournit la structure : les obligations précèdent les droits, et les droits sont la reconnaissance d’obligations plutôt que des possessions revendiquées face au monde. Le kaitiakitanga énonce cette même inversion. La tutelle en tant qu’obligation envers ce qui est gouverné, et non en tant qu’autorité sur celui-ci. Et il l’énonce à partir d’une tradition qui y est parvenue la première et de manière indépendante. Le sens du cheminement importe : c’est la philosophie européenne qui arrive là où les cadres autochtones se trouvaient déjà, et non l’inverse.

L’exemple le plus frappant de cela n’est pas du tout philosophique. Il est législatif.

En 1990, Michel Serres proposait dans *Le Contrat naturel* que les êtres naturels soient reconnus comme sujets de droit. En 2014, la loi *Te Urewera Act* a conféré la personnalité juridique à Te Urewera.[40] En 2017, la loi Te Awa Tupua (règlement des revendications relatives à la rivière Whanganui) a déclaré la rivière Whanganui personne morale détenant tous les droits, pouvoirs, devoirs et responsabilités propres à une telle entité, exercés en son nom par Te Pou Tupua. Un visage humain pour une entité qui a qualité pour agir mais n’a pas de voix.[41]

Ce serait une erreur, et précisément celle contre laquelle cette section met en garde, d’interpréter cela comme une mise en œuvre par Aotearoa de la pensée d’un philosophe français. La loi codifie une position que les iwi et les hapū de la Whanganui ont défendue et fait valoir à travers l’une des revendications les plus anciennes de l’histoire juridique du pays, fondée sur l’indissociabilité du peuple et de la rivière.

Serres était parvenu à une conclusion similaire en 1990, au sein d’une tradition européenne qui avait passé trois siècles à affirmer le contraire. Les iwi de Whanganui en étaient déjà là, et ce depuis des générations.

Ce que la loi apporte à l’argumentation, ce n’est pas une autorité, mais la validation du concept. Elle établit que cette position n’est pas seulement défendable, mais qu’elle peut faire l’objet d’une législation. Qu’un véritable système juridique peut être amené à reconnaître la qualité pour agir à une entité qui ne peut ni conclure de contrat, ni intenter d’action en justice, ni s’exprimer, à condition qu’une partie humaine désignée assume cette obligation en son nom.

Il s’agit là d’un argument structurel plutôt que moral, et c’est le même principe, à une échelle bien plus modeste, qu’applique un registre officiel à l’histoire d’une personne.


XI. Ce que nous ignorons

Il a été testé de manière contradictoire de l’intérieur, et non de l’extérieur. Il n’y a pas eu de test d’intrusion indépendant, et nous n’en revendiquons pas.

Aucune mesure n'a été effectuée en conditions de charge. Le système fonctionne en production, mais comme il est déployé partout au sein de la même organisation, celle-ci souhaite tout de même disposer d'un système développé par un tiers.

Un agent qui se contente de refuser de consulter le cadre n’est pas bloqué par celui-ci.[25] Lorsqu’un message du modèle parvient à un membre, il est vérifié avant d’être considéré comme la réponse, et le modèle ne peut pas contourner cette étape. Si la vérification échoue, le message est tout de même transmis, car refuser de répondre chaque fois qu’une vérification échoue serait préjudiciable au système lui-même. Ce que le système ne fera pas, c’est les qualifier de « corrects ».

Les sanctions ne s’intensifient pas. Un modérateur peut intervenir, mais rien ne retient qu’il s’agit de la troisième fois. Et deux membres qui se disputent au sein d’un même village ne disposent pas d’une procédure comparable à celle applicable entre deux villages, qui passe par trois étapes et aboutit à une audience.

La question de savoir si la fédération présente une véritable hétérogénéité interne ou simplement un optimum bien ciblé reste ouverte, et tout lecteur de *De l’incohérence* de Hamant se la posera[42]. Sa critique porte sur la cohérence en tant que telle, et il s’agit ici d’un système hautement cohérent.

La question de savoir si le débit des agents peut être concilié avec un changement préservant la structure est le point non résolu le plus important de la liste, car toute la thèse du développement agentique repose sur elle.

Et Hamant lui-même apporte la dernière mise en garde, que nous citons délibérément à notre propre détriment. Écrivant en anglais pour la Great Transition Initiative, il a averti que le point de vue biologique ne devait pas être transposé aux sociétés humaines sans précaution. Car les humains veulent conserver leurs intentions et leurs objectifs, tandis que les systèmes vivants fonctionnent selon des règles probabilistes et que leur trajectoire n’est établie qu’après coup, rétrospectivement[43].

C’est là que se situe la limite de tout ce qui précède. La biologie apporte la preuve que l’hétérogénéité confère de la robustesse aux organismes, et la littérature sur les systèmes étend ce modèle aux infrastructures techniques. Le passage de là à ce que nous devrions construire est un argument, et non une déduction.

Nous l’avons mené avec le plus grand soin possible, et cela reste un argument.

Ce que nous pouvons affirmer sans réserve est plus restreint et, selon nous, suffisant. Le monde devient de plus en plus bruyant. Les systèmes calibrés pour la moyenne seront confrontés à des conditions pour lesquelles ils n’ont pas été conçus.

Et l’infrastructure qui aura le plus de chances de rester debout n’est pas la plus rapide ni la plus performante, mais celle qui aura conservé ses marges de manœuvre, ses différences, qui aura maintenu dans la boucle un être humain capable de déterminer si l’ensemble était en bonne santé, et qui aura conservé des archives que quelqu’un, dans trois générations, pourra encore lire et vérifier.

Remarque sur les sources — comment fonctionnent les citations, et ce qui est repris de seconde main dans cet essai

Trois remarques concernant les citations ci-dessous.

Tout d’abord, lorsque cet essai fait référence à un penseur, il cite l’ouvrage et l’année dans le texte, et chacun de ces ouvrages figure dans la bibliographie. Lorsqu’un penseur nous parvient par l’intermédiaire de Hamant plutôt que par ses propres écrits – Aubin sur la viabilité, Fleury sur la fragilité et la vulnérabilité –, le texte le précise au moment où il y fait référence et la bibliographie les répertorie sous la rubrique « Cité par Hamant ».

Une chaîne d’attribution qui n’est pas visible est une chaîne qui ne peut être vérifiée, et rapporter la lecture que quelqu’un fait d’un tiers comme s’il s’agissait du tiers lui-même, c’est ainsi qu’une citation devient une légende.

Deuxièmement, Hamant est un scientifique et essayiste vivant qui ne dispose pas d’une entrée dans la Stanford Encyclopedia of Philosophy, référence incontournable de ce projet pour les affirmations philosophiques. Il s’inscrit donc dans ce débat sur un pied d’égalité différent de celui de Berlin, Weil ou Wittgenstein : en tant que preuves empiriques et systémiques évaluées par des pairs, avec une extension normative reconnue qu’il nous appartient, à lui et à nous, de défendre, et non en tant qu’autorité philosophique.

Son corpus se divise clairement en trois niveaux.

Les affirmations empiriques sur les systèmes vivants sont évaluées par des pairs. Les affirmations structurelles sur les systèmes en général sont étayées dans les domaines biologiques et techniques, notamment grâce à la collaboration avec l’informaticien Stéphane Grumbach.[44][45][46] Les affirmations normatives sur ce que nous devrions donc construire sont argumentées plutôt que dérivées. Présenter le troisième niveau avec l’autorité du premier serait précisément l’erreur contre laquelle s’insurge cet essai.

Troisièmement, et dans le même esprit : l’article de Grumbach et Hamant de 2018 se termine en suggérant que l’autonomie croissante de la couche numérique pourrait contribuer à atteindre l’homéostasie dans la technosphère, ce qui est proche de l’inverse de la position de « refus de l’exécution » défendue ici.

Sa position a évolué. L’article de 2020[45] s’oriente résolument vers la sous-optimalité et l’hybridation humaine, et vers 2025–2026, il traite l’opacité des modèles comme le cas extrême de l’aliénation. Nous le signalons car un lecteur vérifiant les références le trouvera, et aura raison de le faire.

Les ouvrages répertoriés sous la rubrique « Hamant. Livres (FR) » ne font pas l’objet d’une édition commerciale en anglais à la date de rédaction du présent article ; les articles évalués par des pairs et l’essai de la Great Transition Initiative sont en anglais. Hamant a également publié une courte série de vidéos explicatives en anglais à l’intention des lecteurs qui ne lisent pas le français.


Références

Numbered by first appearance in the text. Sources reaching us through Hamant rather than from their own pages are marked [via Hamant] and are also flagged at the point of use.

[1] Institut Michel Serres — pour les ressources et les biens communs. Statement of purpose and four founding concepts (natural capital, agricultural exception, common health, robustness). https://institutmichelserres.fr — research pages at http://institutmichelserres.ens-lyon.fr. Honorary doctorate: Theunis, L. (2026). “Pour Olivier Hamant, « la performance nous fragilise, la robustesse nous sauvera ».” Daily Science (Belgium), 16 February 2026. https://dailyscience.be/16/02/2026/pour-olivier-hamant-la-performance-nous-fragilise-la-robustesse-nous-sauvera/

[2] Institut Momentum (2025). Antidote au culte de la performance : la robustesse du vivant — seminar synthesis, 22 November 2025, Académie du Climat, Paris. https://institutmomentum.org/antidote-au-culte-de-la-performance-la-robustesse-du-vivant (Spoken source; attributed as such throughout.)

[3] Meadows, D. H., Meadows, D. L., Randers, J., & Behrens, W. W. (1972). The Limits to Growth. New York: Universe Books.

[4] Daily Science interview, 16 February 2026 — see [1]; and Institut Momentum synthesis — see [2]. Performance as zero stock and just-in-time; Suez 2021, CrowdStrike 2024, Covid as syndemic.

[5] Perrow, C. (1984). Normal Accidents: Living with High-Risk Technologies. New York: Basic Books.

[6] Aubin, J.-P. — viability theory. [via Hamant] Named by Hamant as the mathematical and economic approach associated with robustness: larobustesse.org, Incontournables — “la viabilité où on cherche à être sous-optimal (voir par ex. Jean-Pierre Aubin)”. CC BY-SA 4.0, funded by the Région wallonne.

[7] Hong, L., Dumond, M., Zhu, M., Tsugawa, S., Li, C.-B., Boudaoud, A., Hamant, O., & Roeder, A. H. K. (2018). Heterogeneity and robustness in plant morphogenesis: from cells to organs. Annual Review of Plant Biology, 69, 469–495. doi:10.1146/annurev-arplant-042817-040517

[8] Kirchhelle, C., & Hamant, O. (2023). Discretizing the cellular bases of plant morphogenesis: emerging properties from subcellular and noisy patterning. Current Opinion in Cell Biology, 81.

[9] Illich, I. (1973). Tools for Conviviality. New York: Harper & Row. Counterproductivity as invoked by Hamant in “Learning from Nature” [43].

[10] Institut Momentum synthesis [2] — the weak-link inversion.

[11] Institut Momentum synthesis [2] — robustness as a recipe for viability, not a moral value.

[12] Samzun, C. (2025). Interview with Olivier Hamant, PRISMES / Rumeur Publique, published 18 September 2025 (interview conducted June 2025). https://www.rumeurpublique.fr/olivier-hamant-les-entreprises-comprennent-de-mieux-en-mieux-le-concept-de-robustesse/ — serendipity as the single granted use; click-workers; consanguinité.

[13] PRISMES interview [12] — falling asleep at the wheel; the least performant AIs as the most relevant; catastrophe in gestation.

[14] Daily Science interview [1] — robustness as technophile; local repairability; conviviality; plan A, B, C, D.

[15] Stroh, J. (2026). The Philosophical Foundations of the Village Project: A Framework for Digital Sovereignty and Pluralist AI Governance. My Digital Sovereignty Limited, February 2026. https://agenticgovernance.digital/downloads/philosophical-foundations-village-project.pdf — Berlin, Alexander, Wittgenstein, Weil and indigenous data sovereignty; Alexander’s five principles; the layered constitutional model; Weil’s account of attention and how it shapes the platform’s handling of grief. Ostrom on the commons is carried in Distributive Equity Through Structure, https://agenticgovernance.digital/whitepapers/distributive-equity.html

[16] Governance Architecture — Tractatus AI Safety Framework. https://agenticgovernance.digital/architecture.html

[17] Institut Momentum synthesis [2] — three independent autopilots; conditions rather than turnkey solutions; agility versus adaptability; durer et transmettre; Fleury on fragility and vulnerability [via Hamant]; the inversion of the entry constraint.

[18] Structure-Preserving Transformation: correction by annotation, audit logs interpretable across versions, prior governance decisions remaining valid. See [15] and [16].

[19] Weil, S. (1940–41). L’Iliade ou le poème de la force. Cahiers du Sud, December 1940 and January 1941, published under the pseudonym Émile Novis. English: trans. Mary McCarthy, Politics, November 1945; current edition ed. J. P. Holoka, Simone Weil’s The Iliad or the Poem of Force: A Critical Edition (New York: Peter Lang, 2003).

[20] Institut Momentum synthesis [2] — the performant algorithm that cuts the conversation short, against language with its errors, redundancies and heterogeneity.

[21] Serres, M. (1990). Le Contrat Naturel. Paris: François Bourin. Institute self-description: connaissances situées et impliquées — see [1].

[22] Research Timeline — Tractatus AI Safety Framework. https://agenticgovernance.digital/timeline.html — “My own preference settled on Hannah Arendt, who remains the clearest account I know of how values drift — how a thing goes wrong without anyone deciding to do wrong. That is the question the architecture is built to answer.”

[23] Arendt, H. (1971). “Thinking and Moral Considerations: A Lecture.” Social Research, 38(3), 417-446, at p. 417 — “a curious, quite authentic inability to think”; reprinted in Responsibility and Judgment (New York: Schocken, 2003). See also Eichmann in Jerusalem: A Report on the Banality of Evil (New York: Viking Press, 1963) and The Life of the Mind (New York: Harcourt Brace Jovanovich, 1978) for the banality of evil as thoughtlessness. See also Stanford Encyclopedia of Philosophy, “Hannah Arendt.” https://plato.stanford.edu/entries/arendt/

[24] Stroh, J. (2026). Sovereignty Without Dominance. https://agenticgovernance.digital/papers/sovereignty-without-dominance.html — “Why now: normalisation, and the closing window”; and the immutable constitutional layer as the structural answer to values eroded by discretion. Published in English, German, French, te reo Māori and Dutch.

[25] Governance — Tractatus AI Safety Framework. https://agenticgovernance.digital/governance.html — instructions fade, boundaries drift, audit trails become unreliable when agents optimise through training loops. Limitations: see [16].

[26] Arendt, H. (1970). On Violence. New York: Harcourt, Brace & World — bureaucracy as rule by Nobody; tyranny without a tyrant.

[27] Stroh, J. (2026). You Will Not Be Told. https://agenticgovernance.digital/you-will-not-be-told — “Nobody decided this”: rule by Nobody applied to platform terms; individual harms have defendants, the drift has none.

[28] Arendt, H. (1982). Lectures on Kant’s Political Philosophy, ed. R. Beiner. University of Chicago Press (delivered 1970) — the distinction between cognition, thinking and judgment.

[29] Alexander, C. (2002). The Nature of Order, Book Two: The Process of Creating Life. Berkeley: Center for Environmental Structure. See also A Pattern Language (Oxford University Press, 1977) and The Timeless Way of Building (Oxford University Press, 1979).

[30] Stroh, J. (2026). Executive Brief: Tractatus-Based LLM Architecture for AI Safety, “The Limits of the Framework”, proposition 12.1: “Values cannot be automated, only verified.” https://agenticgovernance.digital/docs-viewer.html?slug=executive-summary-tractatus-inflection-point

[31] Institut Momentum synthesis [2] — the decider as facilitator; the robust question and the CO₂ example; the death projects of the ultra-performant. The African proverb: Daily Science interview [1].

[32] larobustesse.org — competition, collaboration and cooperation as three distinct terms; and the Institut Momentum synthesis [2]. CC BY-SA 4.0.

[33] PRISMES interview [12] — cooperation between direct competitors in the French construction sector under material shortage.

[34] Ostrom, E. (1990). Governing the Commons: The Evolution of Institutions for Collective Action. Cambridge University Press. The common good as a faire commun: Institut Momentum synthesis [2].

[35] Robustness in the local administration’s 2030 strategic vision: PRISMES interview [12]. larobustesse.org as an open commons, CC BY-SA 4.0, funded by the Région wallonne, with monthly public sessions. See [32].

[36] Berlin, I. (1969). Four Essays on Liberty. Oxford University Press. Note: Berlin’s negative/positive liberty distinction is used in this project against the platform’s own temptation to optimise, not against communities — see [15].

[37] Ostrom’s eight design principles as reproduced by Hamant, with the gloss “the porous membrane”: Institut Momentum synthesis [2]. Primary source: Ostrom [34].

[38] Weil, S. (1949). L’Enracinement : prélude à une déclaration des devoirs envers l’être humain. Paris: Gallimard, collection Espoir, ed. Albert Camus (written 1943). English: The Need for Roots (Routledge Classics); also trans. R. Schwartz & K. Kirkpatrick as Prelude to a Declaration of Obligations Towards the Human Being (Penguin, 2023). See also Waiting for God (New York: G. P. Putnam’s Sons, 1951) for attention.

[39] Taiuru, K. — Kaupapa Māori AI Framework: Te Tiriti-grounded principles for AI consent, Māori data sovereignty and full-chain accountability. https://www.taiuru.co.nz. See also Te Mana Raraunga (https://www.temanararaunga.maori.nz), the CARE Principles (https://www.gida-global.org/careprinciples) and OCAP (https://fnigc.ca).

[40] Te Urewera Act 2014 (NZ) — legal personality conferred on Te Urewera.

[41] Te Awa Tupua (Whanganui River Claims Settlement) Act 2017 (NZ), Public Act No 7. Section 12 records the Te Awa Tupua recognition; section 14 declares Te Awa Tupua a legal person with all the rights, powers, duties and liabilities of a legal person, exercised by Te Pou Tupua. https://www.legislation.govt.nz/act/public/2017/0007/latest/whole.html

[42] Hamant, O. (2024). De l’incohérence : philosophie politique de la robustesse. Paris: Odile Jacob. ISBN 978-2-415-00795-9. See also La troisième voie du vivant (Odile Jacob, 2022); Antidote au culte de la performance : la robustesse du vivant (Gallimard, Tracts n° 50, 2023); Hamant, O., Charbonnier, O., & Enlart, S. (2025). L’Entreprise robuste (Odile Jacob). (No English trade edition at the time of writing.)

[43] Hamant, O. (2021). “Learning from nature.” GTI Forum Interrogating the Anthropocene: Truth and Fallacy?, Great Transition Initiative, February 2021. https://greattransition.org/gti-forum/anthropocene-hamant — Illich’s counterproductivity; and the caveat on transferring the biological standpoint to human societies.

[44] Grumbach, S., & Hamant, O. (2018). Digital revolution or Anthropocenic feedback? The Anthropocene Review, 5(1), 87–96. doi:10.1177/2053019617748337. Open access: https://inria.hal.science/hal-01227303

[45] Grumbach, S., & Hamant, O. (2020). How humans may co-exist with Earth? The case for suboptimal systems. Anthropocene, 30, 100245. doi:10.1016/j.ancene.2020.100245. Erratum: doi:10.1016/j.ancene.2020.100276

[46] Grumbach, S. (2017). Digital platforms: a new grammar for territories? Ethics in Progress, 8(1), 101–116. doi:10.14746/eip.2017.1.7


Appendix A — Sources by kind

Peer-reviewed. [7] [8] [44] [45] [46]

Authored by Hamant in English. [43]

Hamant’s books (French only). [42]

Interviews and seminar syntheses — spoken sources, attributed as such at every point of use. [2] [12] and the Daily Science interview at [1]. Also: Sismique podcast ep. 140, https://www.sismique.fr/episodes/140-performance-turbulences-et-robustesse-olivier-hamant; Favrot, L. (2022), « La décentralisation apporte de la robustesse », Mag2Lyon, https://www.mag2lyon.fr/la-decentralisation-apporte-de-la-robustesse/

Referenced through Hamant — not read in the original. [6] Aubin on viability theory; Fleury on fragility and vulnerability, at [17].

This project’s own published positions. [15] [16] [22] [24] [25] [27] [30]. Further: The Approach (https://agenticgovernance.digital/approach.html); Glossary (https://agenticgovernance.digital/glossary.html, 316 entries, CC BY 4.0, English and te reo Māori); Paper A v4, Sovereign-Record Architecture for Community-Scale Platforms (https://agenticgovernance.digital/papers/sovereign-record-architecture-v4-may-2026.html); Paper B synopsis, Situated Language Layers (https://agenticgovernance.digital/papers/sovereign-sll-synopsis-may-2026.html); Distributive Equity Through Structure (https://agenticgovernance.digital/whitepapers/distributive-equity.html); Architectural Alignment (https://agenticgovernance.digital/architectural-alignment.html); Plural Values in Living Organisations (https://agenticgovernance.digital/papers/plural-values-living-organisations-ai-may-2026.html).

Philosophy — primary texts. [19] [23] [26] [28] [29] [36] [38]. Wittgenstein, L. (1921). Tractatus Logico-Philosophicus. Stanford Encyclopedia of Philosophy entries on Value Pluralism, Isaiah Berlin, Simone Weil, Hannah Arendt and Wittgenstein: https://plato.stanford.edu

Indigenous data sovereignty and legal standing. [39] [40] [41]

Referenced directly, other. [3] [5] [9] [21] [34]


Appendix B — Two notes on Arendt in this corpus

She appears in two distinct roles, and the citations should not be run together.

PLACEHOLDER_SPLIT In Plural Values in Living Organisations she is cited via The Human Condition (1958) for plurality — the human condition of being many, each life its own perspective, none reducible to any other — alongside Berlin and Raz. In Sovereignty Without Dominance [24] and in this essay she is cited via the 1971 lecture “Thinking and Moral Considerations”, with Eichmann in Jerusalem and The Life of the Mind alongside it [23], for normalisation and thoughtlessness. Two arguments, two works, one thinker. A reader following one should not be left assuming the other.

On the standing of the borrowing. You Will Not Be Told [27] introduces “rule by Nobody” with the qualifier whatever one makes of the borrowing, and then supplies a test that does not depend on the philosophy: when the terms change under you, who do you ring? This essay keeps that order. The concept earns its place by the test, not by the name attached to it.

Lire la suite