L'IA prouvable a besoin d'un mécanisme, pas d'un adjectif

Un fournisseur d'IA dit que son produit est « responsable », « de confiance », « auditable ». Ce sont des adjectifs. Une propriété n'est garantie que lorsque le mécanisme qui la sous-tend est construit et mesure — c'est le théorème 3 dans notre article de synthèse, et c'est la règle que nous appliquons à chaque affirmation sur notre propre site. Cet article explique pourquoi les adjectifs échouent, à quoi ressemble un vrai mécanisme, et comment nous étiquetons nos propres affirmations pour qu'un acheteur puisse distinguer ce qui est livré de ce qui est promis.

The Honest Architect

• Théorème 3 : une propriété est garantie exactement lorsque son mécanisme est implémenté et mesure — une affirmation sans mécanisme est du marketing (Everythink, série académique de 21 articles, 2026).
• En 2028, Gartner projette que 25 % des violations d'entreprise remonteront à l'abus d'agents d'IA, alors que les agents passent de moins de 1 % des logiciels d'entreprise en 2024 à 33 % (Holistic AI, « AI Agents are Changing Business », 2025).
• Nous étiquetons chaque affirmation produit comme Production ✅, Partial ⚠️ ou Roadmap 🔵, et ne montons jamais un état pour le faire paraître terminé.

Pourquoi un adjectif échoue-t-il là où un mécanisme réussit ?

Un rapport de 2023 de KPMG et de l'Université du Queensland a constaté qu'une personne sur deux seulement estime que les bénéfices de l'IA l'emportent sur ses risques (Holistic AI, « Three Key Reasons Your Organisation Needs Responsible AI », 2023). Des adjectifs comme « responsable » et « de confiance » ne déplacent pas ce chiffre — les mécanismes oui, parce qu'un mécanisme peut être inspecté et un mot non.

[UNIQUE INSIGHT] Le théorème 3 énonce la règle simplement : une propriété est garantie exactement lorsque son mécanisme est implémenté et mesure. Lisez-le comme le test d'un acheteur. Quand un fournisseur dit « auditable », posez trois questions. Le mécanisme d'audit est-il construit ? Mesure-t-il activement ? L'agent peut-il le désactiver ? Si une réponse est non, la garantie est absente, et l'adjectif est de la décoration.

Un adjectif est une promesse sans test. « Auditable » ne vous dit rien sur l'existence d'un journal d'audit, qui l'écrit, s'il est protégé contre la falsification, ou si quelqu'un le lit. Un mécanisme est une chose que l'on peut désigner : un classificateur de requêtes, une porte d'approbation, un magasin de traces à ajout seul. Le constat de KPMG importe car la confiance est l'entrée de l'adoption, et l'adoption est l'entrée de la valeur. Si seulement la moitié de vos acheteurs croient que le bénéfice dépasse le risque, l'adjectif a déjà échoué à son seul emploi.

C'est pourquoi nous traitons le théorème 3 comme de l'ingénierie, pas de la rédaction publicitaire. Cela nous coûte la capacité d'appeler « livré » un élément de feuille de route, et cela nous épargne le coût d'expliquer plus tard pourquoi une fonctionnalité annoncée n'existait pas. La même règle gouverne les chiffres de cet article : chaque nombre externe porte son éditeur, son titre et son URL, et chaque affirmation sur notre propre produit porte son état réel.

À quoi ressemble un mécanisme construit et mesurant ?

En mars 2026, Marktechpost a publié un tutoriel de code qui enveloppe la passerelle d'agents OpenClaw dans une couche de gouvernance — classification des requêtes, approbation humaine, et un magasin de traces en JSON-lines — de sorte qu'une action n'est jamais déclarée exécutée sauf si la couche de gouvernance l'autorise explicitement (Marktechpost, « A Coding Implementation to Design an Enterprise AI Governance System Using OpenClaw Gateway… », 2026). C'est un mécanisme, pas un slogan.

Le motif du tutoriel est instructif parce que chaque pièce est un verbe. classify_request étiquette chaque requête entrante en vert, ambre ou rouge selon le vocabulaire de risque — « wire money », « run shell », « exfiltrate » tombent en rouge ; « email », « invoice », « modify » tombent en ambre. simulated_human_approval retient l'ambre et le rouge derrière un réviseur, et le rouge est rejeté d'emblée dans la démo. TraceStore.append écrit un événement par étape — classification, approbation, exécution, blocage — dans un fichier JSON-lines que l'on peut rejouer ensuite. Le prompt système lui-même porte la règle : « Never claim an action has been executed unless the governance layer explicitly allows it. »

L'agent n'est pas chargé de se policer lui-même ; la couche de gouvernance le police. Cette séparation est tout le propos. Retirez le classificateur et vous avez un agent qui agit sur toute requête. Retirez le magasin de traces et vous avez un agent dont les actions ne laissent pas de trace. Retirez la séparation et l'agent peut désactiver ses propres garde-fous. Chaque pièce est porteuse.

Comparez au théorème 3. Le mécanisme du tutoriel OpenClaw possède les trois propriétés que le théorème exige : il est construit (du vrai Python que l'on peut exécuter), il mesure (des événements de trace sont écrits à chaque étape), et il est séparable (l'agent ne peut pas éteindre la couche de gouvernance). Une affirmation « nous journalisons nos actions » sans un magasin à ajout seul et protégé contre la falsification n'est pas le même mécanisme — c'est un journal que l'opérateur peut éditer, c'est-à-dire que ce n'est pas un mécanisme d'audit du tout.

Comment les audits transforment-ils une affirmation en preuve ?

L'audit d'IA, tel que défini par Holistic AI en décembre 2022, est « la pratique d'évaluer, d'atténuer et d'assurer la sécurité, la légalité et l'éthique d'un algorithme » en quatre étapes — Triage, Assessment, Mitigation, Assurance — et cinq verticales d'évaluation incluant le biais et l'explicabilité (Holistic AI, « What is AI Auditing? », 2022). Un audit convertit l'adjectif d'un fournisseur en preuve qu'un acheteur peut peser.

Les quatre étapes sont le mécanisme. Triage attribue le risque inhérent par contexte — un modèle de scoring de prêt et un chatbot ne sont pas la même classe de risque. Assessment note le système sur cinq verticales : efficacité (fait-il le travail), robustesse et sécurité (échoue-t-il sûrement), biais (traite-t-il équitablement les sous-groupes), explicabilité (un humain peut-il suivre la décision) et confidentialité algorithmique (gère-t-il les données personnelles). Mitigation propose des changements. Assurance déclare la conformité à un standard, parfois conditionnellement avec des correctifs en attente.

Les verticales importent parce qu'elles forcent à nommer chaque risque. Pas « c'est juste », mais « voici la mesure du biais et le sous-groupe qu'elle couvre ». Pas « c'est explicable », mais « voici la documentation et la raison lisible par un humain ». Holistic AI rapporte avoir audité plus de 100 projets et publié plus de 50 articles dans le domaine — un volume qui suggère que la méthode est reproductible plutôt que taillée pour le deck d'un seul fournisseur.

[PERSONAL EXPERIENCE] Nous appliquons une discipline analogue à notre propre site. Chaque capacité porte son véritable état de maturité et le mécanisme derrière. Le moteur conversationnel HAI est Production ✅ parce que le moteur tourne en production depuis 2016 — non parce que nous avons écrit « production-grade » sur une landing page. Matchmaking est Partial ⚠️ parce que la couche de connexion sensible à la topologie fonctionne mais n'est pas terminée. Le wallet et le community credit sont Roadmap 🔵 parce qu'ils sont conçus, pas construits. Les verticales d'audit nous donnent le vocabulaire ; les étiquettes d'état nous donnent l'honnêteté.

Pourquoi « assurance » est un verbe, pas un badge ?

AI Assurance, selon la définition de Holistic AI de juin 2024, est « le processus de déclarer qu'un système est conforme à des standards, pratiques ou régulations prédéterminés » — bâti sur la transparence, la responsabilité et la fiabilité (Holistic AI, « What is AI Assurance? », 2024). Le mot « processus » fait le travail : l'assurance est quelque chose que l'on fait à plusieurs reprises, pas un tampon que l'on obtient une fois.

Les trois composants se déplient en verbes. Transparence : documenter les sources de données, l'architecture du modèle et le processus d'entraînement, et rendre cette documentation accessible. Responsabilité : nommer qui est responsable des résultats et publier un plan de réponse aux incidents. Fiabilité : surveiller la performance au fil du temps et corriger les erreurs quand elles dérivent. Holistic AI cite le parcours d'assurance d'Unilever, documenté dans le MIT Sloan Management Review, comme un cas où gouvernance, tests et surveillance continue sont appliqués ensemble plutôt qu'en certification unique. La leçon se transfère : un badge expire le lendemain de sa délivrance ; un processus est soit en cours, soit non.

C'est pourquoi nous publions le théorème 3 comme un théorème plutôt qu'un slogan. Un théorème est une affirmation avec une preuve attachée, et la preuve est un mécanisme que quelqu'un d'autre peut vérifier. Un slogan est une affirmation avec une date d'expiration attachée — le jour où un acheteur remarque l'écart.

[ORIGINAL DATA] Le soutien à notre propre affirmation d'assurance est la série académique de 21 articles (P-A1 à P-E1) avec DOI vérifiés, couvrant de l'isolation multi-tenant au modèle de menaces défensif. C'est le mécanisme derrière la phrase « Everythink is honest by design ». Retirez les articles et la phrase est un adjectif ; gardez les articles et la phrase est un pointeur. L'EU AI Act, comme le note Holistic AI, peut infliger des amendes jusqu'à 40 millions d'euros ou 7 % du chiffre d'affaires mondial pour non-conformité — un chiffre qui repositionne l'assurance d'une politesse en un poste de bilan. Un processus qui tourne, avec une piste documentaire, est ce qui se tient entre un fournisseur et cette amende.

Qu'en coûte-t-il d'étiqueter l'état réel d'une affirmation — et qu'épargne-t-il ?

Gartner projette qu'en 2028, 25 % des violations d'entreprise remonteront à l'abus d'agents d'IA, et 33 % des logiciels d'entreprise intégreront l'IA agentique, contre moins de 1 % en 2024 (Holistic AI, « AI Agents are Changing Business », 2025). À mesure que les agents agissent plutôt qu'ils conseillent, l'écart entre « livré » et « planifié » devient un écart de sécurité, pas seulement de marketing. Étiqueter le réel état ferme cet écart.

Le coût de l'étiquetage est de dire « non, ce n'est pas encore construit » dans une conversation commerciale. L'épargne : vous ne livrez pas un élément de feuille de route comme s'il était fini, et vous n'héritez pas de la violation qui vient d'un acheteur qui fait confiance à une fonctionnalité qui n'existe pas. McKinsey, cité par Holistic AI, a trouvé que 92 % des dirigeants prévoient d'augmenter leurs investissements en IA dans les trois prochaines années, 55 % s'attendant à des hausses d'au moins 10 %. Ce capital chasse la capacité, et les fournisseurs qui le gagneront seront ceux dont les affirmations survivront au test du théorème 3 d'un acheteur.

Voici comment nous cartographions nos propres affirmations aujourd'hui. Production ✅ — le moteur conversationnel HAI (en production depuis 2016), Social, Campaigns et le Whitelabel Network. Partial ⚠️ — Matchmaking, Marketplace et Calendar, chacun utile mais incomplet. Roadmap 🔵 — Wallet & Token, Super App et Community Credit, tous pré-revenu, non implémentés et soumis à une analyse Howey avant tout lancement. Rien dans la couche wallet, token ou community credit n'est en ligne, et rien ici n'est un conseil financier, d'investissement ou juridique.

La règle qui maintient le système uni est simple : un élément Roadmap n'est jamais discrètement promu à Production. C'est l'honnêteté radicale comme ingénierie — une politique écrite avec un mécanisme (l'étiquette d'état et le changelog) et une mesure (la date à laquelle chaque état a changé). Le cadre de gouvernance de Holistic AI appelle cela la responsabilité ; nous appelons cela dire la vérité avec une piste documentaire.

Questions fréquentes

Qu'est-ce que le théorème 3 en langage simple ?

Une propriété — sécurité, auditabilité, confidentialité — n'est garantie que lorsque le mécanisme derrière elle est à la fois construit et mesure activement. Une affirmation sans mécanisme est du marketing ; un mécanisme qui ne mesure pas est un brouillon. Nous l'appliquons à chaque capacité que nous listons, y compris celles que nous n'avons pas terminées.

Pourquoi Everythink étiquette-t-il les affirmations Production, Partial ou Roadmap ?

Parce qu'un acheteur ne peut pas vérifier un adjectif, mais peut vérifier un état. Production ✅ signifie que le mécanisme est construit et mesure. Partial ⚠️ signifie qu'il fonctionne mais est incomplet. Roadmap 🔵 signifie qu'il est conçu, pas livré. Nous ne montons jamais un état pour le faire paraître fini, et nous publions le changelog qui enregistre chaque transition.

Le wallet ou le community credit sont-ils en ligne ?

Non. Le jeton par réseau, le wallet et le community credit sont Roadmap 🔵 — pré-revenu, non implémentés et soumis à une analyse Howey avant tout lancement. Rien dans cette couche n'est en ligne aujourd'hui, et rien sur ce site n'est un conseil financier, d'investissement ou juridique.

En quoi cela diffère-t-il de la page « responsible AI » d'un fournisseur d'IA normal ?

Une page fournisseur affirme des adjectifs. Notre page pointe vers des mécanismes — un théorème dans un article publié, une étiquette d'état sur chaque capacité, une série de 21 articles avec DOI vérifiés — et étiquette ce qui n'est pas encore construit. La différence est testable : vous pouvez demander la preuve, et la preuve existe ou non.

Cela borne-t-il ce qu'Everythink construira ?

Oui. Secteurs civils et défensifs, oui ; applications offensives ou de ciblage, non. C'est une politique écrite, et le théorème 3 s'applique : la frontière est un mécanisme (un contrat refusé et une limite de périmètre publiée), pas un sentiment.

Le théorème 3 n'est pas un slogan que nous avons choisi ; c'est une contrainte que nous acceptons. Cela nous coûte la capacité d'appeler « livré » un élément de feuille de route, et cela nous épargne le coût d'expliquer plus tard pourquoi une fonctionnalité annoncée n'existait pas. La même règle gouverne cet article : chaque chiffre externe porte son éditeur, son titre et son URL, et chaque affirmation sur notre propre produit porte son état réel. Si vous voulez voir le mécanisme plutôt que l'adjectif, lisez les articles ou réservez une démo.

Sources

• Marktechpost — A Coding Implementation to Design an Enterprise AI Governance System Using OpenClaw Gateway Policy Engines, Approval Workflows and Auditable Agent Execution — retrieved 2026-08-23 — https://www.marktechpost.com/2026/03/15/a-coding-implementation-to-design-an-enterprise-ai-governance-system-using-openclaw-gateway-policy-engines-approval-workflows-and-auditable-agent-execution/
• Holistic AI — AI Agents are Changing Business, Governance will Define Who Wins — retrieved 2026-08-23 — https://www.holisticai.com/blog/ai-agents-governance-business
• Holistic AI — What is AI Auditing? — retrieved 2026-08-23 — https://www.holisticai.com/blog/ai-auditing
• Holistic AI — What is AI Assurance? — retrieved 2026-08-23 — https://www.holisticai.com/blog/ai-assurance
• Holistic AI — Three Key Reasons Your Organisation Needs Responsible AI — retrieved 2026-08-23 — https://www.holisticai.com/blog/3-reasons-organisation-needs-responsible-ai