Je pensais autrefois que l’avenir de l’IA autonome était facile à prédire. Chaque amélioration des grands modèles de langage semblait aller dans la même direction. Alors que l’IA devenait plus rapide, moins chère et plus performante, elle finirait progressivement par prendre davantage de décisions. Les stratégies de trading, la gestion de la trésorerie, l’allocation de portefeuille, la participation à la gouvernance et d’innombrables tâches financières répétitives seraient éventuellement automatisées. Cela semblait être l’évolution naturelle de la technologie.
Mais plus j’étudiais les systèmes autonomes, plus je me rendais compte que l’intelligence n’était peut-être pas le problème le plus difficile à résoudre. La responsabilité est la question.
Cette distinction semble devenir de plus en plus importante à mesure que l’IA passe de la génération de texte à l’interaction avec des actifs numériques, à l’exécution de transactions et à la gestion de capitaux. L’industrie célèbre souvent les modèles capables de mieux raisonner ou d’accomplir des tâches plus complexes, mais la seule capacité ne crée pas de confiance. Si un agent autonome contrôle un portefeuille ou exécute des transactions pour mon compte, ma première question n’est pas de savoir à quel point il est intelligent. Ma première question est de savoir si je comprends comment il se comportera une fois que je ne surveillerai plus ce qu’il fait.
Ce simple changement a transformé complètement ma façon de penser l’autonomie responsable.
En étudiant Newton Protocol, je me suis surpris à me concentrer moins sur la promesse d’une IA plus intelligente que sur l’infrastructure qui l’entoure. Le projet ne se contente pas de demander si les agents peuvent prendre de meilleures décisions. Il pose une question plus concrète : comment les systèmes autonomes peuvent-ils continuer à représenter les personnes à qui ils ont reçu délégation d’autorité ?
Cela peut sembler une nuance, mais cela change tout.
Beaucoup de discussions autour de l’IA partent du principe que l’automatisation signifie retirer progressivement les humains du processus décisionnel. Je ne pense plus que ce soit l’objectif juste. Une bonne automatisation n’a jamais consisté à éliminer les personnes. Elle a toujours eu pour but de réduire les tâches inutiles tout en préservant l’intention humaine.
Le régulateur de vitesse n’enlève pas le conducteur. La banque en ligne ne supprime pas le titulaire du compte. Dans les deux cas, la technologie réduit l’intervention constante sans supprimer la responsabilité. La destination, les règles et la reddition de comptes restent celles de la personne qui utilise le système.
Je pense que l’IA autonome doit évoluer exactement de la même façon.
Le vrai défi n’est pas de créer des agents capables d’agir de manière indépendante. Il s’agit de mettre en place une infrastructure qui leur permette de fonctionner efficacement tout en restant redevables envers des politiques clairement définies par leurs utilisateurs.
C’est là que Newton Protocol devient particulièrement intéressant. Au lieu de traiter l’intelligence comme l’ensemble du produit, il se concentre sur l’environnement dans lequel l’intelligence opère. Les politiques, l’exécution vérifiable, les limites d’autorisation et les garanties cryptographiques deviennent tout aussi importants que les capacités de raisonnement du modèle lui-même. L’intelligence peut générer une décision, mais l’infrastructure détermine si cette décision reste alignée avec l’intention initiale de l’utilisateur.
Cette distinction fait passer la conversation de l’intelligence artificielle vers une intelligence responsable et redevable.
Je pense aussi que cela change la façon dont nous devrions mesurer la confiance.
La confiance est souvent décrite comme une réponse émotionnelle, mais la technologie réussit rarement simplement parce que les gens y croient. Les systèmes performants réduisent l’incertitude grâce à une architecture prévisible. Internet est devenu grand public parce que les gens ont fini par comprendre comment le parcourir en sécurité. Les paiements en ligne sont devenus la norme parce que l’authentification, le chiffrement et les systèmes de règlement ont constamment protégé les utilisateurs. Ces technologies ont gagné la confiance grâce à une infrastructure fiable, plutôt qu’à un marketing impressionnant.
L’IA autonome fait face aujourd’hui au même défi.
La question n’est plus de savoir si les modèles raisonnent suffisamment bien. La question est de savoir si les utilisateurs peuvent prédire avec confiance la façon dont les agents autonomes continueront de se comporter des semaines ou des mois après que des autorisations ont été accordées.
C’est fondamentalement un problème d’infrastructure.
C’est aussi un problème de gouvernance.
Chaque système autonome a finalement besoin de quelqu’un pour définir un comportement acceptable, établir des limites de fonctionnement, déterminer les niveaux d’autorisation et vérifier que ces règles continuent d’être respectées. À mesure que les agents d’IA commencent à coordonner des activités financières sur des réseaux décentralisés, la gouvernance deviendra aussi importante que l’intelligence elle-même. Sans règles transparentes et exécution vérifiable, même des agents très capables peuvent avoir du mal à s’imposer durablement.
L’histoire suggère que les technologies transformatrices réussissent rarement parce qu’elles deviennent plus complexes. Elles réussissent parce que la complexité devient invisible.
La plupart des utilisateurs d’internet ne comprennent pas les protocoles de routage. La plupart des clients bancaires ne comprennent pas l’infrastructure de règlement des paiements. Ils font simplement confiance au fait que ces systèmes produisent systématiquement des résultats fiables. L’IA suivra probablement le même schéma. L’adoption massive dépendra moins de la compréhension de chaque détail technique par les gens, et davantage du fait que l’infrastructure environnante rende le comportement autonome prévisible, vérifiable (auditables) et aligné avec l’intention humaine.
D’un point de vue économique, cela a aussi des implications importantes pour les écosystèmes de blockchain. Les protocoles capables de combiner l’exécution par IA avec l’application vérifiable de politiques peuvent réduire le risque opérationnel pour les utilisateurs, les institutions et les développeurs. Cela pourrait renforcer la confiance dans la gestion automatisée de trésorerie, la participation à la gouvernance décentralisée, la coordination entre protocoles et l’allocation de capital on-chain. Dans le même temps, des défis majeurs subsistent : la conception des politiques est complexe, les mécanismes de gouvernance doivent éviter la centralisation, les hypothèses de sécurité nécessitent des tests continus, et l’adoption dépend de la capacité des développeurs à intégrer ces systèmes sans introduire de frictions inutiles. L’autonomie responsable ne se fait pas en supprimant la supervision humaine. Elle se fait en intégrant directement l’intention humaine dans l’infrastructure elle-même.
C’est finalement pour cela que Newton Protocol m’a laissé une impression aussi forte.
Je ne crois plus que l’avenir de l’IA sera décidé par le projet qui construira l’agent autonome le plus intelligent. L’intelligence devient rapidement abondante. Le problème le plus difficile est de s’assurer que cette intelligence continue de servir les personnes qui lui ont donné l’autorisation d’agir. Les protocoles qui résolvent ce défi pourraient devenir la base de la prochaine génération de la finance décentralisée, non pas parce qu’ils retirent les humains du processus, mais parce qu’ils font en sorte que l’automatisation reflète de façon constante le jugement humain, même lorsque les humains ne sont plus activement présents.
Peut-être que c’est précisément ce que signifie depuis toujours l’autonomie responsable. Pas remplacer les personnes par des machines, mais construire des systèmes où chaque décision autonome reste une extension fidèle de la personne qui a demandé à la machine d’agir en premier lieu.
Si vous voulez, je peux aussi la rendre encore plus optimisée en « Square Points », en ajoutant une architecture de protocole plus profonde, des métriques on-chain et les mécanismes techniques de Newton Protocol tout en conservant le même style narratif.