@NewtonProtocol continue de parler de l’économie des agents, alors j’ai passé un peu de temps à examiner ce que Newton Mainnet Beta construit réellement pour cela.
Et ce qui est resté avec moi n’était pas une question de rendre les agents IA plus intelligents.
C’étaient les garde-fous.
Des plafonds de dépenses. Des bénéficiaires approuvés. L’obligation d’appliquer les règles. Même la défense contre l’injection d’instructions.
Cette dernière m’a fait faire une pause.
Car si un agent a besoin d’être protégé contre le fait d’être manipulé par les entrées mêmes qu’il reçoit, alors le vrai défi en ce moment n’est probablement pas de donner davantage de pouvoir aux agents.
C’est de s’assurer qu’ils n’utilisent pas mal le pouvoir qu’ils ont déjà.
Cela change ma façon de voir $NEWT .
Peut-être que la première infrastructure sérieuse pour une économie d’agents n’était pas destinée à parler d’autonomie illimitée.
Peut-être que c’était censé commencer par des limites : qui un agent peut payer, combien il peut dépenser, et ce qui se passe quand quelque chose essaie de le pousser en dehors de son mandat.
On ne remet pas les clés avant d’avoir construit les freins.
Alors Newton Mainnet Beta rapproche-t-il l’économie des agents ?
Ou est-ce qu’il nous montre à quel point les agents ont encore besoin de contrôle avant qu’on puisse réellement leur faire confiance avec de l’argent ?
#Newt $NEWT @NewtonProtocol
Et ce qui est resté avec moi n’était pas une question de rendre les agents IA plus intelligents.
C’étaient les garde-fous.
Des plafonds de dépenses. Des bénéficiaires approuvés. L’obligation d’appliquer les règles. Même la défense contre l’injection d’instructions.
Cette dernière m’a fait faire une pause.
Car si un agent a besoin d’être protégé contre le fait d’être manipulé par les entrées mêmes qu’il reçoit, alors le vrai défi en ce moment n’est probablement pas de donner davantage de pouvoir aux agents.
C’est de s’assurer qu’ils n’utilisent pas mal le pouvoir qu’ils ont déjà.
Cela change ma façon de voir $NEWT .
Peut-être que la première infrastructure sérieuse pour une économie d’agents n’était pas destinée à parler d’autonomie illimitée.
Peut-être que c’était censé commencer par des limites : qui un agent peut payer, combien il peut dépenser, et ce qui se passe quand quelque chose essaie de le pousser en dehors de son mandat.
On ne remet pas les clés avant d’avoir construit les freins.
Alors Newton Mainnet Beta rapproche-t-il l’économie des agents ?
Ou est-ce qu’il nous montre à quel point les agents ont encore besoin de contrôle avant qu’on puisse réellement leur faire confiance avec de l’argent ?
#Newt $NEWT @NewtonProtocol