La plupart des gens supposent que les agents IA seront sûrs parce qu’ils sont programmés.
La programmation et l’autorisation ne sont pas la même chose.
Un agent IA peut être parfaitement programmé pour exécuter une stratégie et pourtant prendre des actions qui n’étaient jamais prévues. Il suivra ses instructions à la lettre. Le problème, c’est que les instructions ne peuvent pas anticiper toutes les conditions qu’un marché en temps réel va créer.
C’est pour ça que je continue de penser à ce que construit @NewtonProtocol .
Plutôt que de supposer que les agents IA se comporteront correctement parce qu’ils ont été construits correctement, Newton ajoute une couche de politique qui évalue les conditions avant qu’une transaction de l’agent ne soit autorisée à s’exécuter. Plafonds de dépenses, seuils de risque, règles juridictionnelles — tout cela peut être défini à l’avance et appliqué automatiquement, sans nécessiter d’intervention humaine au moment de l’exécution.
Cela change quelque chose d’important. Cela déplace la sécurité de l’agent lui-même vers l’infrastructure au sein de laquelle l’agent opère.
J’ai vu des systèmes automatisés dans la crypto fonctionner exactement comme prévu et pourtant provoquer des pertes importantes, parce que la conception ne tenait pas compte de conditions qui semblaient improbables jusqu’à ce qu’elles ne le soient plus.
Ce que je ne sais toujours pas, c’est à quelle vitesse les développeurs d’agents IA vont adopter une infrastructure d’autorisation plutôt que de construire leurs propres garde-fous à partir de zéro.
Un agent bien programmé, fonctionnant à l’intérieur d’une couche de politique bien définie, est fondamentalement un système différent de celui qui s’en remet uniquement à son propre jugement.
@NewtonProtocol #Newt $NEWT
$DYDX
$XNY
"Les agents IA doivent-ils avoir des limites de dépenses imposées par des contrats intelligents ?"