Большинство людей предполагают, что ИИ-агенты будут безопасными, потому что они запрограммированы.
Программирование и авторизация — это не одно и то же.
ИИ-агент может быть идеально запрограммирован для выполнения стратегии и при этом совершать действия, которые никогда не предполагались. Он будет выполнять инструкции в точности. Проблема в том, что инструкции не могут предусмотреть каждое условие, которое создаст живая рыночная среда.
Вот почему я продолжаю думать о том, что @NewtonProtocol строит.
Вместо того чтобы предполагать, что ИИ-агенты будут вести себя корректно, потому что их построили правильно, Newton добавляет слой политики, который оценивает условия до того, как транзакция агента будет разрешена к выполнению. Лимиты расходов, пороги рисков, правила юрисдикций — это можно определить заранее и автоматически обеспечивать соблюдение, не требуя вмешательства человека в момент исполнения.
Это меняет важную вещь. Переносит безопасность с самого агента на инфраструктуру, в которой он работает.
Я видел, как в криптоавтоматизированные системы выполнялись ровно так, как было задумано, и при этом приводили к значительным потерям, потому что в проекте не учитывались условия, которые казались маловероятными, пока не наступили.
Чего я все еще не знаю, так это того, насколько быстро разработчики ИИ-агентов переймут инфраструктуру авторизации, вместо того чтобы собирать собственные защитные ограждения с нуля.
Хорошо запрограммированный агент, работающий внутри четко определенного слоя политики, — это принципиально другая система по сравнению с той, которая полагается только на собственное суждение.
@NewtonProtocol #Newt $NEWT
$DYDX
$XNY
"Нужно ли вводить ограничения на расходы для ИИ-агентов с помощью смарт-контрактов?"