Чем больше я изучаю автономные финансы и системы исполнения, управляемые ИИ, тем чаще мне возвращается один и тот же вопрос.

Обычно мы предполагаем, что системы терпят неудачу, когда принимают плохие решения. Но история рынка — будь то кризис UK LDI или сегодняшние автоматизированные модели казначейского управления и распределения криптоактивов — показывает другое. Иногда каждое решение технически верное, но среда вокруг этих решений уже изменилась.

Именно поэтому проекты вроде catch my attention.

Речь не только о создании ИИ-инфраструктуры. Главная идея — создавать системы, в которых исполнение происходит только тогда, когда реальные условия по-прежнему оправдывают исходную стратегию. Иными словами, интеллект — это не только умение принимать лучшие решения, но и предотвращать доведение устаревших предположений до исполнения.

Дизайн политики работает так же. Система может начинаться с отказа по умолчанию, но одна слабая одобрительная логика может незаметно подорвать весь уровень безопасности.

Я начинаю думать, что главная угроза в автономных системах — не плохая оптимизация.

Главная угроза — когда машины продолжают исполнять всё безупречно… в то время как рынок, под который они были спроектированы, больше не существует.

Возможно, будущее не будет принадлежать самому умному ИИ.

Оно может принадлежать системам, которые умеют понимать, когда не стоит действовать.
@NewtonProtocol $NEWT #newt