Протокол Newton продолжает возвращаться в мои мысли не потому, что я считаю, будто он дает все ответы, а потому, что он заставляет меня задавать вопросы, которые становятся все более неприятными. Мы часто предполагаем, что если ИИ-система работает в безопасной и верифицируемой среде, то доверие возникает само собой. Я не уверен, что все так просто. Доверие редко строится только технологией. Его формируют привычки, ожидания и готовность людей продолжать задавать сложные вопросы даже после того, как все начинает казаться работающим.
Я подозреваю, что реальная сложность для Newton Protocol заключается не в том, смогут ли стратегии, основанные на ИИ, выполняться безопасно, а в том, сохранятся ли у людей, которые на них полагаются, достаточно вовлеченности, чтобы понимать, чему они доверяют. В начале участники обычно тщательно рассматривают решения, потому что все новое. Со временем знакомство вытесняет любопытство. Успех может создать тихую уверенность, которая постепенно снижает склонность к проверке. Возможно, система работает, пока люди не станут чувствовать себя комфортнее с результатами, чем с пониманием того, как эти результаты были получены.
Меня больше всего беспокоит то, как может измениться управление по мере взросления протокола. Никому не нужно намеренно централизовывать контроль, чтобы влияние стало концентрированным. Похоже, что люди с самым глубоким техническим знанием медленно превращаются в тех, от кого зависят все остальные, а более широкое сообщество принимает их суждения просто потому, что оценивать сложные решения становится слишком тяжело. Этот сдвиг может происходить настолько постепенно, что немногие даже заметят его.
Возможно, более важный вопрос не в том, сможет ли Newton Protocol обеспечить безопасность автономного интеллекта, а в том, сможет ли он сохранить независимое человеческое суждение, когда автоматизация станет обычным делом. Я не уверен, что какой-либо протокол полностью разрешит это противоречие, и, возможно, дело именно в этом.
#ZcashIronwoodUpgradeNearsTestnet #BitcoinFalls44%FromJanuaryPeak #DowHitsRecordHigh #SouthKoreanStocksRise5% #UniswapPrimaryAMMForRobinhoodL2 $MPLX $TLM $SKHYNIX