Протокол Newton снова и снова всплывает у меня в мыслях, и я не думаю, что дело только в технологии. Что тянет меня обратно — это неприятный вопрос, скрывающийся под поверхностью. @NewtonProtocol пытается создать среду, где ИИ может работать по правилам, а не по предположениям, однако эти правила все равно разрабатываются, интерпретируются и поддерживаются людьми. Полагаю, именно здесь начинается настоящая сложность. Протокол может быть создан для машин, но его долгосрочная устойчивость, вероятно, будет зависеть от человеческого поведения.
Меня больше всего беспокоит то, как стимулы редко остаются неизменными. Вначале участники обычно мотивированы любопытством, убежденностью или искренним желанием построить что-то устойчивое. Со временем эти мотивы часто становятся более практичными. Эффективность начинает вытеснять терпение. Удобство постепенно становится ценнее тщательной верификации. Я не уверен, сможет ли Newton Protocol избежать этого сдвига, потому что любой координационной системе в конечном счете приходится иметь дело с реальностью: люди меняются задолго до того, как меняется код.
Также кажется возможным, что управление меняется способами, которых никто не планировал. Децентрализованная сеть не обязательно становится централизованной из-за одного единственного решения. Иногда те же самые участники просто начинают пользоваться большим доверием, действовать активнее и получать больше влияния, чем все остальные. Другие начинают следовать за ними, потому что так проще, чем каждый раз подвергать сомнению каждое решение. Снаружи ничего не выглядит сломанным, но распределение влияния незаметно становится более узким.
Возможно, более важный вопрос не в том, сможет ли Newton Protocol безопасно координировать ИИ, а в том, сможет ли он сохранить самостоятельное мышление после того, как острые эмоции и ажиотаж утихнут. Самое сильное давление может не исходить от атак или технических сбоев. Оно может прийти от обычных участников, которые со временем перестают задавать сложные вопросы, потому что.
@NewtonProtocol #Newt $NEWT
Меня больше всего беспокоит то, как стимулы редко остаются неизменными. Вначале участники обычно мотивированы любопытством, убежденностью или искренним желанием построить что-то устойчивое. Со временем эти мотивы часто становятся более практичными. Эффективность начинает вытеснять терпение. Удобство постепенно становится ценнее тщательной верификации. Я не уверен, сможет ли Newton Protocol избежать этого сдвига, потому что любой координационной системе в конечном счете приходится иметь дело с реальностью: люди меняются задолго до того, как меняется код.
Также кажется возможным, что управление меняется способами, которых никто не планировал. Децентрализованная сеть не обязательно становится централизованной из-за одного единственного решения. Иногда те же самые участники просто начинают пользоваться большим доверием, действовать активнее и получать больше влияния, чем все остальные. Другие начинают следовать за ними, потому что так проще, чем каждый раз подвергать сомнению каждое решение. Снаружи ничего не выглядит сломанным, но распределение влияния незаметно становится более узким.
Возможно, более важный вопрос не в том, сможет ли Newton Protocol безопасно координировать ИИ, а в том, сможет ли он сохранить самостоятельное мышление после того, как острые эмоции и ажиотаж утихнут. Самое сильное давление может не исходить от атак или технических сбоев. Оно может прийти от обычных участников, которые со временем перестают задавать сложные вопросы, потому что.
@NewtonProtocol #Newt $NEWT