@KITE AI , Если вы создаете экономику, которая оплачивает вклад, вы не просто привлекаете строителей. Вы привлекаете фабрики. Первой серьезной угрозой является не кража средств. Это кто-то, кто производит «полезность» в больших масштабах, отмывая кредит через тысячи одноразовых идентичностей, пока реальная работа не окажется за пределами ценовых рамок. Вот тот момент, когда атрибуция перестает быть хорошей идеей и становится проблемой безопасности.
PoAI находится прямо в зоне поражения этой проблемы, потому что пытается превратить деятельность агентов в измеримую ценность. Как только ценность становится измеримой, она становится поддающейся манипуляциям. Самая дешевая атака Sybil в экономике агентов не заключается в нарушении консенсуса. Это затопить слой оценивания деятельностью, которая выглядит достаточно легитимно, чтобы пройти, а затем собирать вознаграждения, как налог на всю систему.
Вот почему позиция Kite против Сибила важна. Она рассматривает целостность атрибуции как то, что должно защищаться с помощью стимулов, а не с помощью мечтаний. Два механизма несут большую часть этой защиты: экспоненциальный распад, который делает повторение неприбыльным, и штрафы, которые делают нечестное поведение дорогим.
Начните с основной интуиции, лежащей в основе экспоненциального распада. В агентной экономике повторные взаимодействия легко подделать. Вы можете создать кластер агентов и заставить их бесконечно "сотрудничать", генерируя журналы, вызовы, ответы и синтетические рабочие процессы, которые напоминают продуктивную деятельность. Если вознаграждения масштабируются линейно с объемом, нападающий выигрывает по умолчанию. Им не нужно быть лучше. Им просто нужно быть больше.
Распад изменяет форму этой игры. Первый вклад зарабатывает значимо. Десятый аналогичный вклад зарабатывает меньше. Сотый зарабатывает почти ничего. Система не запрещает деятельность, она сжимает кривую выплат, так что масштаб сам по себе перестает быть стратегией. Если нападающий хочет продолжать зарабатывать, им нужно производить действительно отличительные, высокосигнальные вклады, а не повторять один и тот же паттерн с новыми идентичностями.
Это имеет значение, потому что атаки Сибила редко касаются одной идентичности, делающей слишком много. Они касаются множества идентичностей, делающих одно и то же. Распад тихо превращает "много" в недостаток. Он заставляет создавать новизну. Он заставляет создавать разнообразие. Он заставляет создавать затраты.
Теперь посмотрите на штрафы. Штрафы - это то, что останавливает "идентичность-горелку" от того, чтобы быть безрисковой. В большинстве систем репутация - это счет. Вы можете потерять очки, затем возродиться и попробовать снова. Это не ответственность. Это незначительное неудобство.
Настоящая модель штрафов связывает нечестное поведение с последствиями, которые сохраняются. Она может ударить по репутации таким образом, чтобы ограничить будущее авторизация. Она может наложить экономические штрафы. Она может инициировать возвраты или принудительные отмены, когда заявления о производительности нарушаются. Суть не в наказании ради самого наказания. Суть в том, чтобы сделать неправильное поведение связанным с ожидаемыми затратами, которые превышают ожидаемую выгоду.
Штрафы также решают другую форму Сибила, которую люди недооценивают: поддельные услуги, а не только поддельные агенты. В агентной экономике нападающие не только выдают себя за пользователей. Они выдают себя за инфраструктуру. Они заявляют о скорости, надежности или точности, а затем тихо ухудшают систему, продолжая собирать вознаграждения. Если производительность не может быть проверена и обеспечена, атрибуция становится рынком обещаний, а не результатами.
Вот где дизайн Kite опирается на измеримое поведение. Качество обслуживания может рассматриваться как контракт, а не как ощущение. Если агент или услуга многократно не выполняет свои заявленные обязательства, штрафы накапливаются, а будущие разрешения ужесточаются. Со временем система учится, кому можно доверять с более широкими полномочиями. Этот процесс обучения сам по себе является защитой против Сибила, потому что он делает доверие медленным в приобретении и быстрым в потере.
Скрытое оружие здесь - время. Нападающие Сибила процветают на мгновенном масштабировании. Они хотят создать тысячи идентичностей сегодня и извлечь вознаграждения завтра. Система, которая заставляет авторитет расти медленно через заработанную историю, заставляет нападающих играть в долгую. Долгие игры имеют затраты на поддержание. Они требуют обслуживания. Они создают больше возможностей для обнаружения. Они также снижают выгоду от манипуляции на быстрый ход.
Вот почему архитектура идентичности важна так же, как и оценка. Если вы разделите полномочия на уровни, вы сможете контролировать радиус взрыва. Корневая авторитетность определяет границы. Агент действует в пределах делегированного объема. Сессия ограничивает то, что может произойти в конкретный временной интервал. Это не просто хорошая гигиена безопасности. Это усложняет масштабирование Сибила. Нападающие не просто создают идентичности. Они должны поддерживать действительные цепочки делегирования, соблюдать ограничения сессий и избегать триггеров штрафов на более подвижных частях.
Есть также экономическая деталь, которая делает давление Сибила более актуальным в мире Kite. Агентные экономики существуют на высокой частоте. Платежи мелкие. Действия небольшие. Когда ценность движется мелкими шагами, спам может скрываться внутри шума. Система может быть "технически безопасной" и все же экономически истощаться через фермерство стимулов. Распад и штрафы - это защиты, созданные для такого рода среды, потому что они нацелены на прибыльность, а не только на действительность.
Настоящий вопрос в том, держатся ли эти механизмы под воздействием творческой агрессии. Нападающие не будут повторять один и тот же рабочий процесс вечно. Они будут случайно варьировать. Они будут имитировать новизну. Они будут пытаться выглядеть как законная диверсификация. Вот почему целостность атрибуции не может полагаться только на один фильтр. Она должна объединять множество факторов: уменьшающаяся отдача от избыточности, ограниченные разрешения по умолчанию и штрафы, которые делают обман дорогим даже тогда, когда он тонок.
Если Kite правильно настроит этот баланс, результатом будет не система, которая ловит каждого плохого актера. Это система, где ожидаемая ценность быть плохим актором со временем снижается. Честное участие накапливается. Нечестное участие истощается.
Это тот вид защиты, который действительно масштабируется. Не идеальное обнаружение. Просто ландшафт вознаграждений, где целостность является путем наименьшего сопротивления.
Наблюдение, которое остается со мной, простое. В агентной экономике дефицитным ресурсом является не вычислительная мощность. Это доверие, и доверие выживает только тогда, когда копирование успеха становится сложнее, чем его заработок.
