Одна вещь об ИИ продолжает меня беспокоить.
Индустрия тратит огромные объемы времени на обсуждение интеллекта, но удивительно мало времени на обсуждение измерения.
Все хотят лучшие модели.
Более быстрые модели.
Умные модели.
Более мощные модели.
Это имеет смысл.
Интеллект виден.
Люди могут сразу увидеть лучший ответ, лучшее предсказание или лучший результат.
Измерение отличается.
Измерение невидимо.
И поскольку это невидимо, это редко становится в центре внимания.
Но чем больше я смотрю на проекты, такие как OpenLedger, тем больше я думаю, что измерение может стать одной из самых важных проблем во всей экономике ИИ.
Не потому что интеллект не важен.
Потому что интеллект без измерения создает слепые зоны.
Подумайте о том, как сегодня работают большинство систем ИИ.
Модель производит ценность.
Пользователи взаимодействуют с этим.
Разработчики улучшают это.
Данные способствуют его росту.
Но когда кто-то задает простой вопрос, ответ часто становится неожиданно неясным.
Откуда именно пришла эта ценность?
Какой набор данных имел наибольшее значение?
Какой участник улучшил производительность?
Какая информация оказала наибольшее влияние?
Сколько ценности следует присвоить каждому участнику?
Эти вопросы звучат просто.
На практике они невероятно трудны.
Чем больше становится система ИИ, тем труднее становится атрибуция.
Вклады смешиваются.
Входные данные становятся невозможно четко разделить.
Ценность возникает из тысяч взаимодействий, происходящих одновременно.
В конечном итоге результат становится видимым, в то время как происхождение становится все труднее идентифицировать.
Это создает интересную экономическую проблему.
Потому что экономики, как правило, функционируют лучше, когда создание ценности может быть измерено.
Если ценность не может быть измерена, стимулы становятся слабее.
Если стимулы становятся слабее, качество вклада часто снижается.
И если качество вклада снижается, рост в конечном итоге становится труднее поддерживать.
Здесь OpenLedger начинает ощущаться иначе, чем многие нарративы ИИ.
Проект не только заинтересован в создании интеллекта.
Ему интересно измерять компоненты, которые создают интеллект.
Это различие имеет значение.
Много.
Потому что измерение меняет поведение.
Когда люди знают, что их вклад можно идентифицировать, отслеживать и связывать с результатами, они начинают думать иначе о своем участии.
Поставщики данных думают иначе.
Разработчики думают иначе.
Строители думают иначе.
Система начинает вознаграждать вклад, а не просто потребление.
И это создает совершенно другой тип экосистемы.
Что меня больше всего поражает, так это то, что OpenLedger эффективно рассматривает атрибуцию как инфраструктуру.
Большинство людей рассматривают атрибуцию как административную задачу.
Что-то, что происходит после создания ценности.
OpenLedger, похоже, рассматривает это как нечто более фундаментальное.
Что-то, что находится прямо внутри процесса создания ценности.
Это тонкий сдвиг, но он имеет большие последствия.
Потому что как только атрибуция становится инфраструктурой, измерение становится экономическим.
И как только измерение становится экономическим, стимулы легче согласовать.
Конечно, ничего из этого не просто.
Системы измерения могут быть обмануты.
Атрибуция может стать шумной.
Участники могут пытаться максимизировать вознаграждения, а не максимизировать полезность.
Эти проблемы реальны.
Но существование этих проблем не делает проблему менее важной.
Если что-то и есть, то это подчеркивает, насколько важна проблема.
Потому что ИИ движется к будущему, где интеллект становится все более изобилующим.
Модели будут улучшаться.
Возможности будут расширяться.
Результаты станут более мощными.
Вопрос в том, эволюционируют ли системы вокруг этих моделей также.
Останутся ли они черными ящиками, которые поглощают вклады без четкой атрибуции?
Или они разовьют прозрачные механизмы, которые свяжут создание ценности с распределением ценности?
Вот почему я продолжаю обращать внимание на OpenLedger.
Не потому что это обещает более умный ИИ.
Умный ИИ уже строится повсюду.
Что кажется более интересным, так это попытка решить что-то под слоем интеллекта.
Слой измерения.
Потому что в долгосрочной перспективе интеллект может создать ценность.
Но измерение определяет, куда течет эта ценность.
И я подозреваю, что это различие будет иметь гораздо большее значение, чем большинство людей сейчас осознает.