🚨 Прежде чем вы прокрутите дальше, я хочу ОТ ВАС услышать мнение о моём взгляде на перспективы: ваш инсайт поможет сделать обсуждение действительно ценным.
Вчера я провёл два часа, пытаясь понять, почему SDK OpenGradient разбивает каждый вызов инференса на два шага. Я всё время смотрел примеры на Python. Сначала вы запускаете модель. Затем отдельно вы выполняете проверку. Меня это раздражало. Мне хотелось одного аккуратного API-вызова, который возвращает и результат, и доказательство вместе. Зачем всё усложнять?
Потом я нашёл раздел HACA в whitepaper. И понял. Разделение — это не усложнение. Это вся архитектура.
В каждом другом проекте децентрализованного ИИ, который я смотрел, есть одна фатальная ошибка. Они хотят, чтобы валидаторы выполняли повторный запуск каждого инференса. Прогон модели 100 раз для 100 валидаторов. Это безумие. Модель с 70 млрд параметров стоит реальных денег за каждый прогон. Умножьте это на размер набора валидаторов. Тайм-ауты блоков поползут на минуты. А LLM и так недетерминированы. Один и тот же запрос — разные ответы. Валидаторы никогда не смогут прийти к консенсусу о состоянии.
OpenGradient не просит валидаторов запускать модели. Инференс-узлы с GPU запускают их один раз. Результаты сразу отправляются пользователям. Затем доказательства подаются отдельно. Аттестации TEE из AWS Nitro Enclaves или криптографические доказательства ZKML. Полные ноды проверяют эти доказательства без обращения к самой модели. Валидаторам не нужны GPU. Достаточно обычного «железа», выполняющего консенсус CometBFT.
Структура SDK теперь наконец-то стала понятной. Это не неуклюжий дизайн. Это необходимо. Выполнение и верификация живут в совершенно разных временных рамках.
Но я продолжал копать слабое место. Нашёл его в разделе 10.2. "Асинхронное урегулирование создаёт временные разрывы доверия". Между выдачей результата и урегулированием доказательства есть окно. Ответ вы получаете за миллисекунды. А блокчейн-проверка урегулируется секундами позже. Для большинства приложений этого достаточно. Но для высокочастотного трейдинга или всего, где нужна мгновенная криптографическая финализация, это и есть зона вашего риска.
Теперь, когда я вижу проект «децентрализованного ИИ», я задаю один вопрос. Как валидаторы проверяют инференс, не выполняя модель повторно у себя?
@OpenGradient $OPG #OPG
Вчера я провёл два часа, пытаясь понять, почему SDK OpenGradient разбивает каждый вызов инференса на два шага. Я всё время смотрел примеры на Python. Сначала вы запускаете модель. Затем отдельно вы выполняете проверку. Меня это раздражало. Мне хотелось одного аккуратного API-вызова, который возвращает и результат, и доказательство вместе. Зачем всё усложнять?
Потом я нашёл раздел HACA в whitepaper. И понял. Разделение — это не усложнение. Это вся архитектура.
В каждом другом проекте децентрализованного ИИ, который я смотрел, есть одна фатальная ошибка. Они хотят, чтобы валидаторы выполняли повторный запуск каждого инференса. Прогон модели 100 раз для 100 валидаторов. Это безумие. Модель с 70 млрд параметров стоит реальных денег за каждый прогон. Умножьте это на размер набора валидаторов. Тайм-ауты блоков поползут на минуты. А LLM и так недетерминированы. Один и тот же запрос — разные ответы. Валидаторы никогда не смогут прийти к консенсусу о состоянии.
OpenGradient не просит валидаторов запускать модели. Инференс-узлы с GPU запускают их один раз. Результаты сразу отправляются пользователям. Затем доказательства подаются отдельно. Аттестации TEE из AWS Nitro Enclaves или криптографические доказательства ZKML. Полные ноды проверяют эти доказательства без обращения к самой модели. Валидаторам не нужны GPU. Достаточно обычного «железа», выполняющего консенсус CometBFT.
Структура SDK теперь наконец-то стала понятной. Это не неуклюжий дизайн. Это необходимо. Выполнение и верификация живут в совершенно разных временных рамках.
Но я продолжал копать слабое место. Нашёл его в разделе 10.2. "Асинхронное урегулирование создаёт временные разрывы доверия". Между выдачей результата и урегулированием доказательства есть окно. Ответ вы получаете за миллисекунды. А блокчейн-проверка урегулируется секундами позже. Для большинства приложений этого достаточно. Но для высокочастотного трейдинга или всего, где нужна мгновенная криптографическая финализация, это и есть зона вашего риска.
Теперь, когда я вижу проект «децентрализованного ИИ», я задаю один вопрос. Как валидаторы проверяют инференс, не выполняя модель повторно у себя?
@OpenGradient $OPG #OPG