Я недавно изучал Model Hub от OpenGradient, и одна деталь выделилась больше, чем я ожидал.
Наратив прост: любой может загрузить модель и сделать её доступной через сеть.
Но если присмотреться, модели, которые могут участвовать в живом инференсе, оказываются гораздо меньшим подмножеством.
Широкий каталог, похоже, функционирует больше как репозиторий доступных моделей, а не как гарантия активного исполнения.
Это различие имеет значение.
Снаружи легко увидеть большой каталог моделей и предположить, что каждая модель вносит равный вклад в активность сети.
На практике, похоже, есть разница между моделями, которые доступны, и моделями, которые активно используются.
Интересно, что сеть, похоже, обработала значительное количество инференс-активности до недавнего всплеска рыночного внимания.
Инфраструктура работала задолго до того, как большинство трейдеров начали обращать внимание на токен.
Это оставляет меня с вопросом, на который я всё ещё не могу уверенно ответить:
Кто генерирует большинство спроса на инференс сегодня?
Это в основном разработчики, тестирующие рабочие процессы и приложения?
Автоматизированные системы, делающие повторяющиеся запросы?
Ранние интеграции, экспериментирующие с сетью?
Или уже есть значительная активность конечных пользователей, происходящая под поверхностью?
Объем инференса — это важная метрика, но понимание, откуда приходит этот спрос, может быть даже более важным.
Прямо сейчас самой интересной частью OpenGradient является не размер Model Hub.
Это понимание, какой процент этой экосистемы на самом деле производит реальное использование по сравнению с тем, что просто доступно для будущего использования.
$OPG #OPG @OpenGradient