@OpenGradient
Penso che la cosa più importante che OpenGradient ha centrato sia il riconoscimento che l'inferenza AI e il consenso blockchain sono carichi di lavoro fondamentalmente diversi.
Quando una richiesta di inferenza colpisce la rete, l'esecuzione avviene una sola volta mentre la verifica segue un percorso separato attraverso HACA. I fornitori di modelli guadagnano dal servire richieste; i nodi di inferenza ottimizzano per uptime e throughput, mentre i verificatori si concentrano sul provare l'esecuzione piuttosto che ripeterla.
Quella separazione conta perché rieseguire un modello da 70B su ogni validatore non è consenso, è infrastruttura sprecata.
La vera tensione è il costo della verifica rispetto alla scala. Le reti che forzano esecuzione e verifica nello stesso ciclo diluiscono l'efficienza man mano che la domanda cresce. OpenGradient mantiene il valore che scorre ai partecipanti che realmente forniscono calcolo, mentre la verifica rimane uno strato di coordinamento invece di diventare il collo di bottiglia.
Dopo aver osservato questi sistemi da vicino, il collo di bottiglia non è mai stata l'inferenza AI stessa. Era l'insistenza che consenso ed esecuzione dovessero essere la stessa cosa.
$OPG #OPG .
Penso che la cosa più importante che OpenGradient ha centrato sia il riconoscimento che l'inferenza AI e il consenso blockchain sono carichi di lavoro fondamentalmente diversi.
Quando una richiesta di inferenza colpisce la rete, l'esecuzione avviene una sola volta mentre la verifica segue un percorso separato attraverso HACA. I fornitori di modelli guadagnano dal servire richieste; i nodi di inferenza ottimizzano per uptime e throughput, mentre i verificatori si concentrano sul provare l'esecuzione piuttosto che ripeterla.
Quella separazione conta perché rieseguire un modello da 70B su ogni validatore non è consenso, è infrastruttura sprecata.
La vera tensione è il costo della verifica rispetto alla scala. Le reti che forzano esecuzione e verifica nello stesso ciclo diluiscono l'efficienza man mano che la domanda cresce. OpenGradient mantiene il valore che scorre ai partecipanti che realmente forniscono calcolo, mentre la verifica rimane uno strato di coordinamento invece di diventare il collo di bottiglia.
Dopo aver osservato questi sistemi da vicino, il collo di bottiglia non è mai stata l'inferenza AI stessa. Era l'insistenza che consenso ed esecuzione dovessero essere la stessa cosa.
$OPG #OPG .