Chaque jour, j'utilise Google Maps sans y penser.
Je fais confiance au fait que l'itinéraire sur mon écran reflète ce qui se passe réellement sur la route.
Le moment où cette confiance disparaît, la carte perd la plupart de sa valeur.
Cette pensée m'est revenue en lisant sur l'expansion des réseaux d'inférence Nous Hermes sur @OpenGradient .
La même question revenait sans cesse :
Comment sais-tu que la réponse que tu vois a été réellement générée de la manière dont le réseau le prétend ?
La partie intéressante n'était pas le modèle.
C'était le pipeline de vérification.
La plupart des discussions sur l'infrastructure de l'IA se concentrent sur la génération de réponses.
OpenGradient se concentre sur la preuve des réponses.
Cette distinction peut sembler petite, mais je pense qu'elle change la manière dont le réseau crée de la valeur.
Sans vérification, l'IA est un service auquel les utilisateurs doivent faire confiance.
Avec vérification, la confiance devient une infrastructure.
Générer une inférence et vérifier une inférence sont des tâches fondamentalement différentes. L'une produit une sortie. L'autre produit de la confiance dans cette sortie.
Le récit est que les réseaux d'IA rivalisent en intelligence.
La réalité est qu'OpenGradient pourrait rivaliser sur la confiance.
Les modèles attirent les utilisateurs.
La vérification empêche que la confiance ne devienne un goulet d'étranglement.
C'est pourquoi le jalon de Nous Hermes a attiré mon attention. Pas parce qu'il ajoute un modèle supplémentaire au réseau, mais parce que chaque nouvelle inférence augmente l'importance de prouver que l'exécution s'est déroulée comme prévu.
L'histoire de l'infrastructure et l'histoire du marché peuvent avancer sur des timelines différentes. Les marchés réagissent rapidement à l'adoption des modèles. L'infrastructure de confiance se développe plus lentement car chaque augmentation d'activité crée des exigences de vérification supplémentaires.
À mesure que #OPG se développe, la question qui m'intéresse est simple :
La capacité de vérification peut-elle croître aussi rapidement que la capacité d'inférence ?
Parce que si prouver les réponses devient plus difficile que de les générer, la vérification, et non le calcul, pourrait devenir le facteur limitant du réseau.
L'architecture pourrait être en avance sur la capacité du marché à la mesurer.
$OPG
$SPCX
$BSB
À mesure que les réseaux d'IA mûrissent, qu'est-ce qui devient plus précieux ?
Je fais confiance au fait que l'itinéraire sur mon écran reflète ce qui se passe réellement sur la route.
Le moment où cette confiance disparaît, la carte perd la plupart de sa valeur.
Cette pensée m'est revenue en lisant sur l'expansion des réseaux d'inférence Nous Hermes sur @OpenGradient .
La même question revenait sans cesse :
Comment sais-tu que la réponse que tu vois a été réellement générée de la manière dont le réseau le prétend ?
La partie intéressante n'était pas le modèle.
C'était le pipeline de vérification.
La plupart des discussions sur l'infrastructure de l'IA se concentrent sur la génération de réponses.
OpenGradient se concentre sur la preuve des réponses.
Cette distinction peut sembler petite, mais je pense qu'elle change la manière dont le réseau crée de la valeur.
Sans vérification, l'IA est un service auquel les utilisateurs doivent faire confiance.
Avec vérification, la confiance devient une infrastructure.
Générer une inférence et vérifier une inférence sont des tâches fondamentalement différentes. L'une produit une sortie. L'autre produit de la confiance dans cette sortie.
Le récit est que les réseaux d'IA rivalisent en intelligence.
La réalité est qu'OpenGradient pourrait rivaliser sur la confiance.
Les modèles attirent les utilisateurs.
La vérification empêche que la confiance ne devienne un goulet d'étranglement.
C'est pourquoi le jalon de Nous Hermes a attiré mon attention. Pas parce qu'il ajoute un modèle supplémentaire au réseau, mais parce que chaque nouvelle inférence augmente l'importance de prouver que l'exécution s'est déroulée comme prévu.
L'histoire de l'infrastructure et l'histoire du marché peuvent avancer sur des timelines différentes. Les marchés réagissent rapidement à l'adoption des modèles. L'infrastructure de confiance se développe plus lentement car chaque augmentation d'activité crée des exigences de vérification supplémentaires.
À mesure que #OPG se développe, la question qui m'intéresse est simple :
La capacité de vérification peut-elle croître aussi rapidement que la capacité d'inférence ?
Parce que si prouver les réponses devient plus difficile que de les générer, la vérification, et non le calcul, pourrait devenir le facteur limitant du réseau.
L'architecture pourrait être en avance sur la capacité du marché à la mesurer.
$OPG
$SPCX
$BSB
À mesure que les réseaux d'IA mûrissent, qu'est-ce qui devient plus précieux ?
A) Generating answers
83%
B) Proving answers
17%
59 Votes • Vote fermé