opAI sans vérification commence à ressembler de plus en plus aux sites web d’avant HTTPS.
Ce n’est pas cassé. Ce n’est pas inutilisable. C’est juste qu’il manque quelque chose que les gens ont fini par ne plus accepter.
Je regardais récemment OpenGradient, et un chiffre a continué à m’accrocher : 156,461 inférences privées traitées en un seul mois. Le volume en lui-même n’était pas la partie intéressante. C’était la question qui venait après.
Combien de ces sorties quelqu’un pourrait-il vérifier de manière indépendante ?
Je ne cessais de penser à la façon dont nous interagissons aujourd’hui avec la plupart des systèmes d’IA. On obtient une réponse, parfois un score de confiance, parfois une source si on a de la chance. Puis on décide si on peut lui faire confiance. Une grande partie de cette confiance vient encore de la réputation plutôt que de la preuve.
Ça ressemble à quelque chose de temporaire.
Plus j’utilisais des systèmes qui exposent des éléments de preuve sur ce qui s’est passé pendant l’inférence, plus l’ancien modèle commençait à me sembler étrange. Pas parce que chaque résultat devenait soudainement parfait. Certaines réponses étaient encore moyennes. Certaines étaient probablement fausses.
La différence, c’était la visibilité.
Il y a quelques années, un site web demandant des informations personnelles sans HTTPS semblait normal. Puis cela est devenu un signe d’alerte. Les navigateurs ont appris à tout le monde à remarquer l’absence de vérification.
Je pense que l’IA suivra un chemin similaire.
Pas cette année. Peut-être pas l’année prochaine.
Mais d’ici 2030, obtenir un résultat important généré par une IA sans aucun moyen de vérifier d’où il vient, comment il a été produit, ou s’il a été modifié pourrait sembler étrangement dépassé.
La partie qui me laisse encore dans le doute, c’est de savoir si les utilisateurs exigeront ce changement en premier, ou si l’infrastructure y parviendra avant même que quiconque commence à le demander.
@OpenGradient $OPG #OPG
D’ici 2030, qu’est-ce qui comptera le plus pour évaluer une réponse d’IA ?
Ce n’est pas cassé. Ce n’est pas inutilisable. C’est juste qu’il manque quelque chose que les gens ont fini par ne plus accepter.
Je regardais récemment OpenGradient, et un chiffre a continué à m’accrocher : 156,461 inférences privées traitées en un seul mois. Le volume en lui-même n’était pas la partie intéressante. C’était la question qui venait après.
Combien de ces sorties quelqu’un pourrait-il vérifier de manière indépendante ?
Je ne cessais de penser à la façon dont nous interagissons aujourd’hui avec la plupart des systèmes d’IA. On obtient une réponse, parfois un score de confiance, parfois une source si on a de la chance. Puis on décide si on peut lui faire confiance. Une grande partie de cette confiance vient encore de la réputation plutôt que de la preuve.
Ça ressemble à quelque chose de temporaire.
Plus j’utilisais des systèmes qui exposent des éléments de preuve sur ce qui s’est passé pendant l’inférence, plus l’ancien modèle commençait à me sembler étrange. Pas parce que chaque résultat devenait soudainement parfait. Certaines réponses étaient encore moyennes. Certaines étaient probablement fausses.
La différence, c’était la visibilité.
Il y a quelques années, un site web demandant des informations personnelles sans HTTPS semblait normal. Puis cela est devenu un signe d’alerte. Les navigateurs ont appris à tout le monde à remarquer l’absence de vérification.
Je pense que l’IA suivra un chemin similaire.
Pas cette année. Peut-être pas l’année prochaine.
Mais d’ici 2030, obtenir un résultat important généré par une IA sans aucun moyen de vérifier d’où il vient, comment il a été produit, ou s’il a été modifié pourrait sembler étrangement dépassé.
La partie qui me laisse encore dans le doute, c’est de savoir si les utilisateurs exigeront ce changement en premier, ou si l’infrastructure y parviendra avant même que quiconque commence à le demander.
@OpenGradient $OPG #OPG
D’ici 2030, qu’est-ce qui comptera le plus pour évaluer une réponse d’IA ?
🟢 Smarter models
80%
⚪ Privacy and ownership
7%
⚪ Speed and convenience
7%
⚪ Verifiable proof of output
6%
15 Votes • Vote fermé