Avez-vous l’impression que la plupart de ce que nous savons sur l’IA vient du fait d’en entendre parler par d’autres personnes ?

Vous avez probablement déjà entendu beaucoup de choses sur la taille des modèles, les capacités de raisonnement et les performances. Aujourd’hui, je veux partager une réflexion différente.

Si, à l’avenir, des systèmes d’IA commencent à prendre des décisions en se basant sur nos souvenirs à long terme, nos préférences, nos objectifs et notre contexte personnel, comment pouvons-nous faire confiance à la véracité des informations qu’ils utilisent ?

Cette question m’est venue à l’esprit en découvrant des projets comme MemSync.

Leur objectif est de résoudre un des principaux défis de l’IA : la fragmentation de la mémoire.

Leur thèse est que l’IA ne devrait pas seulement comprendre la question posée aujourd’hui. Elle devrait aussi comprendre l’identité à long terme de l’utilisateur (mémoire sémantique), ainsi que les activités en cours, les objectifs et les projets en cours (mémoire épisodique).

Cette approche pourrait rendre l’IA bien plus personnelle et utile au fil du temps.

Mais c’est aussi là qu’un autre défi commence.

À mesure que l’IA devient de plus en plus pilotée par la mémoire, la vérification pourrait devenir encore plus importante que la mémoire elle-même.

Si un agent IA utilise mon contexte passé pour prendre une décision :

Ce souvenir était-il authentique ? A-t-il été modifié ?

Le processus de raisonnement peut-il être vérifié de manière indépendante ?

C’est pour cela que l’approche d’OpenGradient a retenu mon attention.

De nombreux projets d’IA se concentrent sur le fait de rendre l’IA plus intelligente. OpenGradient, en revanche, travaille à une infrastructure d’IA vérifiable, où le calcul, l’inférence et les sorties de l’IA peuvent être vérifiés indépendamment, plutôt que simplement acceptés comme fiables.

À mon avis, MemSync et OpenGradient représentent différentes couches de la même future pile d’IA. #OPG @OpenGradient

MemSync aide l’IA à mieux se souvenir.

OpenGradient aide à garantir que ce dont l’IA se souvient et qu’elle utilise peut être digne de confiance.

Peut-être que la meilleure IA de l’avenir ne sera pas celle qui se souvient de tout.

Ce sera peut-être celle qui peut prouver à la fois sa mémoire et son raisonnement. #OPG $OPG @OpenGradient

Qu’en pensez-vous : qu’est-ce qui comptera le plus pour l’adoption de l’IA sur le long terme, une meilleure mémoire ou une intelligence vérifiable ? $HEI $SLX