Open LoRA a changé ma façon de penser aux coûts de l'IA
Je ne suis pas une personne technique. Mais certains chiffres sont impossibles à ignorer.
Le déploiement traditionnel des modèles d'IA utilise entre 40 et 50 Go de mémoire. Open LoRA fait tourner la même chose sur 8 à 12 Go.
Le changement entre les modèles prend normalement entre 5 et 10 secondes. Open LoRA le fait en moins de 100 millisecondes.
Ce n'est pas une optimisation. C'est une catégorie complètement différente.
Ce qui m'excite le plus, c'est le déploiement sur le edge. L'IA fonctionnant sur des appareils comme le Raspberry Pi. Pas cher. Accessible. Pas d'abonnement au cloud. Pas de matériel d'entreprise.
Cela signifie que tout le monde, partout, peut participer à la construction et au déploiement d'une véritable IA.
@OpenLedger a toujours dit qu'il voulait que l'IA soit juste et accessible. Open LoRA n'est pas qu'une promesse à ce sujet. C'est la preuve.
#OpenLedger $OPEN
Je ne suis pas une personne technique. Mais certains chiffres sont impossibles à ignorer.
Le déploiement traditionnel des modèles d'IA utilise entre 40 et 50 Go de mémoire. Open LoRA fait tourner la même chose sur 8 à 12 Go.
Le changement entre les modèles prend normalement entre 5 et 10 secondes. Open LoRA le fait en moins de 100 millisecondes.
Ce n'est pas une optimisation. C'est une catégorie complètement différente.
Ce qui m'excite le plus, c'est le déploiement sur le edge. L'IA fonctionnant sur des appareils comme le Raspberry Pi. Pas cher. Accessible. Pas d'abonnement au cloud. Pas de matériel d'entreprise.
Cela signifie que tout le monde, partout, peut participer à la construction et au déploiement d'une véritable IA.
@OpenLedger a toujours dit qu'il voulait que l'IA soit juste et accessible. Open LoRA n'est pas qu'une promesse à ce sujet. C'est la preuve.
#OpenLedger $OPEN