El modelo que nunca sale de tu teléfono 📱
$ZEC convirtió la privacidad en una categoría y $ICP defendió que el lugar de ejecución es una decisión de diseño. El fundador de Bankr ahora está trabajando en la versión en la que el modelo se ejecuta en el dispositivo.
Ha descrito cómo entrenar un modelo pequeño con sesiones anonimizadas de agentes para que la conversación se mantenga local.
Tómalo como un plan anunciado, no como una función ya disponible, porque eso es lo que es. Lo interesante es el razonamiento que hay detrás.
Un agente que gestiona dinero lee cosas que un asistente de chat no lee: saldos, posiciones, intenciones, la secuencia de lo que intentas hacer y cuándo. Eso es un perfil, y revela más de lo que la mayoría cree estar compartiendo cuando escribe una frase en un cuadro.
La inferencia en la nube implica que esa secuencia sale de tu dispositivo. Los entornos de ejecución privados reducen la exposición. Un modelo local elimina por completo ese trayecto en todo lo que pueda gestionar.
La contrapartida es la capacidad. Un modelo pequeño en el dispositivo no estará a la altura de uno de frontera, así que el diseño realista es usar el modelo local para las tareas rutinarias y uno remoto para las preguntas difíciles, con el enrutamiento decidido por ti.
Lo que plantea una pregunta que vale la pena hacerle a cualquiera que lance algo así: ¿qué se envía fuera, quién lo decide y puedes verlo después?
En cualquier caso, la dirección es la correcta. Lo menos privado de la mayoría de los productos con agentes no es la cadena. Es la conversación.
#AI #Privacy
$ZEC convirtió la privacidad en una categoría y $ICP defendió que el lugar de ejecución es una decisión de diseño. El fundador de Bankr ahora está trabajando en la versión en la que el modelo se ejecuta en el dispositivo.
Ha descrito cómo entrenar un modelo pequeño con sesiones anonimizadas de agentes para que la conversación se mantenga local.
Tómalo como un plan anunciado, no como una función ya disponible, porque eso es lo que es. Lo interesante es el razonamiento que hay detrás.
Un agente que gestiona dinero lee cosas que un asistente de chat no lee: saldos, posiciones, intenciones, la secuencia de lo que intentas hacer y cuándo. Eso es un perfil, y revela más de lo que la mayoría cree estar compartiendo cuando escribe una frase en un cuadro.
La inferencia en la nube implica que esa secuencia sale de tu dispositivo. Los entornos de ejecución privados reducen la exposición. Un modelo local elimina por completo ese trayecto en todo lo que pueda gestionar.
La contrapartida es la capacidad. Un modelo pequeño en el dispositivo no estará a la altura de uno de frontera, así que el diseño realista es usar el modelo local para las tareas rutinarias y uno remoto para las preguntas difíciles, con el enrutamiento decidido por ti.
Lo que plantea una pregunta que vale la pena hacerle a cualquiera que lance algo así: ¿qué se envía fuera, quién lo decide y puedes verlo después?
En cualquier caso, la dirección es la correcta. Lo menos privado de la mayoría de los productos con agentes no es la cadena. Es la conversación.
#AI #Privacy
