opAI sin verificación empieza a sentirse mucho como las webs de antes de HTTPS.
No está roto. No es inusable. Solo le falta algo que la gente dejó de aceptar con el tiempo.
Estaba revisando OpenGradient recientemente y un número me llamó la atención: 156,461 inferencias privadas procesadas en un solo mes. El volumen en sí no era lo interesante. Era la pregunta que venía después.
¿Cuántas de esas salidas podría alguien verificar de forma independiente?
Me quedé pensando en cómo interactuamos hoy con la mayoría de los sistemas de IA. Obtenemos una respuesta, tal vez una puntuación de confianza, quizá una fuente si tenemos suerte. Luego decidimos si confiar en ello. Mucha de esa confianza todavía proviene de la reputación en lugar de la prueba.
Eso se siente provisional.
Cuanto más usé sistemas que muestran evidencias sobre lo que ocurrió durante la inferencia, más extraño empezó a sentirse el modelo antiguo. No porque cada resultado de repente se volviera perfecto. Algunas respuestas seguían siendo normales. Probablemente algunas estaban equivocadas.
La diferencia era la visibilidad.
Hace unos años, un sitio web pidiendo información personal sin HTTPS se sentía normal. Luego se convirtió en una señal de alerta. Los navegadores entrenaron a todos para notar la ausencia de verificación.
Sospecho que la IA seguirá un camino similar.
No este año. Tal vez no el que viene.
Pero para 2030, obtener un resultado importante generado por IA sin forma de verificar de dónde viene, cómo se produjo o si fue alterado podría sentirse extrañamente desactualizado.
Lo que aún no tengo claro es si los usuarios exigirán ese cambio primero, o si la infraestructura llegará antes de que alguien empiece a pedirlo.
@OpenGradient $OPG #OPG
Para 2030, ¿qué importará más al evaluar una respuesta de IA?
No está roto. No es inusable. Solo le falta algo que la gente dejó de aceptar con el tiempo.
Estaba revisando OpenGradient recientemente y un número me llamó la atención: 156,461 inferencias privadas procesadas en un solo mes. El volumen en sí no era lo interesante. Era la pregunta que venía después.
¿Cuántas de esas salidas podría alguien verificar de forma independiente?
Me quedé pensando en cómo interactuamos hoy con la mayoría de los sistemas de IA. Obtenemos una respuesta, tal vez una puntuación de confianza, quizá una fuente si tenemos suerte. Luego decidimos si confiar en ello. Mucha de esa confianza todavía proviene de la reputación en lugar de la prueba.
Eso se siente provisional.
Cuanto más usé sistemas que muestran evidencias sobre lo que ocurrió durante la inferencia, más extraño empezó a sentirse el modelo antiguo. No porque cada resultado de repente se volviera perfecto. Algunas respuestas seguían siendo normales. Probablemente algunas estaban equivocadas.
La diferencia era la visibilidad.
Hace unos años, un sitio web pidiendo información personal sin HTTPS se sentía normal. Luego se convirtió en una señal de alerta. Los navegadores entrenaron a todos para notar la ausencia de verificación.
Sospecho que la IA seguirá un camino similar.
No este año. Tal vez no el que viene.
Pero para 2030, obtener un resultado importante generado por IA sin forma de verificar de dónde viene, cómo se produjo o si fue alterado podría sentirse extrañamente desactualizado.
Lo que aún no tengo claro es si los usuarios exigirán ese cambio primero, o si la infraestructura llegará antes de que alguien empiece a pedirlo.
@OpenGradient $OPG #OPG
Para 2030, ¿qué importará más al evaluar una respuesta de IA?
🟢 Smarter models
80%
⚪ Privacy and ownership
7%
⚪ Speed and convenience
7%
⚪ Verifiable proof of output
6%
15 Votos • Votación cerrada