Un familiar en mi pueblo abrió un pequeño supermercado y el año pasado, buscando innovación, implementó un sistema de pago por reconocimiento facial, diciendo que era alta tecnología. Después de dos meses, lo desmontó, y mi familiar tenía una cara de dolor: cada transacción necesitaba validación en línea, y si la conexión fallaba, los clientes se quedaban esperando en la caja, formando largas colas en horas pico. Los ancianos no podían manejarlo, y el costo del equipo y las tarifas era mucho más alto que lo que se ahorraba en mano de obra. Él soltó: "La tecnología es buena, pero es demasiado pesada, aplastando los pequeños negocios."
Esa frase de "demasiado pesada" me hizo cuestionar cuando leí la página 10 del whitepaper @OpenLedger sobre el costo de inferencia.
Uno de los puntos clave del whitepaper es que todo está en la cadena, es trazable y se puede liquidar. Cada llamada de modelo de inferencia se liquida con el token $OPEN , y en la sección 2.2.4 desglosan ese dinero en tarifas de modelo, tarifas de staking y tarifas de contribución de datos, con cada parte contabilizada con precisión. Suena como si el nivel de detalle fuera tranquilizador.
Pero la frase de mi familiar "demasiado pesada" no me deja en paz. La inferencia de IA busca rapidez y bajo costo: si le preguntas algo a la IA, debe responder en unos pocos segundos. Pero si cada llamada tiene que registrarse en la cadena, hacer atribuciones y repartir entre varias direcciones, ¿quién soportará esos costos y demoras en la cadena?
El whitepaper menciona usar Rollups para optimizar, pero no especifica cuán rápido se puede reducir el tiempo ni el costo por llamada, si son unos centavos o varios dólares. Eso es incómodo: las aplicaciones de IA son escenarios de alta frecuencia, extremadamente sensibles a la latencia y el costo, y no se comparan con las transferencias financieras, donde un poco de lentitud y un costo más alto son aceptables. $LAB #BTC
Yo llamo a esto "la maldición del peso de la liquidación en cadena". La transparencia y la trazabilidad suenan bien, pero tienen peso; cada registro añade carga a la inferencia. Si ese peso hace que cada llamada sea lenta y cara, entonces, incluso el mecanismo de reparto más justo podría ser desechado por los desarrolladores por falta de rendimiento. #OpenLedger
Al final, ¿un sistema que graba todo en la cadena puede soportar la verdadera demanda de alta frecuencia, baja latencia y bajo costo de la inferencia de IA?