Una cosa que no esperaba fue pasar tanto tiempo pensando en la elección del Protocolo Newton de tratar la IA como algo que debería estar limitado, no confiado.
A primera vista suena obvio, pero cambia la forma en que observo todo el sistema.
La cripto ha pasado años intentando eliminar la confianza de las personas. La IA, en cambio, nos pide confiar en un modelo que toma decisiones que a menudo no podemos explicar del todo. Newton se sitúa en medio de esos dos mundos y, en lugar de fingir que la contradicción desaparece, la construye silenciosamente a su alrededor.
Lo interesante no es si un agente de IA puede ejecutar una operación o gestionar una estrategia. Hay muchos sistemas que pueden hacer eso. La pregunta más difícil es si deberíamos permitir alguna vez que la inteligencia se convierta en la fuente de la autoridad.
La respuesta de Newton parece ser «no». El agente puede sugerir. El protocolo decide.
Me gusta la moderación que hay detrás de esa idea. Al mismo tiempo, desplaza la responsabilidad real a otro lugar. Si la ejecución está gobernada por políticas en lugar de por el propio modelo, entonces la calidad de esas políticas se vuelve poco a poco más importante que la calidad de la IA. Estás reemplazando una capa de confianza por otra, solo que más estructurada.
Sigo preguntándome si el futuro de la infraestructura de IA se definirá por quién construye los modelos más inteligentes... o por quién escribe las reglas que esos modelos nunca tienen permitido cruzar.
@NewtonProtocol #Newt $NEWT .
A primera vista suena obvio, pero cambia la forma en que observo todo el sistema.
La cripto ha pasado años intentando eliminar la confianza de las personas. La IA, en cambio, nos pide confiar en un modelo que toma decisiones que a menudo no podemos explicar del todo. Newton se sitúa en medio de esos dos mundos y, en lugar de fingir que la contradicción desaparece, la construye silenciosamente a su alrededor.
Lo interesante no es si un agente de IA puede ejecutar una operación o gestionar una estrategia. Hay muchos sistemas que pueden hacer eso. La pregunta más difícil es si deberíamos permitir alguna vez que la inteligencia se convierta en la fuente de la autoridad.
La respuesta de Newton parece ser «no». El agente puede sugerir. El protocolo decide.
Me gusta la moderación que hay detrás de esa idea. Al mismo tiempo, desplaza la responsabilidad real a otro lugar. Si la ejecución está gobernada por políticas en lugar de por el propio modelo, entonces la calidad de esas políticas se vuelve poco a poco más importante que la calidad de la IA. Estás reemplazando una capa de confianza por otra, solo que más estructurada.
Sigo preguntándome si el futuro de la infraestructura de IA se definirá por quién construye los modelos más inteligentes... o por quién escribe las reglas que esos modelos nunca tienen permitido cruzar.
@NewtonProtocol #Newt $NEWT .