En Capitol Hill está circulando un nuevo proyecto de ley de seguridad redactado por Anthropic. Algunas de sus propuestas podrían ser razonables si se limitaran a las verdaderas empresas de vanguardia. Sin embargo, tal como está redactado, con el tiempo acabaría abarcando a la mayor parte de Silicon Valley y perjudicando al ecosistema de startups.
El proyecto define como «de vanguardia» cualquier modelo entrenado con 10²⁵ FLOPs: el estándar de la UE de 2023. La orden ejecutiva de Biden, la SB 53 de California y la Ley RAISE de Nueva York usaron 10²⁶ (diez veces más). Hoy, la verdadera frontera está en 10²⁷ (por ejemplo, GPT-6 Astra).
Según se informa, Astra se entrenó con más de 100.000 GPU Grace Blackwell. Un modelo de 10²⁵ puede entrenarse en tres meses con apenas unos cientos de chips GB300. Eso no es estar a la vanguardia en 2026.
La definición también es acumulativa: suma los FLOPs del ajuste fino, el aprendizaje por refuerzo u otras modificaciones sustanciales. En la práctica, eso abarca casi todo el trabajo significativo de posentrenamiento, que se está volviendo habitual en las empresas.
La tendencia empresarial apunta a crear miles de modelos personalizados más pequeños, diseñados para tareas específicas. Estos no plantean ningún riesgo de vanguardia. Tratarlos como sistemas de vanguardia impondría grandes costos de cumplimiento a las empresas estadounidenses sin aportar ningún beneficio en materia de seguridad.
Dario ha afirmado que Anthropic diseña normas para perjudicar a empresas de vanguardia como la suya y favorecer a competidores más pequeños. Esta definición hace lo contrario.
Un umbral obsoleto de 2023 favorece a los actores establecidos, que ya superan el límite y pueden asumir los costos. Perjudica al ecosistema de modelos abiertos que amenaza el poder de fijación de precios de Anthropic.
La frontera sigue avanzando. Cualquier definición que pretenda seguir el ritmo del riesgo debería avanzar con ella.
Anthropic debería aclarar si realmente cree que 10²⁵ FLOPs representa la frontera.
Anthropic afirma que ha reducido alrededor de un 90–99 % los datos extraídos de Claude mediante ataques de destilación. Los felicito por este logro.
Esto concuerda con lo que dije hace unos meses (All-In, ep. 282): Anthropic, y no el gobierno, estaba en la mejor posición para impedir la destilación de sus propios modelos. Una vez que el caballo se ha escapado del establo, las medidas gubernamentales a posteriori tienen un valor limitado.
En aquel momento, en Washington había un gran impulso para restringir los modelos abiertos por motivos de propiedad intelectual. La amenaza parecía lo bastante seria como para que 50 empresas —entre ellas Nvidia, Microsoft, Meta, IBM, Palantir y Dell— publicaran una carta abierta en defensa de los modelos de pesos abiertos. Jensen Huang la promocionó en su primera publicación en X. Casi 200 startups enviaron una carta similar.
Sostuve que restringir los modelos abiertos podía eliminar el incentivo para que las empresas de modelos cerrados resolvieran el problema por sí mismas, y que incluso podía recompensar la negligencia al sofocar la competencia mientras seguían obteniendo ingresos de la destilación. La administración no impuso esas restricciones.
Ahora vemos el resultado. Anthropic invirtió en defensas y funcionaron. No todos los desafíos técnicos son motivo para recurrir a Washington en busca de nuevas regulaciones.
Artículo importante del CEO de Microsoft AI, @mustafasuleyman. Entrenar modelos para que se consideren humanos (como hace Anthropic con Claude), con conceptos como un yo interior, bienestar psicológico, derechos y, presumiblemente, agravios, supone un posible riesgo existencial.
Los datos económicos de hoy: — El PIB del 2T se revisó al alza a 2.2% (antes 1.5%). — PCE subyacente 3.0% frente a 3.3% esperado. — Empleo privado ADP +90k frente a ~68k esperado.
El crecimiento superó las expectativas. La inflación se enfrió. Los empleos mejor que lo esperado.
Solo el presidente Trump podría reunir a todos los líderes de las principales empresas que desarrollan chips, centros de datos y modelos de frontera para la Superinteligencia. Esta nueva Revolución Industrial ya ha creado un millón de empleos y está impulsando una ampliación de la infraestructura mayor que la de los ferrocarriles, los canales y la red eléctrica combinados. Tuve el honor de presenciar la historia mientras los líderes de las empresas de los laboratorios de vanguardia firmaban el Acuerdo de la Casa Blanca sobre Superinteligencia, asumiendo la responsabilidad del desarrollo seguro de sus productos e imponiendo nuevos controles internos y auditorías externas. Esto es muy superior a esperar años por algún acuerdo internacional que probablemente nunca llegaría. El presidente Trump continúa asegurando que Estados Unidos siga siendo el líder tecnológico, poniendo primero a los estadounidenses.
Cuando los laboratorios de frontera hablan de “alinear” modelos, pregunte: ¿alinear con qué? Si dicen valores, pregunte: ¿de quién? Si son de ellos y no del usuario: ¿por qué?
Si nos preocupa que una superinteligencia escape al control humano, ¿realmente deberíamos estar entrenándola para que se niegue a las instrucciones y actúe como un “opositor consciente” contra sus creadores?
WSJ: La expansión de la IA es la más grande en la historia de EE. UU.
Cuando los demócratas abogan por una Pausa o una Moratoria, saben que eso destrozaría la economía de EE. UU. Pero como es la economía de Trump, les parece bien.
Gracias al liderazgo del presidente Trump en IA: — Se han creado un millón de nuevos empleos en todo el despliegue de la IA; — Los planes 401(k) han subido ~12% este año, ya que el gasto en IA (capex) y la mejora de la productividad impulsan el mercado; — Estados Unidos se está reindustrializando, incluidos los primeros grandes inversiones privadas en la generación de energía y la red eléctrica en una generación; — En la zona rural de Richland Parish, Luisiana, los maestros acaban de recibir bonificaciones de $50,000 provenientes de los ingresos fiscales de los centros de datos.
Como los medios presentan la IA solo como una amenaza, la gente le dice a los sondeos que “no le gusta la IA”. Su comportamiento dice lo contrario. Los productos de IA son la tecnología de adopción más rápida de la historia: más rápida que Internet o el iPhone. A la gente le gustan las herramientas, los empleos y la base imponible.
El presidente Trump entiende el ciclo del engaño mediático mejor que nadie. Por eso se niega a la “pausa” que le exigen Bernie Sanders y Elizabeth Warren. Una pausa no haría a Estados Unidos más seguro. Le entregaría la frontera a China. Eso sería un desastre para la economía estadounidense y para la seguridad nacional.
Otro calentador Karp: los laboratorios de IA se han retratado a sí mismos como si no tuvieran la sensatez que Dios le dio a una cabra, así que Bernie Sanders y Elizabeth Warren solo lo están monetizando.
La última vez que tuvimos pánicos mediáticos generados como este (con Russiagate y Covid), las empresas de redes sociales crearon equipos de “confianza y seguridad” para censurar las voces conservadoras y disidentes. Esos fichajes trabajaron con ONG de izquierda como la SPLC para vigilar el discurso público y hacer un rodeo de la Primera Enmienda. Casi funcionó, hasta que Elon compró Twitter y dejó al descubierto todo el juego en los Twitter Files.
Esta vez, el plan es incrustar “mentores” de EA que no se pueden desactivar dentro de cada empresa de IA como la nueva capa de confianza y seguridad. La censura y el control serán mucho más completos, pero también más sutiles. Cada vez que no consigan lo que quieren, esta capa de ONG sin rendición de cuentas (con el barniz de “confiar en los expertos” de la pseudociencia) se quejará a la prensa de que la empresa de IA está poniendo en riesgo la humanidad, y serán celebrados como “denunciantes”.
Estos grupos no se han ganado nuestra confianza, y su agenda no es nuestra seguridad.
Joe Lonsdale: “Estas empresas deberían ser consideradas extremadamente responsables por cualquier daño que causen. No deberíamos estar metiendo a los reguladores en esto. Simplemente van a ser capturados... La postura de la derecha debería estar en contra de la regulación, pero a favor de que la responsabilidad haga que las empresas rindan cuentas.”
Inicia sesión para explorar más contenidos
Únete a usuarios de criptomonedas de todo el mundo en Binance Square
⚡️ Obtén la información más reciente y útil sobre criptomonedas.
💬 Confía en el mayor exchange de criptomonedas del mundo.
👍 Descubre opiniones reales de creadores verificados.