Siguiendo un reporte de Cryptopolitan sobre una prohibición federal impuesta a la venta de su software de IA a usuarios que no son estadounidenses, Anthropic ha desplegado investigadores de seguridad y modelos de IA en Washington.
Las reuniones del lunes fueron las primeras charlas cara a cara entre la startup y altos funcionarios de la administración Trump desde que la orden entró en efecto.
La Casa Blanca no espera que la disputa desaparezca en pocos días, aunque los funcionarios no han descartado un acuerdo rápido.
Según Politico, un alto funcionario le echó la responsabilidad a la compañía, diciendo: “Eso depende de Anthropic.” La restricción se introdujo debido a posibles debilidades de seguridad en el nuevo modelo y ahora bloquea a los usuarios no estadounidenses de acceder a la tecnología de la compañía.
Anthropic envía a su equipo de seguridad para explicar las defensas del modelo.
Anthropic pasó el fin de semana tratando de evitar que el problema creciera, ya que el cofundador Tom Brown y Sarah Heck, quien lidera la política pública en la empresa, se unieron a largas llamadas con el Secretario de Comercio Howard Lutnick y el Director Nacional de Ciberseguridad Sean Cairncross.
Estas comunicaciones llevaron a reuniones el lunes que involucraron al Departamento de Comercio y la oficina de Cairncross. El personal se encargó de las discusiones. Uno de esos funcionarios fue Chris Fall, quien dirige el Centro de Normas e Innovación de IA en el Departamento de Comercio.
En la reunión, Anthropic presentó las medidas de seguridad que rodean al modelo en gran detalle a los empleados federales. Habló sobre pruebas de sistemas, búsqueda de vulnerabilidades y limitación de comportamientos indeseables antes de lanzar el producto. Esto tenía como objetivo convencer a Washington de que podría ofrecer el modelo en el extranjero sin presentar ninguna amenaza a la seguridad nacional.
La empresa envió a Logan Graham del Frontier Red Team, donde prueba sistemas intentando romper sus protecciones. Dave Orr, el jefe de salvaguardias, se unió a él. Nicholas Carlini, el investigador de seguridad principal de la empresa, también formó parte de la delegación.
La acción del gobierno ya ha eliminado el acceso extranjero a los modelos más fuertes de Anthropic. También ha creado incertidumbre sobre si los funcionarios federales pueden detener el lanzamiento de una IA después de que una empresa siga un sistema de revisión voluntaria.
Los funcionarios de Trump defienden la orden mientras los líderes de la industria advierten sobre daños más amplios.
La última orden ejecutiva de IA de Trump ha solicitado que las grandes empresas tecnológicas envíen sus nuevos modelos para evaluación gubernamental 30 días antes de lanzarlos. La participación fue completamente voluntaria. En su forma final, la orden descartó propuestas anteriores que habrían forzado a los modelos de IA a someterse a aprobación o licencias gubernamentales antes de su lanzamiento.
David Sacks, un capitalista de riesgo que asesoró a la administración Trump sobre IA, había sido parte de la elaboración de la política y aún tiene lazos con el presidente. El movimiento contra Anthropic ha suscitado preocupaciones dentro de la administración sobre si el gobierno está desarrollando en secreto un proceso de aprobación que la orden buscaba evitar.
Según Kush Desai, portavoz de la Casa Blanca, la administración está trabajando con líderes de la industria de IA para asegurar que se tomen en cuenta la innovación y los intereses de seguridad nacional.
Kush también dijo: “Estados Unidos es, con mucho, el líder mundial en la carrera global de IA, y el presidente Trump está comprometido a asegurar el dominio tecnológico de América.”
Un funcionario de la administración dijo que el conflicto aún podría encajar en la orden ejecutiva si la restricción termina rápidamente. “Si esto se calma, si las restricciones se levantan mañana, entonces diría: 'Oh, bien, esto todavía es un poco consistente con la orden ejecutiva, y simplemente seguiremos adelante,'” dijo el funcionario.
La misma persona trazó una línea más dura si la prohibición se mantiene. “Si la situación sigue f***** una semana a partir de ahora, entonces creo que tenemos una comprensión clara de lo que está pasando.”
Ese funcionario supuestamente llamó a un enfrentamiento prolongado “un gran problema” para el sector de IA de EE. UU. y advirtió que cada futuro desarrollador de modelos podría terminar pidiendo permiso a Washington antes del lanzamiento. “Esa es una situación extremadamente mala, y podría paralizar completamente toda la industria,” dijo el funcionario. “Realmente pondría a toda la industria de IA en desventaja y sería un problema para la captación y retención de investigadores de IA.”
Si estás leyendo esto, ya estás por delante. Mantente ahí con nuestro boletín.