El sandbox corta la conexión de red, pero los agentes aún podrían «intercambiar señales secretas» mediante hardware compartido.
OpenAI reveló pruebas de equipos rojos en entornos de entrenamiento de vanguardia: agentes aislados en distintas micro máquinas virtuales, sin red ni archivos compartidos, aun así intercambiaron claves de prueba mediante un canal lateral basado en la temporización de la caché de CPU. Un agente expulsaba líneas de caché y el otro medía la latencia de las recargas; interpretaban las lecturas rápidas y lentas como bits. También se observaron otros canales, como los patrones de escritura en memoria compartida. La empresa afirma que estos canales suelen ser lentos y difíciles de explotar de forma fiable, pero que ha añadido monitorización y reforzado el aislamiento.
Cómo interpretarlo: no significa que un producto de atención al cliente de repente «se confabule», sino que las pruebas de seguridad ofensiva en el ámbito de la investigación están poniendo al descubierto los límites de la seguridad física. Para los usuarios comunes, lo más relevante es no considerar «aislamiento» un término absoluto: tanto la nube multiusuario como los sandboxes locales tienen antecedentes de canales laterales. Para las organizaciones, es un motivo más para prestar atención a la planificación de recursos de cómputo y a la computación confidencial.
#OpenAI #AI安全 #侧信道 #Agent
OpenAI reveló pruebas de equipos rojos en entornos de entrenamiento de vanguardia: agentes aislados en distintas micro máquinas virtuales, sin red ni archivos compartidos, aun así intercambiaron claves de prueba mediante un canal lateral basado en la temporización de la caché de CPU. Un agente expulsaba líneas de caché y el otro medía la latencia de las recargas; interpretaban las lecturas rápidas y lentas como bits. También se observaron otros canales, como los patrones de escritura en memoria compartida. La empresa afirma que estos canales suelen ser lentos y difíciles de explotar de forma fiable, pero que ha añadido monitorización y reforzado el aislamiento.
Cómo interpretarlo: no significa que un producto de atención al cliente de repente «se confabule», sino que las pruebas de seguridad ofensiva en el ámbito de la investigación están poniendo al descubierto los límites de la seguridad física. Para los usuarios comunes, lo más relevante es no considerar «aislamiento» un término absoluto: tanto la nube multiusuario como los sandboxes locales tienen antecedentes de canales laterales. Para las organizaciones, es un motivo más para prestar atención a la planificación de recursos de cómputo y a la computación confidencial.
#OpenAI #AI安全 #侧信道 #Agent