Certains systèmes ne échouent pas bruyamment ; ils échouent dans les hypothèses de confiance que personne ne prend la peine d'auditer.
Je continue à regarder le modèle de confidentialité de @OpenGradient Chat et je me demande où la séparation nette commence vraiment à s'estomper. Si la visibilité IP est séparée de la visibilité des prompts, j'essaie d'imaginer des fissures réalistes : couches de routage, fuite de métadonnées, couches de journalisation que personne ne considère comme sensibles jusqu'à ce qu'elles le soient. Si l'attestation distante fait le gros du travail, je me demande qui vérifie le vérificateur et où cette chaîne de confiance s'arrête réellement. Si les TEEs sont la frontière, alors la recherche par canal auxiliaire devient l'invité inconfortable à la porte. Si une mise à jour malveillante est toujours techniquement attestable mais comportementalement différente, alors le système fait confiance à la conformité plutôt qu'à l'intention.
Le stress du monde réel est rarement élégant : pics de trafic, nœuds mal configurés, déploiements précipités. La pression d'adoption force généralement des raccourcis dans la surveillance et les pipelines de mise à jour. L'échec ne ressemblera pas à une violation dramatique ; il ressemblera à une dérive de confiance graduelle. Je ne vois pas de point d'effondrement net, juste de nombreuses petites hypothèses s'appuyant tranquillement les unes sur les autres jusqu'à ce que l'une d'elles cesse de soutenir le poids.
La confiance finit par être moins une caractéristique et plus une estimation accumulée que tout le monde convient silencieusement de ne pas remettre en question jusqu'à ce que quelque chose oblige à l'ouvrir dans les systèmes de production.#opg $OPG
Je continue à regarder le modèle de confidentialité de @OpenGradient Chat et je me demande où la séparation nette commence vraiment à s'estomper. Si la visibilité IP est séparée de la visibilité des prompts, j'essaie d'imaginer des fissures réalistes : couches de routage, fuite de métadonnées, couches de journalisation que personne ne considère comme sensibles jusqu'à ce qu'elles le soient. Si l'attestation distante fait le gros du travail, je me demande qui vérifie le vérificateur et où cette chaîne de confiance s'arrête réellement. Si les TEEs sont la frontière, alors la recherche par canal auxiliaire devient l'invité inconfortable à la porte. Si une mise à jour malveillante est toujours techniquement attestable mais comportementalement différente, alors le système fait confiance à la conformité plutôt qu'à l'intention.
Le stress du monde réel est rarement élégant : pics de trafic, nœuds mal configurés, déploiements précipités. La pression d'adoption force généralement des raccourcis dans la surveillance et les pipelines de mise à jour. L'échec ne ressemblera pas à une violation dramatique ; il ressemblera à une dérive de confiance graduelle. Je ne vois pas de point d'effondrement net, juste de nombreuses petites hypothèses s'appuyant tranquillement les unes sur les autres jusqu'à ce que l'une d'elles cesse de soutenir le poids.
La confiance finit par être moins une caractéristique et plus une estimation accumulée que tout le monde convient silencieusement de ne pas remettre en question jusqu'à ce que quelque chose oblige à l'ouvrir dans les systèmes de production.#opg $OPG