Kann Newton KI-Berechtigungen leichter widerrufen als erteilen?
Ich habe darüber nachgedacht, was passiert, nachdem jemand einem KI-Agenten die Erlaubnis gibt, zu handeln.
Die meisten Gespräche drehen sich darum, wie Berechtigungen erteilt werden – aber was, wenn sich die Umstände ändern?
Eine Handelsstrategie macht dann keinen Sinn mehr. Ein Wallet-Inhaber verliert das Vertrauen in einen KI-Agenten. Eine Richtlinie muss nach der Entdeckung eines neuen Risikos restriktiver werden.
Die eigentliche Herausforderung liegt vielleicht nicht im Erteilen der Berechtigung.
Sondern darin, sie sicher zu ändern oder zu entfernen.
Nach dem, was ich gelesen habe, ist das Newton Protocol so ausgelegt, dass es auf richtlinienbasierter Autorisierung statt auf unbegrenzter Delegation beruht. Geschützte Aktionen erfordern vor der Ausführung eine Policy-Validierung, sodass Berechtigungen im Laufe der Zeit aktualisiert werden können, statt dauerhaft als vertrauenswürdig zu gelten.
Das hat mich als wichtige Designentscheidung beeindruckt.
Sicherheit geht nicht nur darum, festzulegen, wer heute handeln darf.
Es geht auch darum, morgen leicht Änderungen an Entscheidungen vornehmen zu können.
Gleichzeitig garantiert das Ändern einer Richtlinie nicht automatisch bessere Ergebnisse.
Eine schlecht gestaltete Richtlinie kann immer noch unnötige Reibung erzeugen, während eine zu permissive Richtlinie Nutzer Risiken aussetzen kann, die sie gar nicht akzeptieren wollten.
Technologie kann die Regeln durchsetzen.
Sie kann jedoch nicht entscheiden, ob die Regeln selbst die richtigen sind.
Für mich ist genau das der Punkt, an dem Newton interessant wird.
Der langfristige Wert könnte weniger aus der Automatisierung selbst entstehen und mehr daraus, dass Nutzer das Vertrauen bekommen, dass die Automatisierung unter ihrer Kontrolle bleibt, während sich die Bedingungen ändern.
Was denkt ihr? Wenn KI-Agenten immer leistungsfähiger werden: Wird die Fähigkeit, Berechtigungen zu aktualisieren oder zu widerrufen, genauso wichtig wie das Erteilen selbst?
@NewtonProtocol
$NEWT #Newt #newt
Ich habe darüber nachgedacht, was passiert, nachdem jemand einem KI-Agenten die Erlaubnis gibt, zu handeln.
Die meisten Gespräche drehen sich darum, wie Berechtigungen erteilt werden – aber was, wenn sich die Umstände ändern?
Eine Handelsstrategie macht dann keinen Sinn mehr. Ein Wallet-Inhaber verliert das Vertrauen in einen KI-Agenten. Eine Richtlinie muss nach der Entdeckung eines neuen Risikos restriktiver werden.
Die eigentliche Herausforderung liegt vielleicht nicht im Erteilen der Berechtigung.
Sondern darin, sie sicher zu ändern oder zu entfernen.
Nach dem, was ich gelesen habe, ist das Newton Protocol so ausgelegt, dass es auf richtlinienbasierter Autorisierung statt auf unbegrenzter Delegation beruht. Geschützte Aktionen erfordern vor der Ausführung eine Policy-Validierung, sodass Berechtigungen im Laufe der Zeit aktualisiert werden können, statt dauerhaft als vertrauenswürdig zu gelten.
Das hat mich als wichtige Designentscheidung beeindruckt.
Sicherheit geht nicht nur darum, festzulegen, wer heute handeln darf.
Es geht auch darum, morgen leicht Änderungen an Entscheidungen vornehmen zu können.
Gleichzeitig garantiert das Ändern einer Richtlinie nicht automatisch bessere Ergebnisse.
Eine schlecht gestaltete Richtlinie kann immer noch unnötige Reibung erzeugen, während eine zu permissive Richtlinie Nutzer Risiken aussetzen kann, die sie gar nicht akzeptieren wollten.
Technologie kann die Regeln durchsetzen.
Sie kann jedoch nicht entscheiden, ob die Regeln selbst die richtigen sind.
Für mich ist genau das der Punkt, an dem Newton interessant wird.
Der langfristige Wert könnte weniger aus der Automatisierung selbst entstehen und mehr daraus, dass Nutzer das Vertrauen bekommen, dass die Automatisierung unter ihrer Kontrolle bleibt, während sich die Bedingungen ändern.
Was denkt ihr? Wenn KI-Agenten immer leistungsfähiger werden: Wird die Fähigkeit, Berechtigungen zu aktualisieren oder zu widerrufen, genauso wichtig wie das Erteilen selbst?
@NewtonProtocol
$NEWT #Newt #newt