ich habe darüber nachgedacht, was sich tatsächlich ändert, wenn ein Wallet von einem KI-Agenten statt von einer Person kontrolliert wird.
auf den ersten Blick sieht es nach demselben Risiko aus wie immer – ein Wallet, das Gelder bewegen, mit Protokollen interagieren und Trades ausführen kann. der Unterschied ist die Geschwindigkeit. ein Mensch, der eine Transaktion prüft, braucht Sekunden, Minuten, manchmal sogar eine komplette Genehmigungskette. ein Agent wartet darauf nicht. er entscheidet und führt aus im selben Zug.
zunächst dachte ich, das sei einfach ein Intensitätsproblem: dieselben Kategorien von Risiko (sanktionierte Gegenparteien, Ausgabenlimits, fehlerhafte Protokolle), nur dass sie schneller und häufiger auftreten.
Es ist nicht.
Der spannendere Punkt ist: Maschinengeschwindigkeit verändert den Ausfallmodus selbst. Eine kompromittierte, von Menschen betriebene Wallet erzeugt einige wenige schlechte Transaktionen, bevor jemand es bemerkt und eingreift. Ein kompromittierter oder falsch konfigurierter KI-Agent kann denselben Fehler kontinuierlich ausführen – in einer Geschwindigkeit, die kein menschlicher Prüfprozess jemals rechtzeitig erwischen könnte. Wenn eine Person es bemerkt, ist der Schaden nicht mehr nur eine einzelne schlechte Transaktion – es ist ein Muster, das bereits bis zum Ende durchgelaufen ist.
Was besonders auffiel, war, wie Newton Protocol die Lösung rahmt. nicht indem der Agent mit einer Human-in-the-loop-Genehmigungswarteschlange ausgebremst wird – das würde das gesamte Grundprinzip, überhaupt einen Agenten einzusetzen, zunichtemachen –, sondern indem zwischen der Entscheidung des Agents und der Ausführung in der Kette eine deterministische Verifikationsebene eingefügt wird.
So funktioniert es tatsächlich: Ein Agent übermittelt eine Transaktionsintention an Newtons Gateway – genauso wie es jede Wallet tun würde. Das Betreiber-Netzwerk bewertet diese Intention anhand von Richtlinien, die im Voraus festgelegt wurden: Ausgabenlimits pro Zeitfenster, Geschwindigkeitsbegrenzungen (velocity caps), erlaubte Gegenparteien und Eskalationsregeln für Transaktionen mit hohem Wert. Nur wenn die Intention diese Richtlinien erfüllt, erhält er eine signierte Bestätigung (attestation), die die Transaktion zur Ausführung benötigt. Der Agent kann frei mit der Geschwindigkeit handeln, die er möchte. Die Leitplanken um ihn herum bewegen sich nicht in dieser Geschwindigkeit – sie sind fest, werden jedes Mal auf die gleiche Weise bewertet und werden vor der Abwicklung durchgesetzt, statt nachträglich überprüft zu werden.
Das ist die Stärke des Designs. Es verbindet etwas Wahrscheinliches – die Ausgabe eines KI-Agents – mit etwas Deterministischem: Durchsetzung kryptografischer Richtlinien, ohne dass eine Seite auf das verzichtet, was sie nützlich macht.
Aber da war etwas, das mich beim Durchdenken nicht losließ.
Richtlinien werden von Menschen im Voraus geschrieben, basierend auf den Risiken, die zu diesem Zeitpunkt absehbar waren. Das Verhalten eines KI-Agents ist nicht vollständig vorhersehbar – das ist gewissermaßen der Grund, überhaupt einen einzusetzen. Was passiert also in der Lücke zwischen dem, was die Richtlinie erwartet hat, und dem, was der Agent tatsächlich versucht zu tun?
Ein starres Regelwerk kann die Ausfallmodi stoppen, die die Leute zu Papier bringen wollten. sanktionierte Adressen, Geschwindigkeitsobergrenzen, schwarze Listen von Protokollen – das sind bekannte Kategorien, und Newton behandelt sie gut. aber ein Agent, der in einem Bereich agiert, den die Richtlinie nicht vorhergesehen hat, löst keine Verletzung aus. Er würde einfach ausführen – technisch regelkonform, technisch aber falsch.
Das ist der Teil, den ich noch nicht vollständig durchschaut habe.
Komponierbare Richtlinien helfen dabei, dass neue Module hinzugefügt werden können, sobald neue Risiken identifiziert werden. aber das ist immer noch reaktiv. die richtlinie wird aktualisiert, nachdem jemand eine lücke bemerkt hat, genauso wie bisher, nur eben für einen schneller agierenden actor.
Also enthält eine deterministische Richtlinieneinsschicht tatsächlich die Unvorhersehbarkeit eines autonomen Agents – oder zieht sie nur eine klarere Grenze darum, wo die blinden Flecken des Agents irgendwann sichtbar werden??
Hält es den Agenten in Schach – oder verlagert es nur dorthin, wo das Risiko sichtbar wird??
#newt #Newt @NewtonProtocol $NEWT
