Die meisten Autorisierungssysteme können nur eine Antwort geben: Ja oder Nein.
Das Newton Protocol brachte mich dazu, über etwas anderes nachzudenken. In einem seiner Policy-Beispiele führt das Überschreiten einer Ausgabengrenze nicht nur zu allow = false. Die Policy kann außerdem einen Cap zurückgeben und so den Höchstwert offenlegen, der für dieselbe Transaktion akzeptiert würde.
Zunächst sieht das nach einer kleinen Implementierungsdetails aus.
Doch je mehr ich es mir ansah, desto mehr fühlte es sich wie eine andere Philosophie der Autorisierung an.
Eine binäre Ablehnung beendet die Interaktion. Das System verweigert die Anfrage und überlässt es dem Aufrufer zu entscheiden, was als Nächstes geschieht. Eine zurückgegebene Einschränkung ist etwas anderes. Anstatt nur zu sagen „Das kannst du nicht“, legt die Policy auch die Grenze offen, die eine zulässige Aktion von einer unzulässigen trennt.
Dieser Unterschied mag für Software, die einfach fehlgeschlagene Anfragen erneut versucht, nicht allzu wichtig sein. Er könnte für autonome KI-Agenten jedoch sehr wohl entscheidend sein.
Wenn Agenten leistungsfähiger werden, ist eine Ablehnung nicht mehr nur ein Fehler. Sie wird zu Rückmeldung (Feedback). Ein Spending Cap sagt einem Agenten ganz genau, wie weit er den zulässigen Bereich überschritten hat. Anstatt dieselbe falsche Entscheidung zu wiederholen oder auf menschliches Eingreifen zu warten, könnte ein ausreichend fähiger Agent eine neue Transaktion erzeugen, die die Policy bereits erfüllt.
Deshalb denke ich, dass das Newton Protocol sich möglicherweise auf Self-correcting AI Agents vorbereitet. @NewtonProtocol versucht nicht, KI-Agenten intelligenter zu machen. Stattdessen formt es die Umgebung, mit der diese Agenten interagieren. Policies hören auf, statische Berechtigungs-Schranken zu sein, und beginnen, als strukturierte Rückmeldung zu wirken, auf die zunehmend autonome Agenten lernen können, zu reagieren.
Das könnte sich zu einem deutlich größeren Architekturwechsel entwickeln, als es zunächst den Anschein hat.
Heutige KI-Agenten hören oft auf, wenn eine Policy „no“ sagt. Morgen könnten Agenten einen zurückgegebenen Cap als Anleitung für den nächsten Versuch behandeln, statt als das Ende des aktuellen. Falls das geschieht, wird die Herausforderung für das Newton Protocol nicht mehr darin bestehen, schlechte Transaktionen abzulehnen, sondern Policy-Ausgaben wie den Cap so zu gestalten, dass immer leistungsfähigere Agenten daraus weiter lernen können. $NEWT #Newt
Das Newton Protocol brachte mich dazu, über etwas anderes nachzudenken. In einem seiner Policy-Beispiele führt das Überschreiten einer Ausgabengrenze nicht nur zu allow = false. Die Policy kann außerdem einen Cap zurückgeben und so den Höchstwert offenlegen, der für dieselbe Transaktion akzeptiert würde.
Zunächst sieht das nach einer kleinen Implementierungsdetails aus.
Doch je mehr ich es mir ansah, desto mehr fühlte es sich wie eine andere Philosophie der Autorisierung an.
Eine binäre Ablehnung beendet die Interaktion. Das System verweigert die Anfrage und überlässt es dem Aufrufer zu entscheiden, was als Nächstes geschieht. Eine zurückgegebene Einschränkung ist etwas anderes. Anstatt nur zu sagen „Das kannst du nicht“, legt die Policy auch die Grenze offen, die eine zulässige Aktion von einer unzulässigen trennt.
Dieser Unterschied mag für Software, die einfach fehlgeschlagene Anfragen erneut versucht, nicht allzu wichtig sein. Er könnte für autonome KI-Agenten jedoch sehr wohl entscheidend sein.
Wenn Agenten leistungsfähiger werden, ist eine Ablehnung nicht mehr nur ein Fehler. Sie wird zu Rückmeldung (Feedback). Ein Spending Cap sagt einem Agenten ganz genau, wie weit er den zulässigen Bereich überschritten hat. Anstatt dieselbe falsche Entscheidung zu wiederholen oder auf menschliches Eingreifen zu warten, könnte ein ausreichend fähiger Agent eine neue Transaktion erzeugen, die die Policy bereits erfüllt.
Deshalb denke ich, dass das Newton Protocol sich möglicherweise auf Self-correcting AI Agents vorbereitet. @NewtonProtocol versucht nicht, KI-Agenten intelligenter zu machen. Stattdessen formt es die Umgebung, mit der diese Agenten interagieren. Policies hören auf, statische Berechtigungs-Schranken zu sein, und beginnen, als strukturierte Rückmeldung zu wirken, auf die zunehmend autonome Agenten lernen können, zu reagieren.
Das könnte sich zu einem deutlich größeren Architekturwechsel entwickeln, als es zunächst den Anschein hat.
Heutige KI-Agenten hören oft auf, wenn eine Policy „no“ sagt. Morgen könnten Agenten einen zurückgegebenen Cap als Anleitung für den nächsten Versuch behandeln, statt als das Ende des aktuellen. Falls das geschieht, wird die Herausforderung für das Newton Protocol nicht mehr darin bestehen, schlechte Transaktionen abzulehnen, sondern Policy-Ausgaben wie den Cap so zu gestalten, dass immer leistungsfähigere Agenten daraus weiter lernen können. $NEWT #Newt