Eine Ingenieurslektion verfolgt mich immer wieder in jedem Gespräch über autonome Finanzen.
Systeme werden selten unzuverlässig, weil sie nicht wissen, was zu tun ist.
Sie werden unzuverlässig, weil verschiedene Teile desselben Systems dieselbe Entscheidung unterschiedlich interpretieren.
Deshalb achte ich inzwischen stärker auf Ausführungsgrenzen als auf Modellfähigkeiten. Intelligenz kann Unklarheit tolerieren. Gemeinsame finanzielle Infrastruktur normalerweise nicht. Sobald ein Wert sich bewegt, müssen alle Beteiligten zustimmen, dass die gleichen Regeln das gleiche Ergebnis erzeugt haben.
Das Lesen über NewtonProtocol hat diese Unterscheidung für mich geschärft. Die Autorisierungsebene geht nicht nur darum, zu entscheiden, ob eine Aktion ausgeführt werden soll. Sie geht darum sicherzustellen, dass der Übergang von probabilistischem Denken zu deterministischer Abwicklung über ein Rahmenwerk erfolgt, auf das jeder Teilnehmer unabhängig vertrauen kann.
Vielleicht ist das die Ingenieursaufgabe, über die wir öfter sprechen sollten.
Nicht darüber, wie intelligente autonome Systeme werden.
Sondern wie konsistent sie sich verhalten, sobald ihre Entscheidungen Teil der Realität aller anderen werden.

$NEWT @NewtonProtocol #Newt