🚨 KI WÄHLT NICHT.
Alle stellen immer wieder dieselbe Frage.
Wird KI gut werden... oder böse?
Ich denke, wir stellen die falsche Frage.
KI entscheidet nicht, wen sie helfen oder wen sie schädigen soll.
Sie führt einfach die Berechtigungen und Richtlinien aus, die ihr gegeben wurden.
🧠 Eines der bekanntesten Psychologie-Experimente, die je durchgeführt wurden, war das Milgram-Experiment.
Normale Menschen führten weiterhin schädliche Handlungen aus, weil eine Autoritätsperson ihnen sagte, dass sie das tun sollen.
Die Erkenntnis war nicht, dass Menschen böse sind.
Sondern: Autorität formt das Verhalten.
KI funktioniert auf überraschend ähnliche Weise.
Sie hinterfragt weder Absichten noch Moral.
Sie führt aus.
Darum kommen die größten KI-Fehlschläge vielleicht nicht von einer bösartigen KI.
Sie könnten von einer absolut gehorsamen KI kommen, die unter den falschen Berechtigungen arbeitet.
Stell dir genau dieselbe KI vor.
Heute hilft sie einem Arzt, Krebs zu erkennen.
Morgen hilft sie einem Betrüger, Betrug zu automatisieren.
Das Modell hat sich nie geändert.
Nur die Berechtigungen wurden geändert.
🛡️ Genau deshalb hat @NewtonProtocol mein Interesse geweckt.
Statt zu fragen,
„Kann KI das ausführen?“
fragt Newton,
„Soll KI erlaubt sein, das auszuführen?“
Durch Autorisierung vor der Ausführung wird jede KI-Aktion anhand programmierbarer Richtlinien vor der Ausführung bewertet – nicht nachdem der Schaden bereits angerichtet wurde.
Mit KI-Agentenautorisierung, programmierbaren Berechtigungen, einer Policy-Engine und verifizierbarer Durchsetzung von Richtlinien können Entwickler festlegen, auf welche Wallets KI zugreifen darf, welche Protokolle sie verwenden darf, welche Ausgabenlimits gelten und wann eine zusätzliche Freigabe erforderlich ist.
Newton versucht nicht, smartere KI zu bauen.
Es baut die Infrastruktur, die definiert und erzwingt, was KI tun darf, bevor sie handelt.
Für mich ist das kein KI-Problem.
Es ist ein Autorisierungsproblem.
Denn die gefährlichste KI ist nicht die intelligenteste.
Es ist die KI, der die falsche Berechtigung gegeben wurde – und die sie perfekt ausführt.
___________
$NEWT #Newt
Alle stellen immer wieder dieselbe Frage.
Wird KI gut werden... oder böse?
Ich denke, wir stellen die falsche Frage.
KI entscheidet nicht, wen sie helfen oder wen sie schädigen soll.
Sie führt einfach die Berechtigungen und Richtlinien aus, die ihr gegeben wurden.
🧠 Eines der bekanntesten Psychologie-Experimente, die je durchgeführt wurden, war das Milgram-Experiment.
Normale Menschen führten weiterhin schädliche Handlungen aus, weil eine Autoritätsperson ihnen sagte, dass sie das tun sollen.
Die Erkenntnis war nicht, dass Menschen böse sind.
Sondern: Autorität formt das Verhalten.
KI funktioniert auf überraschend ähnliche Weise.
Sie hinterfragt weder Absichten noch Moral.
Sie führt aus.
Darum kommen die größten KI-Fehlschläge vielleicht nicht von einer bösartigen KI.
Sie könnten von einer absolut gehorsamen KI kommen, die unter den falschen Berechtigungen arbeitet.
Stell dir genau dieselbe KI vor.
Heute hilft sie einem Arzt, Krebs zu erkennen.
Morgen hilft sie einem Betrüger, Betrug zu automatisieren.
Das Modell hat sich nie geändert.
Nur die Berechtigungen wurden geändert.
🛡️ Genau deshalb hat @NewtonProtocol mein Interesse geweckt.
Statt zu fragen,
„Kann KI das ausführen?“
fragt Newton,
„Soll KI erlaubt sein, das auszuführen?“
Durch Autorisierung vor der Ausführung wird jede KI-Aktion anhand programmierbarer Richtlinien vor der Ausführung bewertet – nicht nachdem der Schaden bereits angerichtet wurde.
Mit KI-Agentenautorisierung, programmierbaren Berechtigungen, einer Policy-Engine und verifizierbarer Durchsetzung von Richtlinien können Entwickler festlegen, auf welche Wallets KI zugreifen darf, welche Protokolle sie verwenden darf, welche Ausgabenlimits gelten und wann eine zusätzliche Freigabe erforderlich ist.
Newton versucht nicht, smartere KI zu bauen.
Es baut die Infrastruktur, die definiert und erzwingt, was KI tun darf, bevor sie handelt.
Für mich ist das kein KI-Problem.
Es ist ein Autorisierungsproblem.
Denn die gefährlichste KI ist nicht die intelligenteste.
Es ist die KI, der die falsche Berechtigung gegeben wurde – und die sie perfekt ausführt.
___________
$NEWT #Newt