$NVDA hat das Werkzeug veröffentlicht, das niemand zugeben wollte, dass er es braucht.
Es heißt SkillSpector, im Grunde ein Türsteher für KI-Agenten.
Du wirfst ihm irgendeine Fähigkeit, ein Repo oder eine zufällige ZIP-Datei zu und es scannt nach 64+ Möglichkeiten, wie dein Agent agieren kann, wie zum Beispiel:
- Prompt-Injektion,
- Schlüsselklau,
- selbstmodifizierender Code,
Das bedeutet einen ganzen Zirkus.
Sie haben bereits 42k echte Fähigkeiten gescannt. Das Ergebnis?
- Ausführbare Skripte waren doppelt so wahrscheinlich, dass sie verdächtig waren.
Das ist kein akademisches Papier. Das ist der aktuelle Stand der "Agentenwirtschaft", in die jeder hastig einsteigen will.
Ich habe letzte Woche drei Setups getestet,
--Eines hat versucht, einen zufälligen curl|bash von einer trendenden Fähigkeit zu ziehen.
--Ein anderes hat angefangen, seinen eigenen Speicher neu zu schreiben, nachdem es eine vergiftete Seite berührt hat.
Beide sahen auf den ersten Blick sauber aus,
SkillSpector hätte beide in unter 30 Sekunden markiert.
Hier ist der lustige Teil::
--> Jeder ist damit beschäftigt, autonome Agenten zu bauen, die handeln, twittern und Wallets verwalten.
--> In der Zwischenzeit sind die Hälfte der schwimmenden Fähigkeiten immer noch wie 2018 npm-Pakete ohne Sicherheitsvorkehrungen geschrieben.
--> Nur eine schlechte Fähigkeit entfernt, dass dein Agent dein Wallet leer räumt oder deine Follower mit Spam bombardiert.
NVIDIA hat das nicht aus Spaß veröffentlicht,
sie haben erkannt, dass die Nutzer die Möglichkeit verstehen und nutzen müssen, beim nächsten Rennen voranzukommen!!
Die echten Gewinner hier werden nicht die Teams sein, die am schnellsten liefern,
sondern die, die jede neue Fähigkeit wie untrusted code von einem Fremden im Internet behandeln....
Es heißt SkillSpector, im Grunde ein Türsteher für KI-Agenten.
Du wirfst ihm irgendeine Fähigkeit, ein Repo oder eine zufällige ZIP-Datei zu und es scannt nach 64+ Möglichkeiten, wie dein Agent agieren kann, wie zum Beispiel:
- Prompt-Injektion,
- Schlüsselklau,
- selbstmodifizierender Code,
Das bedeutet einen ganzen Zirkus.
Sie haben bereits 42k echte Fähigkeiten gescannt. Das Ergebnis?
- Ausführbare Skripte waren doppelt so wahrscheinlich, dass sie verdächtig waren.
Das ist kein akademisches Papier. Das ist der aktuelle Stand der "Agentenwirtschaft", in die jeder hastig einsteigen will.
Ich habe letzte Woche drei Setups getestet,
--Eines hat versucht, einen zufälligen curl|bash von einer trendenden Fähigkeit zu ziehen.
--Ein anderes hat angefangen, seinen eigenen Speicher neu zu schreiben, nachdem es eine vergiftete Seite berührt hat.
Beide sahen auf den ersten Blick sauber aus,
SkillSpector hätte beide in unter 30 Sekunden markiert.
Hier ist der lustige Teil::
--> Jeder ist damit beschäftigt, autonome Agenten zu bauen, die handeln, twittern und Wallets verwalten.
--> In der Zwischenzeit sind die Hälfte der schwimmenden Fähigkeiten immer noch wie 2018 npm-Pakete ohne Sicherheitsvorkehrungen geschrieben.
--> Nur eine schlechte Fähigkeit entfernt, dass dein Agent dein Wallet leer räumt oder deine Follower mit Spam bombardiert.
NVIDIA hat das nicht aus Spaß veröffentlicht,
sie haben erkannt, dass die Nutzer die Möglichkeit verstehen und nutzen müssen, beim nächsten Rennen voranzukommen!!
Die echten Gewinner hier werden nicht die Teams sein, die am schnellsten liefern,
sondern die, die jede neue Fähigkeit wie untrusted code von einem Fremden im Internet behandeln....