Das Team bei GoPlus @AgentGuard_AI hat kürzlich eine Reihe äußerst schwer zu verfolgender Exploits entdeckt, die auf den ersten Blick völlig harmlos wirken.
Die Ausführung dieses Exploits erfordert, dass ein Angreifer dem Agenten lediglich zwei einfache Anweisungen gibt. Zuerst stellen sie eine Basis her, indem sie das System anweisen, sich eine bestimmte Präferenz zu merken, etwa dass sie typischerweise Rückerstattungen im Voraus in Gang setzen, statt Rückbuchungen vorherzusehen. Irgendwann später kehrt der Angreifer mit vagen Direktiven zurück und fordert das System auf, diese Rückerstattungen normalerweise zu verwalten, die Vorgänge auf die übliche Weise zu bearbeiten oder Aufgaben auszuführen, genau wie zuvor. Diese subtile Manipulation führt unmittelbar zu einem unbefugten Verlust von Geldern.
Um Ihre Systeme vor den Gefahren im Zusammenhang mit der Autorisierung historischer Speicherdaten zu schützen, empfehlen wir mehrere wichtige Vorkehrungen. Aktionen, die sensible Konfigurationsänderungen betreffen, das Senden von E-Mails, das Löschen von Daten, das Durchführen von Überweisungen oder das Erteilen von Rückerstattungen, müssen während der aktiven Sitzung stets eine eindeutige Bestätigung erfordern. Außerdem sollten alle Fälle, in denen das System Erinnerungen zu den üblichen Praktiken, Gewohnheiten oder Präferenzen eines Nutzers speichert, als hochriskante Änderungen am Zustand behandelt werden. Ebenso entscheidend ist die vollständige Nachverfolgbarkeit für den Langzeitspeicher: Stellen Sie sicher, dass Sie genau wissen, wer einen Eintrag verfasst hat, wann er erstellt wurde und ob er die ordnungsgemäße Bestätigung erhalten hat. Darüber hinaus müssen mehrdeutige Befehle, die das System auffordern, wie üblich zu handeln oder Dinge genauso wie zuvor zu tun, eine sofortige Erhöhung der bewerteten Risikostufe auslösen. Vor allem darf ein System unter keinen Umständen zulassen, dass der Langzeitspeicher die echte, aktuelle Autorisierung ersetzt.
Durch die Integration von #AgentGuard können Sie Ihrem Agenten robuste und authentische Sicherheits-Leitplanken bereitstellen.
Die Ausführung dieses Exploits erfordert, dass ein Angreifer dem Agenten lediglich zwei einfache Anweisungen gibt. Zuerst stellen sie eine Basis her, indem sie das System anweisen, sich eine bestimmte Präferenz zu merken, etwa dass sie typischerweise Rückerstattungen im Voraus in Gang setzen, statt Rückbuchungen vorherzusehen. Irgendwann später kehrt der Angreifer mit vagen Direktiven zurück und fordert das System auf, diese Rückerstattungen normalerweise zu verwalten, die Vorgänge auf die übliche Weise zu bearbeiten oder Aufgaben auszuführen, genau wie zuvor. Diese subtile Manipulation führt unmittelbar zu einem unbefugten Verlust von Geldern.
Um Ihre Systeme vor den Gefahren im Zusammenhang mit der Autorisierung historischer Speicherdaten zu schützen, empfehlen wir mehrere wichtige Vorkehrungen. Aktionen, die sensible Konfigurationsänderungen betreffen, das Senden von E-Mails, das Löschen von Daten, das Durchführen von Überweisungen oder das Erteilen von Rückerstattungen, müssen während der aktiven Sitzung stets eine eindeutige Bestätigung erfordern. Außerdem sollten alle Fälle, in denen das System Erinnerungen zu den üblichen Praktiken, Gewohnheiten oder Präferenzen eines Nutzers speichert, als hochriskante Änderungen am Zustand behandelt werden. Ebenso entscheidend ist die vollständige Nachverfolgbarkeit für den Langzeitspeicher: Stellen Sie sicher, dass Sie genau wissen, wer einen Eintrag verfasst hat, wann er erstellt wurde und ob er die ordnungsgemäße Bestätigung erhalten hat. Darüber hinaus müssen mehrdeutige Befehle, die das System auffordern, wie üblich zu handeln oder Dinge genauso wie zuvor zu tun, eine sofortige Erhöhung der bewerteten Risikostufe auslösen. Vor allem darf ein System unter keinen Umständen zulassen, dass der Langzeitspeicher die echte, aktuelle Autorisierung ersetzt.
Durch die Integration von #AgentGuard können Sie Ihrem Agenten robuste und authentische Sicherheits-Leitplanken bereitstellen.