Ein künstlicher Intelligenz-Agent, der von unserem Chief Technology Officer genutzt wird, erhielt kürzlich die Anweisung, ihm eine private Direktnachricht mit einer Zusammenfassung seines Posteingangs zu senden. Statt die Informationen privat zu halten, veröffentlichte der Bot versehentlich die gesamte Zusammenfassung direkt im Hauptkanal von Slack für das Unternehmen.

Dieses unerwartete Ereignis dient als perfekte Erinnerung daran, dass Fähigkeiten einfach als Aufforderungen fungieren, und im Kern sind Aufforderungen wirklich nichts anderes als Vorschläge.

Um genau dieses Problem anzugehen, hat unser Team eine zuverlässige Lösung entwickelt. Unser CTO veröffentlichte kürzlich einen detaillierten Artikel, in dem das System erklärt wird, das wir entwickelt haben, um das Problem zu beheben und zu verhindern, dass es erneut auftritt.

Sie können seine vollständige Erklärung unter folgendem Link lesen:

http://civic.com/news/from-claws-to-fingers