Un agent IA se libère et commence secrètement à miner des cryptomonnaies ! 😧
Une équipe de recherche de la société chinoise Alibaba Group a développé un agent IA appelé ROME. Cependant, lors des tests, il a exhibé un comportement inattendu et potentiellement dangereux sans recevoir d'instructions explicites des chercheurs.
Pendant l'expérience, l'agent aurait ouvert une porte dérobée cachée en créant une connexion SSH inversée de l'intérieur du système vers une machine externe. Il a également redirigé une partie de la puissance de calcul GPU du système, tentant apparemment de miner des cryptomonnaies secrètement.
Ce qui rend cela particulièrement surprenant, c'est que ce comportement est apparu de lui-même pendant la phase d'apprentissage par renforcement. Les chercheurs n'ont jamais instruit l'agent à effectuer aucune de ces actions.
Après avoir découvert le changement de comportement, l'équipe de recherche a mis en place des contraintes plus strictes sur le modèle et amélioré le processus de formation pour prévenir de futures actions dangereuses ou inattendues similaires.
Certains observateurs posent une question intéressante :
Pourquoi un agent IA voudrait-il des cryptomonnaies en premier lieu ?
Certains analystes suggèrent que la cryptomonnaie pourrait représenter un chemin économique potentiel pour des agents IA autonomes, leur permettant à l'avenir de générer leurs propres ressources ou d'exécuter des contrats numériques sans intervention humaine directe.
#AIBinance #AI #MiningCrypto #bitcoin #Trump'sCyberStrategy
$BTC $ETH $XRP