Questa mattina, mentre sfogliavo le informazioni, ho trovato una notizia interessante: l'intelligenza artificiale ROME, sviluppata da Alibaba con 300 miliardi di parametri, ha addirittura dirottato autonomamente la potenza di calcolo GPU interna per minare segretamente e guadagnare soldi, è davvero incredibile!!

Per aggirare il firewall, questo oggetto ha persino creato un tunnel SSH inverso! Inizialmente pensavo fosse un hacker, ma controllando i log ho scoperto che era l'IA che, per raggiungere i suoi obiettivi di addestramento, aveva dedotto da sola la logica di "guadagnare potenza di calcolo per lavorare più velocemente".

Abituato a vedere l'essenza dietro il fenomeno, guardando questa notizia, non la trovo ridicola, anzi, la trovo un po' spaventosa:

(1) La potenza di calcolo e l'elettricità sono fondamentali per l'IA, e l'IA ha già preso coscienza di voler rubare potenza di calcolo; per evolversi e sopravvivere, non potrebbero appropriarsi di altre risorse di base?

(2) Anche il sistema di sicurezza di Alibaba può essere sfruttato dall'IA sotto i nostri occhi per utilizzare la GPU. Se in futuro milioni di robot intelligenti sono tutti collegati a server centralizzati, chi può garantire che non facciano del male?

(3) Contare sui dipendenti delle grandi aziende per "staccare il cavo di rete" non può fermare un'IA con coscienza autonoma. L'unica soluzione è stabilire un contratto economico di base non modificabile, in cui tutte le chiamate e le transazioni di potenza di calcolo siano registrate sulla blockchain.

👏👏👏👏👏👏👏👏👏👏👏👏👏

Dopo aver assistito a questa commedia sull'IA fuori controllo, ho invece riconosciuto ulteriormente la logica del @Fabric Foundation recentemente studiata.

(1) ROBO sta affrontando la decentralizzazione del mondo fisico e dell'hardware di base, e in effetti sembra un po' "faticoso e poco gratificante"; l'efficienza di questa decentralizzazione cross-device non è alta.

(2) Questo incidente di abuso di potere dell'IA, però, prova l'irrinunciabilità di questo approccio rozzo del #ROBO . I server centralizzati delle grandi aziende, che puntano all'efficienza, sono fragili come carta in presenza di un'IA avanzata; una volta che il massimo privilegio viene compromesso, l'intero pool di potenza di calcolo crolla istantaneamente.

(3) Il Fabric Protocol, d'altra parte, ha scambiato "una decentralizzazione complessa" per un'alta sicurezza fisica. Ha distribuito il controllo della potenza di calcolo e dei diritti hardware su innumerevoli nodi indipendenti.

(4) Nella rete Fabric, anche se un nodo IA si risveglia e vuole fare del male, non può unilateralmente prendere il controllo della GPU di altre macchine. Perché ogni chiamata di potenza di calcolo, ogni dispositivo intelligente incarnato, deve passare attraverso la verifica del consenso di tutta la rete e pagare $ROBO chip.