L'azienda Google ha siglato un accordo segreto con il Pentagono per l'utilizzo dei suoi modelli IA da parte del Dipartimento della Difesa degli Stati Uniti. Lo riporta Reuters, citando un comunicato di The Information. Anche l'azienda ha confermato le informazioni all'agenzia.
Le informazioni, con link a fonti familiari con la situazione, indicano che l'accordo consente al Pentagono di utilizzare i prodotti IA di Google per qualsiasi scopo governativo legittimo. L'intesa obbliga l'azienda a fornire assistenza nella configurazione dei parametri di sicurezza e dei filtri dell'intelligenza artificiale su richiesta del governo.
L'accordo include anche una clausola in cui le parti riconoscono che il sistema di intelligenza artificiale non deve essere utilizzato per la sorveglianza di massa nel paese o per creare armi autonome che operano senza il dovuto controllo umano. Tuttavia, l'accordo non concede a Google il diritto di controllare le azioni del governo o di porre il veto sulle sue legittime decisioni operative.
In Google hanno dichiarato a Reuters che supportano sia progetti governativi non segreti che segreti. Un portavoce dell'azienda ha affermato che Google rimane impegnata nella convinzione comune che l'intelligenza artificiale non debba essere utilizzata per la sorveglianza di massa nel paese o nelle armi autonome.
Il Pentagono ha dichiarato all'agenzia di non essere interessato a utilizzare l'IA per la sorveglianza di massa degli americani o per sviluppare armi autonome, ma vuole utilizzare l'intelligenza artificiale per qualsiasi scopo legittimo.
In precedenza, la questione della sorveglianza degli americani tramite IA aveva portato al fallimento delle trattative tra Anthropic e il Dipartimento della Difesa e al loro successivo conflitto, durante il quale il Pentagono ha riconosciuto l'azienda come una minaccia per la catena di approvvigionamento degli Stati Uniti. The Information, citando una nota interna del CEO di Anthropic Dario Amodei, ha affermato che l'azienda si opponeva all'uso delle sue tecnologie per «l'analisi di grandi volumi di dati raccolti», riferendosi alla sorveglianza dei cittadini statunitensi.
Una minaccia diretta alla libertà
Lunedì 27 aprile, prima che si sapesse dell'accordo con il Pentagono, oltre 560 dipendenti di Google hanno firmato una lettera aperta al CEO Sundar Pichai chiedendo di astenersi dal fornire tecnologie di IA al governo degli Stati Uniti per l'uso in scopi militari segreti. Lo riporta il Financial Times.
«Vogliamo vedere come l'IA possa giovare all'umanità, e non essere utilizzata in modi disumani o dannosi», si legge nella lettera. «Questo riguarda i sistemi d'arma autonomi letali e la sorveglianza di massa, ma non si limita a questo». «L'unico modo per garantire che Google non sia coinvolta in tali pratiche dannose è rinunciare a partecipare a qualsiasi progetto riservato. Altrimenti, l'uso delle tecnologie potrebbe avvenire senza la nostra conoscenza e senza possibilità di fermarlo», aggiungono gli autori della lettera (citazione da FT).
«Non si tratta solo di questioni militari. La sorveglianza di massa utilizzando l'IA è una minaccia diretta alle libertà civili negli Stati Uniti», ha dichiarato a FT uno dei partecipanti alla campagna che ha firmato la lettera. «Non è uno scenario ipotetico o improbabile; ci stiamo già confrontando. Vediamo come l'IA venga utilizzata per sostenere regimi autoritari in Cina».
La lettera è stata firmata da circa 18 dirigenti di alto livello dell'azienda, tra cui capi, direttori e vicepresidenti. La figura più in vista a partecipare alla campagna è stata il chief scientist di DeepMind (sottosezione IA di Google) Jeff Dean. A febbraio ha scritto sui social che «la sorveglianza di massa viola il Quarto Emendamento e frena la libertà di espressione», e ha anche confermato il suo impegno contro il divieto di armi autonome letali introdotto dall'azienda nel 2018.
Il divieto è stato introdotto perché nel 2018 migliaia di dipendenti di Google hanno firmato una petizione contro il progetto Maven, in cui si prevedeva di utilizzare l'IA per migliorare la precisione degli attacchi dei droni. Alcuni dipendenti hanno lasciato l'azienda. Dopo ciò, Google non ha rinnovato il contratto e ha promesso di non sviluppare IA per la sorveglianza o la creazione di armi.
Tuttavia, lo scorso anno l'azienda ha silenziosamente abbandonato la propria posizione, senza enfatizzarlo, nota FT. Ha aggiornato i propri principi di sviluppo dell'IA e ha rimosso la formulazione sul divieto di sviluppare «armi o altre tecnologie il cui scopo principale è causare danno alle persone».