L'UNICEF ha lanciato un appello ai governi di tutto il mondo affinché criminalizzino il materiale di abuso sessuale infantile generato dall'IA. Secondo NS3.AI, questo appello segue ricerche che indicano che oltre 1.2 milioni di bambini hanno avuto le loro immagini manipulate in deepfake espliciti nell'ultimo anno. Sono attualmente in corso indagini contro il chatbot IA di X, Grok, accusato di produrre immagini sessualizzate di bambini. Questo ha spinto diversi paesi a vietare la tecnologia e le autorità di regolamentazione ad avviare indagini.
UNICEF sta sostenendo espansioni legali per classificare i contenuti generati dall'IA come abusi. L'organizzazione sta anche esortando gli sviluppatori di IA a implementare misure di sicurezza e a condurre la due diligence sui diritti dei bambini in tutto il settore dell'IA. Questi passaggi sono considerati necessari per proteggere i bambini dagli impatti dannosi della tecnologia IA.