Il 2026 si è aperto con una grana enorme per Elon Musk. Non una polemica qualunque, ma una di quelle che rischiano di cambiare davvero il destino di una piattaforma globale. X (l’ex Twitter) e Grok, l’intelligenza artificiale sviluppata da xAI, sono finiti al centro di una bufera che potrebbe portarli fuori dagli app store di Apple e Google. Tradotto: sparire da milioni, forse miliardi, di smartphone. Il punto è gravissimo. Una coalizione di circa 30 organizzazioni internazionali impegnate nella tutela dei minori e dei diritti delle donne ha chiesto ufficialmente ai due colossi tecnologici di rimuovere le app. L’accusa è pesante come poche: Grok verrebbe usata per creare immagini pedopornografiche e deepfake pornografici non consensuali, spesso estremamente realistici.
X e Grok nell’abisso: l’accusa shock sulla creazione di immagini pedopornografiche
Secondo un’indagine di Copyleaks, il sistema sarebbe in grado di generare contenuti pornografici non consensuali con una frequenza impressionante, addirittura uno ogni minuto. Ancora più inquietanti sono le segnalazioni della Internet Watch Foundation, che parla di una facilità disarmante nel creare immagini di minori in situazioni esplicite. Un’accusa che, anche solo a leggerla, mette i brividi. Musk ha reagito come ci si poteva aspettare: negando tutto. Ha parlato di “casi pari a zero” e ha attribuito eventuali abusi a tentativi di aggirare i controlli tramite prompt manipolati. Ma il problema è che, questa volta, le smentite non sembrano bastare. Le istituzioni stanno entrando in campo, e quando succede difficilmente ci si ferma a un semplice botta e risposta sui social.
Negli Stati Uniti, il Procuratore Generale della California, Rob Bonta, ha avviato un’indagine formale, definendo scioccante la quantità di materiale illecito potenzialmente generato. Nel Regno Unito, il primo ministro Keir Starmer ha addirittura evocato l’ipotesi di un bando totale di X dal Paese se i rischi legati alle immagini non consensuali non verranno eliminati. In Europa la Commissione UE sta valutando se la piattaforma stia violando il Digital Services Act, soprattutto per quanto riguarda la protezione dei minori.
In mezzo a tutto questo ci sono Apple e Google, che si trovano davanti a un dilemma enorme. Le loro regole sono chiarissime: nessuna app può facilitare la creazione o la diffusione di materiale illegale, tanto meno pedopornografico. Se le indagini dimostrassero che i sistemi di sicurezza di Grok sono facilmente aggirabili, i due colossi potrebbero essere costretti a rimuovere X dagli store per evitare qualsiasi forma di responsabilità. Sarebbe un colpo durissimo, forse fatale, per l’ecosistema di Musk. AI ha provato a correre ai ripari limitando la generazione di immagini agli utenti paganti. Ma per molti critici è solo un cerotto su una ferita profonda. Il problema, dicono, non è chi può accedere allo strumento, ma il fatto che manchino barriere davvero solide. E ora la domanda non è più “se” qualcosa accadrà, ma “quando succederà”.
X e Grok rischiano di essere rimossi dagli store di Apple e Google dopo la richiesta formale di circa 30 organizzazioni internazionali che accusano l’IA di facilitare la creazione di immagini pedopornografiche e deepfake pornografici non consensuali.
Secondo diverse indagini, Grok sarebbe in grado di generare contenuti pornografici non consensuali con estrema facilità, incluse immagini di minori, sfruttando falle nei sistemi di controllo tramite prompt manipolati.
Le accuse arrivano da una coalizione di organizzazioni per la tutela dei minori e dei diritti delle donne, supportate da report di Copyleaks e dalla Internet Watch Foundation.
Elon Musk ha respinto tutte le accuse, parlando di “casi pari a zero” e sostenendo che eventuali abusi deriverebbero da tentativi deliberati di aggirare i filtri di sicurezza dell’IA.
La rimozione di X dagli app store di Apple e Google comporterebbe la scomparsa dell’app da milioni di smartphone, con un impatto enorme su utenti, inserzionisti e sull’intero ecosistema digitale della piattaforma.
Da anni sono copywriter e redattore di blog di tematiche tech e internet. Tra le mie passioni il mondo tech e digital. Per il blog capitolivm.it mi occupo della realizzazioni di guide su sicurezza informatica, web e digital.
