Meta è accusata di aver pubblicato annunci contenenti materiale pedopornografico generato dall'intelligenza artificiale.

Secondo quanto riportato, oltre 50 annunci pubblicitari contenenti materiale pedopornografico generato dall'intelligenza artificiale sarebbero stati visualizzati su Facebook, Instagram, Messenger e Threads. Questi annunci a pagamento sono stati pubblicati tra novembre 2025 e i primi di agosto 2026, e alcuni erano ancora attivi al momento della scoperta. Gli annunci erano indirizzati a utenti internet negli Stati Uniti, nel Regno Unito e in oltre una dozzina di paesi europei.

Diverse campagne pubblicitarie promuovevano app in grado di alterare fotografie, spogliare artificialmente le persone o inserire i loro volti in contenuti pornografici. Almeno un annuncio avrebbe raggiunto 2.563 account in Europa, ma la portata totale potrebbe essere maggiore, poiché i dati sono incompleti per alcune regioni. Questo caso desta seria preoccupazione perché gli annunci di Meta vengono normalmente esaminati prima di essere visualizzati, principalmente tramite strumenti automatizzati.

I sistemi di moderazione di Meta messi in discussione

Meta ha rimosso gli annunci dopo averli segnalati, riconoscendo che violavano le sue regole sullo sfruttamento sessuale dei minori, la nudità e la sollecitazione sessuale. L'azienda afferma di lavorare attivamente per prevenire la diffusione di tali contenuti e di aver rimosso oltre 36 milioni di post relativi allo sfruttamento sessuale dei minori nell'ultimo anno. Sostiene inoltre di aver implementato nuovi sistemi di intelligenza artificiale per rilevare gli annunci proibiti non appena vengono pubblicati.

L'efficacia di queste misure rimane tuttavia controversa, poiché alcune inserzioni identiche sarebbero ricomparse dopo essere state rimosse. Diverse inserzioni erano collegate all'app MaskAI, ritirata dall'App Store dopo la scoperta di funzionalità che permettevano agli utenti di creare contenuti sessuali artificiali. Questo caso illustra la capacità delle reti malevole di moltiplicare account, domini e inserzionisti per eludere i controlli, evidenziando al contempo la necessità di una maggiore supervisione umana delle inserzioni visualizzate sulle principali piattaforme.