Condividere le foto dei tuoi figli? Forse non dopo aver visto questo annuncio deepfake

Una nuova campagna pubblicitaria video generata dall’intelligenza artificiale che accumula milioni di visualizzazioni sui social media potrebbe indurre molti genitori a riconsiderare quali informazioni condividere pubblicamente sui propri figli.

Il video di Deutsche Telekom utilizza la più recente tecnologia di intelligenza artificiale per invecchiare virtualmente una bambina di 9 anni chiamata Ella, interpretata da un attore, al fine di illustrare come l'impronta digitale di un bambino possa essere potenzialmente utilizzata in modo improprio per danneggiare le sue vite.

"So che per voi queste immagini sono solo ricordi, ma per altri sono dati", dice Ella, generata dall'intelligenza artificiale, alla coppia che interpreta i suoi genitori in un esperimento sociale organizzato. "E per me, forse l'inizio di un futuro orribile."

I genitori di Ella nel video, interpretati anche da attori, vengono descritti mentre pubblicano spesso online la sua vita, condividendo momenti spensierati inconsapevoli del potenziale danno che ciò potrebbe causarle in futuro.

Anche se il video è falso, alcuni esperti sostengono che il suo messaggio di avvertimento sia molto reale.

"Una volta che un'immagine viene condivisa online, può essere difficile controllare dove va a finire", ha spiegato la dottoressa Rebecca Portnoff, direttrice della scienza dei dati presso Thorn, un'organizzazione no-profit che combatte la diffusione degli abusi sessuali sui minori online, in un'intervista ad ABC Notizia.

La campagna documenta i vari potenziali pericoli derivanti dalla condivisione eccessiva dei dati dei propri figli, dal bullismo online al furto di identità fino alla creazione di materiale pedopornografico, o CSAM.

"I malintenzionati utilizzano una varietà di tecnologie e servizi di manipolazione dei contenuti per alterare foto e video benigni, di solito dall'account dei social media di un bambino o sul web aperto, per sessualizzare questi contenuti", ha aggiunto Portnoff.

Sebbene questi pericoli siano stati documentati in passato, i rischi sono esacerbati dalla crescente diffusione e accessibilità dell’intelligenza artificiale. Insieme a una grande quantità di dati disponibili al pubblico, questo sta offrendo ai criminali più contenuti con cui lavorare.

"Condivisione" è un termine talvolta utilizzato per riferirsi ai genitori che condividono contenuti sui propri figli online. È un modo semplice e accessibile per i genitori di connettersi tra loro, hanno spiegato gli esperti del Boston Children's Digital Wellness Lab che hanno studiato i potenziali impatti della condivisione.

Tali esperti hanno evidenziato una stima della Barclays Bank secondo cui entro il 2030, 7,4 milioni di episodi di frode d’identità all’anno potrebbero essere collegati alla condivisione eccessiva di informazioni personali online da parte dei genitori.

Come illustrato nella campagna di Deutsche Telekom, l’intelligenza artificiale generativa rende possibile creare repliche credibili delle sembianze di tuo figlio, dalla voce alla figura.

La campagna descrive inoltre in dettaglio come gli algoritmi di intelligenza artificiale possono identificare e raccogliere automaticamente immagini di bambini e come possono quindi essere utilizzate per creare profili dei bambini che possono essere utilizzati per scopi pubblicitari o addirittura per creare contenuti pornografici.

Esperti come Portnoff affermano che l’intelligenza artificiale sta rendendo più semplice per i predatori creare materiale realistico da immagini disponibili pubblicamente o creare materiale completamente nuovo.

Allo stesso tempo, organizzazioni come Thorn hanno anche sviluppato algoritmi di apprendimento automatico per creare strumenti in grado di rilevare, rimuovere e segnalare materiale pedopornografico.

"Mentre il mondo dei social media continua ad evolversi, i genitori possono sforzarsi di trovare un equilibrio tra il collegamento con amici e familiari e il rispetto dei bambini come individui che dovranno affrontare le conseguenze di una vita vissuta online", hanno esortato gli esperti di Boston Children's Digital. Laboratorio del benessere.

Per quanto riguarda il modo in cui i genitori potrebbero raggiungere questo equilibrio, condividere foto e contenuti solo su album privati ​​con familiari e amici e non pubblicamente è un modo per condividere salvaguardando la privacy di tuo figlio e riducendo al minimo i rischi.

Portnoff ha anche fornito alcuni suggerimenti su come le famiglie possono educare i bambini alla sicurezza online.

"I genitori possono parlare presto e spesso ai propri figli della sicurezza online e promuovere un ambiente aperto e privo di giudizi a casa. Possono lavorare per comprendere le app, i social network e i servizi online utilizzati dai loro figli, nonché quali sono i controlli sulla privacy disponibili - e quindi utilizzare i controlli sulla privacy", ha affermato. "È importante educare i bambini sulla sicurezza online, compreso il motivo per cui è importante evitare di condividere dati personali e... la permanenza di ciò che è condiviso online."