Attenti a Fakebook.

Democrazia digitale Cultura

In un video su YouTube, Donald Trump dichiara guerra alla Corea del Nord. «Faremo ricorso all’atomica», annuncia bellicoso, con l’usuale arroganza di toni e gesti. Lo spettatore è preoccupato, incredulo. Ma le espressioni del volto sono proprio le sue; le labbra si muovono come ci si aspetterebbe. E la voce, inconfondibile, è quella di chi ha conquistato la Casa Bianca al grido “America frst”. Quel video non esiste ancora, e il presidente degli Stati Uniti non ha mai pronunciato quelle parole. Presto tuttavia potrebbe non essere più necessario: saranno le tecnologie di manipolazione audio visuali consentite dagli sviluppi dell’intelligenza artifciale a creare ad arte una replica digitale di Trump e del suo discorso. È il futuro delle “fake news”, delle notizie false fatte per confondersi a quelle vere. Oggi il problema è il testo; domani un mezzo anche più potente: il video. Che potrebbe accadere, nell’esempio immaginato? Che pagine Facebook e profli Twit ter di guerrafondai entusiasti comincino a condividerlo, fno a renderlo “virale”. Che molti semplici utenti, in chiaro stato di alterazione emotiva, facciano altrettanto. E anche se i media tradizionali e lo stesso Trump si afrettassero a smentire, quanti continuerebbero invece a credere a ciò che hanno visto con i loro occhi? E quali conseguenze diplomatiche e geopo litiche si produrrebbero nel lasso di tempo necessario a diffondere la smentita? È uno scenario immaginifco, certo, ma che potrebbe porsi davvero in un futuro prossimo, se – come per le bugie e la propaganda testuale, ofine e online – non ne anticipassimo i rischi. Già ora, per esempio, un team di ricercatori dell’Università di Washington è in grado di convertire semplici tracce audio in video «realistici, e a labiale sincronizzato» di chi le pronuncia. Per addestrare gli algoritmi oggi servono ore e ore di materiale in alta defnizione, e dunque la scelta per il soggetto da manipolare è ricaduta su Barack Obama, di cui ce n’è in abbondanza; domani, tuttavia, basteranno conversazioni su Skype e Messenger, o qualunque contenuto presente in rete. Gli studiosi specifcano di avere scelto coscientemente di non voler «mettere in bocca a qualcuno parole altrui». Eppure non si comprende cosa dovrebbe impedirlo una volta che la loro tecnologia sarà disponibile per i meno ambiziosi scopi dichia rati, come rendere più stabili le videochiamate online. Del resto, c’è molto altro. Progetti ancora embrionali come VoCo di Adobe, Wavenet di Google o la startup Lyrebird promettono di consentire la clonazione della voce di chiunque, addirittura a partire da un solo minuto di parlato esistente. Con “Face2Face”, un gruppo di ricercatori di Stanford, Norimberga e del Max Planck Institute mostra di essere riuscito a modifcare in tempo reale, tramite un attore, espressioni facciali e movimenti labia li in video YouTube esistenti di George Bush e di Trump. L’obiettivo? «Modifcare il video bersaglio in modo fotorealistico, così da rendere virtualmente impossibile notare le manipolazioni». Ancora, basta un’immagine bidimensionale anche di bassa qualità per creare modelli 3D ultrarealistici di un volto, secondo le ricerche pubblicate su arxiv.org da Hao Li e colleghi. In tutti questi casi le questioni etiche sembrano venire dopo le applicazioni ludiche o di business: che si tratti di co struire dialoghi virtuali tra “amici” nei social del futuro o con personaggi storici scomparsi, o di migliorare le animazioni degli avatar in videogiochi e flm. Nessuna delle ripetute richieste di commento dell’Espresso sulle applicazioni propagandistiche delle tecnologie di questi soggetti è andata a buon fne. Solo David Hogg, dell’Università di Leeds, ha voluto spiegare cosa comporta davvero lavorare alla creazione di una “immortalità virtuale”: ovvero manipolare, come nel suo più recente studio, il celebre Joey della serie tv “Friends”, e fargli pronunciare – proprio come lo farebbe lui – battute che non ha mai recitato, dandogli così vita eterna. Ma è solo l’inizio. La promessa è «migliorare la resa» della controparte fttizia, «ed estendere il modello all’interazione con persone reali e tra avatar». Che signifca? Per esempio, risponde Hogg, «avere l’imma gine di qualcuno appesa al muro e interagirci dicendogli qualcosa». Certo, aggiunge lo studioso, i risultati prodotti attualmente dal suo metodo non sono buoni abbastanza da immaginare usi propagandistici che ingannino le folle. «Ma assumendo che la qualità migliori, come è quasi certo», quegli usi diventano possibili. Per Hogg è da subito una questione morale: «Finora la mia maggiore preoccupazione è stata il lato emotivo coinvolto nell’interagire con persone care», ma virtuali: «Può essere decisamente inquietante”, ammette. Altri colleghi sono più scettici. Phillip Smith, Senior Fellow in un progetto di Mozilla sulla disinformazione online, l’Infor mation Trust Initiative, spiega che «ci vorranno ancora molti, molti anni afnché siano disponibili strumenti economici per manipolare video e audio con il grado di dettaglio necessario a sfuggire al riconoscimento». E del resto, chiede via mail, «ci si è forse posti le stesse domande quando strumenti per la mani polazione fotografca come Photoshop sono stati immessi nel mercato?». Eppure anche se, dice, «la natura della disinformazione non è mutata» con l’era dei social network, a essere cambiato è il “volume” di disinformazione che oggi è possibile produrre. «E c’è la possibilità che questi nuovi strumenti di manipolazione aggiungano benzina al fuoco». U n rischio più che concreto, se si pensa che il comune denominatore di questi esperimenti sono le reti neurali che hanno conosciuto, negli ultimi anni, uno sviluppo esponenziale. Yoshua Bengio, il docente canadese che ne è tra i padri, pur ricordando che attualmen te siamo fuori pericolo, invita a considerare che «è probabile che entro un paio d’anni avremo imitazioni davvero realistiche sia delle voci che dei volti animati, in cui sarà possibile che qualcuno manipoli cosa viene detto e con quali espressioni del viso». Ma la nostra società, frettolosa e iperconnessa, è pronta ad afrontare una simile minaccia? Gli esperti concordano: no. Tra le soluzioni, Hogg suggerisce di includere flosof morali nei team di ricerca. Bengio propone strumenti tecnologici per riconoscere verità e falsità di un contenuto audio-video. Molti notano che audio e video vedranno diminuire il loro valore probatorio in sede giudiziaria. Ma sono le masse a non essere educate a fronteggiare un’invasione del falso in vista e udito. «Il problema è duplice», dice Charlie Beckett, responsabile di una commissione di studio della London School of Economics de dicata a “Verità, Fiducia e Tecnologia”: «Come incentivare le piattaforme a destinare risorse» per strumenti di fact-checking e «come assicurarsi che producano giudizi esatti»; e «come contribuire a istruire il pubblico» a farlo da sé. Una «sfda stra tegica per le piattaforme stesse, ma anche per editori, educatori, organizzazioni politiche», dice Beckett. La pochezza del dibattito sulle “fake news” non lascia ben sperare.