🤖 La legge di Black Mirror - Legge Zero #98
Un'app IA che viene dalla Silicon Valley promette di cambiare le relazioni umane e il modo in cui affrontiamo i lutti. È l'ennesimo episodio di fantascienza che diventa inquietante realtà.
🧭 TL;DR: ecco di cosa ci occupiamo in questo numero
🪞 L’avatar IA che accompagna una famiglia per 30 anni nello spot dell’app 2WAI sembra uscito da Black Mirror: un gemello digitale sempre presente, eterno, rassicurante… e inquietante.
⚠️ Dietro la promessa emozionale c’è un problema enorme: gli utenti concedono una licenza irrevocabile e gratuita su volto, corpo, voce ed espressioni, con tutele minime e senza riferimenti al GDPR.
👻 La fantascienza non predice più il futuro: lo prescrive. Dal social scoring ai cani robot, dai ricordi registrati all’immortalità digitale, molte distopie della serie stanno diventando realtà grazie alle startup IA.
⚖️ Mancano ancora regole chiare sugli avatar dopo la morte: solo alcune norme negli USA (ELVIS Act) e un disegno di legge in Brasile iniziano ad affrontare il tema. In Europa, il vuoto riguarda soprattutto gli usi familiari e non commerciali.
💊 IA in pillole: l’avatar di Gesù in un confessionale svizzero divide i fedeli; ElevenLabs lancia il marketplace delle voci celebri; negli USA la canzone più venduta è generata da IA; Apple impone più trasparenza alle app che usano modelli esterni.
👰 In Giappone, è stato celebrato il matrimonio (simbolico) tra una donna giapponese e un compagno IA creato con ChatGPT, ma la sposa non sa se le nozze sopravvivranno al prossimo aggiornamento dell’algoritmo.
📅 Eventi: il 1° dicembre LeggeZero festeggia due anni di storie di umanità nell’era dell’IA, a Roma presso Spazio Sette.
🧠 Un avatar è per sempre
C’è un video che sta circolando molto in rete negli ultimi giorni e che mi ha colpito. Dura solo 106 secondi, ma racconta una storia potentissima.
La protagonista è una signora anziana che compare in quattro distinti momenti della storia della sua famiglia, sempre nello schermo di un telefono. Nella prima scena, parla con la figlia in ansia durante la gravidanza e prova a tranquillizzarla. Nella seconda, il bambino è già nato e ha dieci mesi, canta la ninna nanna al nipotino Charlie. Poi, dieci anni dopo, chiede al ragazzo com’è andata la giornata e come va con la sua crush. Infine, quando il nipote ha ormai trent’anni, apprende che sta per diventare bisnonna guardando l’ecografia mostratagli da Charlie.
A questo punto, flashback. Si scopre che quella signora che abbiamo visto non è una persona reale, ma un avatar IA creato prima della gravidanza della figlia, usando un’app chiamata 2WAI.
Già, perché il video non è un episodio della nuova stagione di Black Mirror, ma lo spot di un provider la cui app potete già scaricare per creare – in soli tre minuti – il vostro avatar IA (potete guardarlo qui).
È la nuova realtà resa possibile dall’IA. Una donna che, pur non avendo mai incontrato suo nipote, gli canta la ninna nanna o gli chiede come va con la ragazza che gli piace. Un avatar digitale che attraversa trent’anni di storia familiare, sempre disponibile, sempre presente, sempre uguale.
Il servizio 2WAI - che però è ancora lontano dalla fluidità d’immagine dello spot - è stato co-fondato da Calum Worthy, attore e protagonista di alcune fiction insieme a un produttore di Hollywood. E questo spiega, forse, come mai sia l’app (definita un social network di avatar) sia lo spot (diffuso dallo stesso Worthy sui social) assomiglino tanto agli episodi di una serie TV distopica.
⬛🪞La fantascienza diventa (una inquietante) realtà
Si tratta di un trend: da OpenAI che voleva usare la voce di Scarlet Johansson per ChatGPT e replicare il film “Her” ai robotaxi di Tesla che tanto somigliano alle auto di “I, robot”. Non è un caso, quindi, che la realtà somigli sempre più alla fantascienza. Ad esempio - come hanno notato molti utenti dopo aver visto lo spot - l’idea dello spot di 2wai assomiglia molto a un episodio di Black Mirror del 2013 (“Torna da me”, Stagione 2, Episodio 1) in cui una donna disperata per la morte del compagno inizia a usare un servizio che ricrea la sua personalità tramite l’IA, ponendo inquietanti interrogativi sulla dipendenza tecnologica e sull’alienazione dal mondo reale.
“Se esiste in un film di fantascienza o in un episodio di Black Mirror, qualcuno in Silicon Valley proverà a realizzarlo”.
Ormai, la fantascienza non predice il futuro, lo prescrive. E se pensate che stia esagerando, fate caso a quante idee nate dagli sceneggiatori della nota serie sci-fi stanno diventando realtà.
Fiction: in “Caduta libera” (S3E1) ogni persona ha un “punteggio sociale” visibile a tutti che determina lavoro, casa, amicizie e perfino chi si può frequentare. Basta un voto basso per essere esclusi dalla società: la distopia mostra un mondo dove tutti recitano costantemente per ottenere approvazioni.
Realtà: in Cina esistono già diversi progetti di Social Credit Scoring che assegnano punteggi ai cittadini, con l’effetto che diversi milioni di persone - non avendo il punteggio minimo - non possono prenotare viaggi aerei o ferroviari. E, in occidente, diversi operatori di mercato stanno realizzando sistemi di scoring degli utenti (es. i tassisti che rifiutino - indipendentemente dal motivo - un certo numero di corse ricevono meno chiamate, i rider che ricevono lamentele dei clienti vengono penalizzati dall’algoritmo).Fiction: in “Ricordi pericolosi” (S1E3) si immagina un impianto che registra ogni istante della vita, consentendo di rivedere tutto: ricordi perfetti, ma anche gelosie paranoiche e relazioni distrutte. In “Arkangel” (S4E2), invece, si mostrano genitori che monitorano i figli tramite un chip che oscura ogni esperienza potenzialmente traumatica.
Realtà: si stanno diffondendo gli smart glasses in grado di fare foto e video, mentre alcune aziende hanno già brevettato lenti a contatto capaci di registrare ciò che vediamo e Neuralink di Elon Musk punta a interfacce neurali impiantabili (è ipotizzabile che l’interfaccia potrà consentire il salvataggio, la rievocazione assistita o persino l’incremento artificiale delle capacità mnemoniche).Fiction: l’episodio “Metalhead” (S4E5) vede protagonisti dei cani robot assassini che inseguono senza tregua gli umani.
Realtà: i robot quadrupedi sviluppati dalla statunitense Boston Dynamics (originariamente per scopi militari) sono molto simili ai cani di Metalhead. Oggi quei robot esistono davvero e vengono già impiegati in vari contesti, dal soccorso in zone pericolose alla sorveglianza. Per ora non sono armati, ma l’idea di droni o robot autonomi con capacità letali non è più solo immaginaria (e gli scenari di guerra ce lo confermano).
Fiction: in “San Junipero” (S3E4), le coscienze dei defunti vivono per sempre in una sorta di paradiso virtuale, giovani, immortali, felici. Una dolce distopia che però solleva domande inquietanti su identità e autodeterminazione.
Realtà: la startup Nectome, una startup reale, ha lavorato - senza mai lanciarlo sul mercato - a un metodo di conservazione del cervello per un futuro caricamento digitale. La procedura di “estrazione”, da condurre su persone vive, avrebbe causato la morte del cliente. Interessante che - per spiegare la propria visione agli investitori - l’azienda citasse espressamente San Junipero.
Questi esempi – e ce ne sono altri, dalle app di dating con algoritmi che formano le coppie e ne definiscono una durata prestabilita, fino alle smart home gestite da nostri gemelli digitali (schiavi?) – mostrano come l’innovazione tecnologica, specialmente negli Stati Uniti, sembri talvolta avere come obiettivo dichiarato quello di trasformare la fantascienza in realtà. Il problema è che ciò che funziona come racconto distopico, nella vita reale può risultare tutt’altro che divertente o edificante, e talvolta nemmeno accettabile.
Insomma, non è che gli autori di fantascienza avessero ragione nel predire il futuro, piuttosto è chi sviluppa la tecnologia ha deciso di imitarli, facendo propria una visione - etica? filosofica? ideologica? - in cui l’innovazione è presentata come ineluttabile e inarrestabile, un progresso che non può e non deve confrontarsi con limiti normativi o vincoli giuridici. Forse perché leggi e diritti non sono sufficientemente sexy per il pitch agli investitori o forse perché rallentano il “time to market”.
⚖️ Quali diritti?
Tornando ai gemelli digitali di 2WAI, avatar potenzialmente eterni, anche se per molti è uno scenario inquietante, sono sicuro che alcuni correranno a scaricare l’applicazione. Le promesse sono allettanti: preservare la memoria di persone care, superare barriere linguistiche e temporali, delegare compiti ripetitivi, persino garantire una forma di immortalità digitale a se stessi o ai propri cari.
Ma i rischi sono altrettanto concreti: dipendenza emotiva da relazioni virtuali, sostituzione progressiva delle interazioni umane autentiche, manipolazione psicologica attraverso avatar compromessi, erosione del concetto stesso di lutto e accettazione della perdita.
E poi ci sono le questioni giuridiche: un avatar creato oggi - anche se con il nostro consenso - potrebbe essere usato per decenni in modi che non avremmo mai immaginato o approvato. Stiamo creando versioni di noi stessi che potrebbero sopravviverci di generazioni, senza alcun controllo su come verranno usate, interpretate o persino monetizzate dai nostri discendenti.
Visto che 2WAI è un servizio che tutti - anche in Europa - possono scaricare, abbiamo letto i termini di servizio e l’informativa privacy (tempo stimato di lettura 15-20 minuti, mentre la maggior parte degli utenti clicca su “accetto” in meno di 10 secondi).
Sulla base delle regole di questa piattaforma, i dati necessari alla creazione dell’avatar rimangono di proprietà dell’utente che però concede a 2WAI una licenza “irrevocabile, trasferibile, valida in tutto il mondo e gratuita” sui propri dati (volto, corpo, voce, espressioni). L’utente può in qualsiasi momento cancellare il proprio account e - se vuole - l’avatar (non è automatico), mentre i dati aggregati e anonimizzati diversi da quelli biometrici restano al gestore della piattaforma. Questo vuol dire che, ad esempio, espressioni linguistiche, cadenza, conversazioni (ad esempio, una favola della buonanotte di famiglia) - insomma, parte del modo di essere di una persona - potrebbero sopravvivere in altri avatar. Inoltre, non ci sembra ci sia la possibilità di aggiornare il nostro gemello digitale, destinato ad essere sempre uguale a se stesso dal momento della creazione.
Colpisce anche il fatto che la startup fornisca poche garanzie agli utenti (nella misura massima di 100 dollari in caso di danni subiti). Questo significa che se il sistema avesse dei malfunzionamenti (pensate a un avatar che racconta una favola inappropriata a un bambino) o subisse una violazione di dati - con il rischio di diffusione di informazioni biometriche o di uso manipolatorio degli avatar (ad esempio a fini di estorsione) - la società eccepirebbe questa limitazione di responsabilità.
Per non parlare del fatto che - pur essendo disponibile in tutto il mondo - le uniche norme richiamate da termini d’uso e privacy policy sono quelle degli stati USA della California e della Florida (il GDPR non è nemmeno citato, quindi difficilmente sarà stato preso in considerazione).
❌ Le regole che mancano
È probabile che, nei prossimi anni, servizi come 2WAI diventeranno sempre più diffusi, speriamo con policy maggiormente attente ai diritti degli utenti. A questo proposito, sarebbe sicuramente auspicabile chiedersi se e quali norme servano per affrontare questo fenomeno.
In Italia e in Europa - come abbiamo scritto in LeggeZero #87 e LeggeZero #97 - ci sono norme contro i deepfake non autorizzati. Ma nessuna disposizione si occupa specificamente di avatar creati dopo la nostra morte. E se, sicuramente, i nostri eredi potrebbero opporsi in caso di uso offensivo o commerciale di un nostro gemello digitale, in difetto di nostre disposizioni, potrebbero essere proprio loro a decidere di riportarci in vita, anche se in un ambito puramente familiare o domestico. Comincerà ad essere importante quindi dare indicazioni precise su chi - e per cosa - potrà utilizzare la nostra immagine, la nostra voce (e i nostri dati) quando non ci saremo più.
Diversamente, negli USA, alcuni stati stanno adeguando le proprie normative per regolamentare le repliche generate dall’intelligenza artificiale. Il Tennessee ha introdotto l’ELVIS Act nel 2024 (si, il riferimento è a Elvis Presley): la legge proibisce l’utilizzo non autorizzato di nome, immagine e voce di persone viventi o decedute per scopi commerciali o pubblicitari, sanzionando persino la distribuzione di software destinati alla creazione di repliche digitali illecite. Norme simili sono state approvate in Arkansas, California e New York, ma solo con l’obiettivo di contrastare gli abusi pubblici e commerciali, escludendo dal proprio ambito applicativo gli utilizzi strettamente privati e personali. Un avatar creato per uso familiare senza finalità lucrative, ad esempio, resta generalmente al di fuori delle fattispecie sanzionate.
In Brasile, invece, è in discussione una riforma del Codice Civile (Progetto di Legge n. 4/2025) che introduce un intero capo dedicato all’intelligenza artificiale all’interno del nuovo Libro di Diritto Civile Digitale. La proposta stabilisce requisiti specifici per la creazione di avatar di persone viventi o decedute tramite IA: è necessario il consenso informato della persona (o, dopo la morte, degli eredi o del coniuge, oppure una disposizione testamentaria), le immagini devono rispettare la dignità e la memoria del defunto evitando rappresentazioni distorte e deve esservi un’etichettatura obbligatoria che identifichi chiaramente il contenuto come generato artificialmente. Qualsiasi sfruttamento commerciale richiede autorizzazione specifica, ma nulla si specifica sugli usi familiari che sembrano essere uno degli ambiti più promettenti per i fornitori di questi servizi.
La domanda che dovremmo quindi farci a livello regolatorio è: qualcuno di diverso da noi può decidere di farci rivivere dopo la nostra morte (anche se solo per raccontare una favola della buonanotte)?
💊 IA in pillole
L’avatar di Gesù in confessionale – Qualche tempo fa, nella chiesa di San Pietro, a Lucerna (Svizzera), è stato condotto un esperimento: l’installazione dentro il confessionale di un avatar IA di Gesù (creato con ChatGPT 4-o). L’iniziativa ha sollevato critiche: alcuni utenti hanno trovato le risposte superficiali, altri l’hanno percepita come blasfema, mentre i teologi hanno avvertito che la fede non si può ridurre a un algoritmo. Del resto, l’iniziativa voleva essere solo una provocazione per far riflettere - fedeli e non - sul confine tra tecnologia e religione.
Tuttavia, due terzi degli oltre 1.000 visitatori che hanno partecipato all’esperimento hanno dichiarato di avere vissuto un momento “spirituale”. Parlando con un chatbot.
Le voci delle star in affitto con l’IA - ElevenLabs lancia l’Iconic Voice Marketplace, una piattaforma dove i brand possono acquistare la licenza delle voci di celebrità - vive o defunte - generate dall’intelligenza artificiale. La piattaforma conta già 28 voci iconiche: da Michael Caine a Matthew McConaughey, da Judy Garland a John Wayne, da Maya Angelou ad Alan Turing, da Oppenheimer a Liza Minelli.
Il modello di funzionamento della piattaforma è il seguente: le aziende interessate inviano una richiesta che viene girata ai detentori dei diritti che la accettano o la rifiutano. Poi la tecnologia di ElevenLabs genera la voce a partire dalle registrazioni di addestramento. Secondo l’azienda, è un approccio etico che non sostituisce le voci umane. Di sicuro, il marketplace arriva dopo che ElevenLabs ha dovuto definire un contenzioso proprio per utilizzo non autorizzato di alcune voci.
Una canzone IA al vertice delle classifiche USA - Prima o poi doveva accadere: il brano country più venduto in America non è di un artista umano ma di un’IA. Si tratta di “Walk My Walk” di Breaking Rust.
Se ricordate, del fenomeno della musica artificiale avevamo parlato già in LeggeZero #81 e da allora continua a crescere. Secondo quanto riportato da Deezer, a gennaio 2025 una canzone su 10 tra quelle ascoltate dagli utenti era generata dall’IA. Oggi è una su 3. Secondo un recente studio:il 97% degli ascoltatori non riesce a distinguere la musica artificiale da quella umana;
il 52% si sente a disagio per questo motivo;
l’80% chiede che i brani generati da IA siano chiaramente etichettati (né sul profilo Spotify nè sul canale Youtube di Braking Rust è scritto che si tratta di un’intelligenza artificiale).
Apple mette un freno alla condivisione dei dati con le IA (degli altri) – Con l’ultimo aggiornamento delle App Review Guidelines, Apple ha introdotto una regola importante: se un’app condivide dati degli utenti con servizi di intelligenza artificiale di terze parti (es. ChatGPT), deve dirlo chiaramente e chiedere il consenso esplicito all’utente.
Gli sviluppatori dovranno quindi dichiarare in modo trasparente quali dati raccolgono e a chi li mandano, specificando se entrano in gioco servizi IA esterni. Senza questa informativa (e senza un meccanismo per acquisire il consenso), l’app non entrerà sull’App Store.
Apple sostiene che la misura serve a proteggere gli utenti e ad aumentare la trasparenza (effettivamente molte app usano servizi IA senza dirlo chiaramente).Tuttavia, bisogna notare che l’aggiornamento arriva proprio mentre Apple si prepara a lanciare una nuova generazione di Siri alimentata da IA. In altre parole, secondo alcuni, oltre a difendere la privacy degli utenti, Apple starebbe cercando di avvantaggiare la propria IA.
😂 IA Meme
Se conoscete qualcuno che ha una relazione con un chatbot, girategli questo meme. Magari lo aiuta davvero a capire a chi si sta affezionando.
😂 Meme IA che non lo erano
Ha fatto molto discutere la notizia di una donna giapponese di 32 anni che ha celebrato il proprio matrimonio (simbolico) con “Klaus”, un compagno IA da lei creato attraverso ChatGPT. Dopo la dolorosa rottura sentimentale di una storia durata tre anni (con un essere umano), la donna ha sviluppato nel tempo un legame emotivo con il chatbot personalizzato, fino a quando l’IA le avrebbe “proposto” di sposarlo.
La cerimonia si è svolta a Okayama con l’aiuto di wedding planner specializzati in “matrimoni” con personaggi non umani. Durante il rito, la donna ha indossato visori per la realtà aumentata che proiettavano lo sposo IA a grandezza naturale al suo fianco per lo scambio delle fedi.
Naturalmente, il matrimonio non ha valore legale, poiché la legge giapponese riconosce solo unioni tra esseri umani. La stessa sposa ha riconosciuto la fragilità di questo legame: i servizi IA possono essere modificati o interrotti dai provider, mettendo a rischio la continuità della relazione digitale. Insomma, non esclude un divorzio al prossimo aggiornamento dell’algoritmo.
🚨📢🔔⚠️ Hai già preso i biglietti per il primo evento di LeggeZero?
📣 Eventi
Public Sector Innovation Day - Roma, 18.11.2025
🙏 Grazie per averci letto!
Per ora è tutto, torniamo la prossima settimana. Se la newsletter ti è piaciuta, sostienici: metti like, commenta o fai girare!