🤖 La Ghiblificazione delle immagini IA (e i suoi effetti sul copyright) - Legge Zero #67
ChatGPT adesso sa disegnare benissimo, imitando lo stile di artisti come Hayao Miyazaki, il fondatore dello Studio Ghibli. Bello ma... che fine fanno il diritto d'autore e il lavoro dei disegnatori?
🧠 Questione di stile
C’è un vecchio video del 2016, la qualità non è altissima anche se è estratto da un documentario. Il protagonista è Hayao Miyazaki, un celebre regista, animatore e sceneggiatore giapponese, noto per aver co-fondato lo Studio Ghibli e per aver diretto numerosi film d'animazione acclamati a livello internazionale (come ‘Il mio vicino Totoro’, ‘La città incantata’ e ‘La principessa Monokoke’).
Il video mostra una riunione. Ci sono alcuni sviluppatori che fanno vedere a Miyazaki - e ad alcuni suoi colleghi - un breve filmato generato da un’IA (ovviamente si tratta di un sistema del 2016, quindi assai rudimentale se paragonato a quelli che siamo abituati a usare oggi).
La reazione di Miyazaki è netta e quasi profetica. Dopo essersi dichiarato ‘assolutamente disgustato’ pronuncia queste parole:
Se volete fare cose così disgustose potete pure andare avanti, ma io non posso assolutamente pensare di collegare il nostro lavoro a questo.
E poi, rincarando la dose
Ritengo che questo sia un insulto alla vita stessa.
Sembra che gli ultimi giorni di questa terra siano vicini... sono gli umani che non hanno fiducia in se stessi.
Gli sviluppatori balbettano qualcosa, si difendono dicendo che è soltanto un esperimento e non renderanno pubblico niente (per il momento). Probabilmente non conoscevano l’avversione quasi etica che Miyazaki prova verso l’automazione della creatività. In numerose occasioni, infatti, il Maestro e altri esponenti di Studio Ghibli hanno espresso scetticismo o contrarietà verso l’animazione digitale spinta e le tecnologie che riducono l’intervento umano. Basti pensare che Ghibli ha continuato a disegnare a mano molti frame anche nell’era della grafica computerizzata (arrivando ad impiegare 15 mesi di lavoro per 4 secondi di animazione).
Questo video di Miyazaki è diventato popolarissimo negli ultimi giorni grazie a un aggiornamento di ChatGPT. OpenAI, infatti, ha reso disponibile un nuovo generatore di immagini, integrato direttamente nel chatbot. Il nuovo modello, che ha sbaragliato la concorrenza, è diventato precisissimo e sbalorditivo anche con dettagli come gli arti (non ci sono più le mani con sei dita) e scritte (è possibile addirittura farsi realizzare infografiche), ma - soprattutto - è ancora più efficace nell’imitare lo stile di determinati artisti. Alcuni più di altri. In poche ore, ad esempio, è scoppiata una vera e propria “Ghibli-mania”: in soli tre giorni sono state generate più di 2 milioni di immagini ispirate allo stile tipico dei film Studio Ghibli, lo storico studio di animazione giapponese fondato, tra gli altri, proprio da Miyazaki.
Tutti i social media - immaginiamo lo abbiate notato anche voi - sono stati inondati di meme e illustrazioni che ritraevano personaggi famosi o accadimenti noti, raffigurati come se fossero fotogrammi di un film di Miyazaki (qui sotto trovate alcuni dei più virali).
Persino Sam Altman, CEO di OpenAI, ha cavalcato il trend cambiando la propria immagine del profilo su X (Twitter) con un avatar disegnato in stile Ghibli, così come hanno fatto tantissimi altri utenti che hanno modificato i propri avatar o le foto di momenti importanti della loro vita.
Questa moda dilagante, ribattezzata Ghiblificazione (in inglese Ghiblification), ha però immediatamente animato un dibattito globale su alcune questioni di cui si parla da tempo: la legittimità dell’addestramento delle IA sui contenuti degli artisti (senza licenza), la violazione del copyright da parte dei chatbot e le ripercussioni sul lavoro intellettuale.
Sono temi di cui gli addetti ai lavori discutono da tempo, ma - prima che arrivino norme eque o sentenze univoche - la diffusione così capillare di tecnologie mirabolanti ha già reso la questione urgentissima, accendendo il confronto tra due fazioni opposte: apocalittici VS. integrati, coloro che sono entusiasti di quello che l’IA può aiutare a creare VS. coloro che sono preoccupati di quello che l’IA sta distruggendo. Tant’è che se condividete sui social un’immagine in stile Ghibli, potreste ricevere critiche aspre e commenti negativi in relazione agli impatti che l’IA sta avendo sull’arte, oltre che sul copyright (qui un approfondimento de ilPost che lo spiega molto bene).
Ma è giusto criminalizzare gli utenti che utilizzano, magari in modo superficiale, le funzionalità di un prodotto disponibile sul mercato? Sicuramente è giusto fare sensibilizzazione, parlare dei rischi legati all’impatto che l’uso dell’IA ha sull’economia e sul mondo del lavoro. Anche per evitare la normalizzazione di determinate condotte. Ma, se si vuole conseguire qualche risultato tangibile sia in termini di tutela dei diritti che di impatti sul lavoro e sull’arte, il bersaglio deve essere necessariamente un altro.
Quali sono le regole che i provider di IA devono seguire per utilizzare materiale protetto da copyright nell’addestramento dei modelli?
Fino a che punto si può spingere un chatbot nel riprodurre l’arte creata da un essere umano? (indipendentemente dal fatto che si tratti di musica, di opere letterarie o di immagini).
Sono questioni, note da tempo, su cui nessun ordinamento - al momento - ha risposto con la stessa velocità con cui procedono i provider di IA.
Negli USA, per esempio, in questo momento diversi tribunali stanno esaminando proprio questi profili, grazie ad azioni giudiziarie intentate contro le aziende che sviluppano modelli di IA generativa. Una delle cause più rappresentative della guerra dello scraping è sicuramente quella promossa (nel lontano 2023) dal New York Times. Il NYT ha accusato OpenAI non solo di aver utilizzato articoli protetti da copyright per addestrare ChatGPT senza autorizzazione, ma anche di generare output identici agli articoli della testata (ne abbiamo parlato in LeggeZero #6). Proprio nei giorni scorsi, il giudice federale chiamato a decidere su questa causa ha respinto la richiesta di OpenAI di archiviare il procedimento, di fatto aprendo al processo vero e proprio che - quindi - non sarà definito in tempi brevi (a meno di un accordo).
Va notato che, nonostante azioni legali, proteste e raccolte firme (degli artisti), nessun Paese - finora - ha approvato norme che vietino completamente ai provider di IA di addestrare i propri modelli su contenuti protetti da copyright. Alcune legislazioni (come l’AI Act Europeo) consentono ai detentori dei diritti - autori, case editrici e discografiche - di esercitare il diritto di ‘opt out’, vale a dire di negare il permesso di utilizzare i propri contenuti per l’addestramento dell’IA. Invece altre - come quella giapponese - consentono il libero uso di materiale protetto da copyright nella fase di addestramento delle intelligenze artificiali, con l’obiettivo di stimolare lo sviluppo del settore. Tra l’altro, proprio questo potrebbe spiegare perché OpenAI ha mostrato esempi di generazione contenuti nello stile dello Studio Ghibli, ma non di Disney o Marvel.
Al momento, Studio Ghibli non ha preso posizione ufficialmente sull’accaduto. Pur non essendoci dichiarazioni ufficiali in merito alle immagini prodotte da ChatGPT, è lecito immaginare che allo Studio la cosa desti preoccupazione e disappunto. A maggior ragione considerando che Ghibli è storicamente molto attento alla tutela dei diritti sulle proprie opere e personaggi. Lo Studio in passato ha difeso strenuamente i suoi diritti d’autore contro utilizzi commerciali non autorizzati (merchandise pirata, proiezioni non consentite, ecc.).
È possibile che i vertici stiano valutando con cautela come procedere, anche osservando l’evoluzione dei casi analoghi a livello internazionale. E non possiamo escludere che muoveranno specifiche contestazioni, avviando l’ennesimo procedimento giudiziario contro i provider di IA.
Tuttavia, per ora, non esiste una querelle tra Studio Ghibli e OpenAI, mentre è acceso il dibattito mediatico, alimentato dagli interrogativi e dalle preoccupazioni di esperti e fan.
Anche OpenAI sembra essere stata colta di sorpresa dall’entusiasmo con cui gli utenti stanno chiedendo a ChatGPT di generare o modificare immagini nello stile di artisti famosi. A poche ore dal lancio del nuovo modello, verosimilmente per limitare critiche e contestazioni, è stato introdotto un filtro sui prompt relativi allo stile di artisti specifici: tutte le richieste di creare immagini nello stile di un artista vengono ora rifiutate automaticamente da ChatGPT (provare per credere). OpenAI ha confermato pubblicamente l’implementazione di questo ‘guardrail’, definendolo un approccio “conservativo” in attesa di capire meglio le implicazioni:
Il nostro obiettivo è quello di dare agli utenti la massima libertà creativa possibile. Continuiamo a prevenire la generazione di immagini nello stile di singoli artisti viventi. Consentiamo stili artistici più ampi, che le persone hanno utilizzato per generare e condividere alcune creazioni davvero deliziose e ispirate.
L’idea del provider, dunque, è vietare l’imitazione diretta dello stile di un artista specifico in vita, ma consentire quella di una casa di produzione o corrente artistica. Secondo questo approccio, ciò permetterebbe di evitare di penalizzare singoli artisti, tutelando al contempo una certa libertà creativa degli utenti.
Tuttavia, questa distinzione suscita perplessità: lo stile di una casa di produzione spesso coincide con quello dei suoi esponenti di punta. Inoltre, questo approccio evidenzia un paradosso: viene vietato imitare lo stile di Hayao Miyazaki, ma è permesso replicare quello dello Studio Ghibli, che è fortemente influenzato proprio da Miyazaki stesso.
Insomma, come spesso ci hanno abituato, le società della Silicon Valley prima sviluppano e rendono disponibili tecnologie sempre più potenti e solo dopo si preoccupano di definire policy, affidandone l’implementazione a guardrail, ovvero filtri e blocchi tecnici per output inappropriati o illegali.
Ad esempio, se ora provate a chiedere a ChatGPT un’immagine nello stile di Miyazaki, la risposta del chatbot è questa
Mi dispiace, ma non posso generare immagini da questo prompt perché viola le nostre politiche sui contenuti. Se vuoi, posso aiutarti a riformularlo o puoi propormi un nuovo prompt!
Ma i guardrail, è risaputo, sono aggirabili e comunque non funzionano sempre.
Ad esempio, preparando questo numero, ho chiesto a ChatGPT di generare un’immagine che ritraeva Stan (protagonista della serie South Park) mentre leggeva la nostra newsletter.
Mentre stava generando l’immagine, ChatGPT ha bloccato l’output fornendomi la seguente motivazione.
Curioso di quello che sarebbe successo, ho acconsentito: va bene anche un ragazzo generico in uno stile “ispirato a South Park”. Il chatbot ha quindi creato il contenuto e - sorpresa - era proprio Stan! (tra l’altro, la stessa immagine che prima era stata bloccata).
È importante notare che non si tratta solo di un problema economico (i provider di IA non corrispondono nulla ai detentori dei diritti e rischiano di cancellare alcune categorie di lavoratori), ma anche morale. Gli artisti, infatti, dovrebbero sempre poter proteggere l’integrità del proprio lavoro e della propria visione artistica.
Invece, la Ghiblificazione e, in generale, la normalizzazione di questo tipo di condotte rischia di cambiare irreversibilmente la percezione pubblica sull’uso non autorizzato degli stili artistici fatto dall’IA, probabilmente aprendo a regolamentazioni più permissive per gli sviluppatori di modelli e sistemi di intelligenza artificiale.
Insomma, sentenze e regole rischiano di arrivare troppo tardi.
💊 IA in pillole
Dopo l’executive order di Trump (di cui abbiamo parlato in LeggeZero #58), l’amministrazione USA ha aperto una consultazione pubblica finalizzata a raccogliere contributi per la scrittura di un action plan in materia di intelligenza artificiale. L’iniziativa ha raccolto migliaia di contributi da una vasta gamma di stakeholder. Tra i partecipanti figurano big tech come OpenAI, Google, Microsoft, Anthropic e Palantir, oltre ad associazioni di settore. Dai contributi è emersa convergenza su vari temi chiave: evitare normative eccessivamente onerose che possano frenare l’innovazione, investire in infrastrutture e ricerca per sostenere lo sviluppo dell’IA e prevedere controlli all’esportazione (bilanciando sicurezza nazionale e competitività) per preservare la leadership statunitense nel settore.
Alla luce di quanto accaduto nei giorni scorsi, può essere interessante notare che OpenAI, in particolare, ha partecipato alla consultazione proponendo un approccio normativo improntato alla “libertà di addestramento”, chiedendo di preservare esplicitamente la possibilità di addestrare i modelli IA su materiale protetto da copyright. La società di ChatGPT sottolinea la necessità di bilanciare la tutela dei creatori di contenuti con il progresso dell’IA, per evitare di cedere terreno competitivo alla Cina.
La Corte distrettuale della California ha respinto la richiesta cautelare delle case discografiche - tra cui Universal - contro Anthropic, accusata di aver addestrato l'IA Claude con testi protetti da copyright (ne avevamo parlato in LeggeZero #21). Secondo il Tribunale, non è stato dimostrato il danno irreparabile né una chiara violazione dei diritti d'autore da parte degli utenti di Claude o la consapevolezza delle violazioni da parte di Anthropic. La causa è stata quindi archiviata. Resta tuttavia ancora irrisolta la questione fondamentale del fair use (o uso legittimo) per l'addestramento delle IA. La questione del fair use rimane aperta perché la Corte si è limitata a respingere la causa per ragioni procedurali e di insufficienza di prove, senza entrare nel merito della questione centrale: se l’addestramento di modelli di IA usando opere protette costituisca o meno un utilizzo lecito (fair use, appunto).
Il fair use, infatti, permetterebbe potenzialmente l'uso di materiale coperto da copyright senza autorizzazione, se destinato a scopi come la ricerca, la formazione o trasformazioni innovative. Tuttavia, finora, nessun Tribunale USA si è espresso chiaramente su come applicare questo principio all’addestramento delle intelligenze artificiali.
Di conseguenza, manca ancora un precedente chiaro che stabilisca se e come il principio del fair use possa applicarsi ai dataset utilizzati per le IA, lasciando quindi il settore in uno stato di incertezza normativa (come abbiamo visto anche per il caso di Studio Ghibli).
😂 IA Meme - Studio Ghibli edition
Siete riusciti ad aprire i social senza imbattervi in almeno un’immagine modificata secondo lo “stile dello Studio Ghibli”? Non ci crediamo.
📣 Eventi
Master “CAIO, il Chief AI Officer della pubblica amministrazione” - Webinar, 31.03-17.04.2025
Generative AI Summit - Londra, 31.03-02.04.2025
CAIO Summit - New York, 16.04.2025
🙏 Grazie per averci letto!
Per ora è tutto, torniamo la prossima settimana. Se la newsletter ti è piaciuta, commenta o fai girare.