đ¤ ChatGPT è arrivato al Festival? đ¤ â Legge Zero #SanremoEdition
L'IA è ovunque, forse anche nelle canzoni del Festival. In questo numero speciale abbiamo provato a capire quali regole si applicano (dell'UE, delle piattaforme, di Sanremo).
Premessa uno. Sono un nerd e quindi mi diverto a provare tool e sistemi di intelligenza artificiale (da quelli per la generazione delle immagini a quelli per lâinterpretazione dei sogni).
Premessa due. I tool di intelligenza artificiale, compresi quelli che si utilizzano per verificare se un contenuto è stato generato dallâIA, non funzionano sempre benissimo. Lo so bene.
Premessa tre. Sono un avvocato e quindi, come capirete, le premesse erano inevitabili.
Ă iniziata la settimana del Festival di Sanremo, quella in cui il Paese si ferma e si parla (quasi) solo di quello che accade sul palco dellâAriston. Anche online, anzi, soprattutto online. La settimana in cui Sanremo è politica, cronaca, costume, cultura, spettacolo. Ne parlano tutti, anche chi non lo guarda.
Visto che mi interesso di intelligenza artificiale anche per lavoro (premessa uno), da alcuni mesi mi sono chiesto se - nella prima edizione del Festival dopo il boom dellâIA generativa - qualcuno degli artisti e degli autori avrebbe utilizzato ChatGPT o altro tool per scrivere parole e musica delle canzoni in gara.
CosĂŹ ho pensato che, appena sarebbero stati pubblicati i testi dei pezzi sanremesi, li avrei verificati con alcuni degli strumenti che servono a fare âdetectionâ, cioè a riconoscere - sempre su base probabilistica - se un contenuto è stato generato da IA. Questi tool funzionano assegnando al contenuto una percentuale che corrisponde alla probabilitĂ che lo stesso sia stato generato tramite unâIA.
Si tratta di strumenti non sempre affidabili (premessa due) per cui ho deciso prima di far creare a ChatGPT (v. 4) una canzone sanremese in modo da comprendere se i tool che avrei utilizzato fossero affidabili.
Per la cronaca, la canzone che ho creato grazie allâIA si intitola âEchi nel silenzioâ.
I primi due tool che ho usato non hanno riconosciuto il contenuto come âAI generatedâ e quindi sono passato oltre. Il terzo, invece, ha rilevato il testo come scritto allâ85% da IA. Verificato che questo strumento funzionava, almeno sulla âmiaâ canzone, lâho provato su tutti i testi di Sanremo 2024 cosĂŹ come pubblicati da TV Sorrisi e Canzoni.
I risultati sono stati interessanti: la gran parte delle canzoni è risultata essere scritta da esseri umani (con percentuali del 100% o molto vicine al 100%).
Sulle trenta canzoni in gara, per nove il tool ha restituito una percentuale di generazione mediante IA superiore al 5%. Di queste nove, sulla base dei risultati del tool, due paiono scritte quasi sicuramente da IA: una allâ84% e lâaltra al 90%. Un risultato significativo se penso che la mia âEchi nel silenzioâ era stata classificata come proveniente dallâIA al 85%. Non dirò quali sono le canzoni, non è importante. Anche perchĂŠ i tool potrebbero essere affidabili solo fino a un certo punto (premessa due).
Quello che è importante, invece, è capire che sicuramente ChatGPT e gli altri strumenti di IA generativa sono arrivati a Sanremo (e non poteva essere diversamente); probabilmente qualcosa di analogo sarà successo con la musica. Sono sicuro che qualcuno tenterà anche questa verifica.
Tra lâaltro, non credo ci sia niente di male. Per gli antichi erano le Muse a sussurrare allâorecchio degli scrittori (âCantami o diva lâira del pelide AchilleâŚâ, era il prompt che Omero diede a Calliope per lâIliade), oggi gli artisti possono contare su nuovi strumenti a supporto della loro creativitĂ . Lâimportante è che la usino per creare - in questo caso - canzoni capaci di farci emozionare, oltre che per vincere il Festival.
Però, proprio perchĂŠ non câè niente di cui vergognarsi, lâuso dellâIA deve essere trasparente. Lo imporrĂ , tra qualche tempo, la normativa europea in materia di intelligenza artificiale (lâAI Act che sarĂ pubblicato tra qualche settimana). Lo renderanno possibile, tra lâaltro, le tecnologie di watermarking (che ci aiuteranno a difenderci dai deepfake). Lo chiedono le stesse condizioni dâuso delle soluzioni di IA generativa.
Ad esempio, i termini dâuso di ChatGPT impongono lâobbligo per lâutente di indicare che il contenuto è generato dall'IA, in modo che tutti possano saperlo. Questo significa che quando invierò la proposta di âEchi nel silenzioâ per il Festival 2025 dovrò scrivere di Belisario E. (generato attraverso GPT 4).
Pertanto, se - e sottolineo se -Â qualcuno degli autori di Sanremo 2024 avesse usato ChatGPT senza indicarlo, avrebbe violato le regole per lâuso del servizio e rischierebbe la chiusura dellâaccount e il ban dai servizi di OpenAI.
Ma avrebbe violato anche il regolamento?
Nelle pagine del documento (disponibile sul sito della Rai e aggiornato per lâultima volta il 29 gennaio 2024) non si trovano indicazioni specifiche sullâuso dellâintelligenza artificiale. Lâuso di questi strumenti sembrerebbe quindi consentito.
Il regolamento richiede che le canzoni partecipanti:
siano nuove;
siano state ideate e realizzate nel rispetto della normativa vigente;
non violino diritti di terzi e che in relazione ad esse i partecipanti âabbiano adempiuto a tutti gli eventuali compensi, spese e oneri di ogni tipo a qualunque titolo dovuti ai soggetti a qualsiasi titolo coinvolti nella realizzazione del testo letterario e della composizione musicaleâ.Â
Le societĂ che erogano i servizi di IA generativa possono essere considerati âsoggetti a qualsiasi titolo coinvolti nella realizzazione del testo letterario e della composizione musicaleâ?
E in ogni caso, chi utilizza una soluzione di IA generativa sa che lo stesso prompt (es. âscrivi una canzone sanremese sullâamore non corrispostoâ) potrebbe portare a un testo simile, se non identico.
Come si comporterĂ la direzione artistica se dovesse essere contestato lâuso dei sistemi di IA? Verosimile che, non essendo vietato, non ci sarebbero conseguenze. CosĂŹ come è verosimile che il prossimo anno il regolamento farĂ espresso riferimento allâIA, ma in che modo?
Si deciderĂ di vietare completamente lâuso di questi sistemi (ammesso che sia possibile)? Si sceglierĂ di imporre la trasparenza, pena lâesclusione? Oppure si indicherĂ una soglia di contributo umano necessario?
In ogni caso, questo potrebbe essere lâultimo anno in cui quando i conduttori annunceranno le canzoni, citeranno i nomi degli autori senza indicare lâIA e i tool utilizzati dagli esseri umani che partecipano al Festival.
đ IA MemeÂ
Qui ci siamo noi di LeggeZero che da stasera seguiremo quello che accadrĂ sul palco del Teatro Ariston di Sanremo.
đ Consigli di lettura: I(T)A 2023: decisioni e orientamenti
Se non vi interessa seguire le canzoni del Festival, oppure se volete capirne di piĂš delle implicazioni giuridiche di algoritmi e sistemi di IA, vi consigliamo la lettura del nostro Report 2023 sulle decisioni dei Tribunali e delle AutoritĂ amministrative indipendenti italiane.
Allâinterno anche una sezione dedicata al diritto dâautore con la segnalazione di una importantissima pronuncia della Corte di Cassazione che ha affermato che lâutilizzo di un software di intelligenza artificiale per la creazione di un contenuto non comporta che lâopera dâintelletto sia priva di carattere creativo.
Un precedente da tenere presente per commentare i primi casi di canzoni scritte con lâaiuto dellâIA.
đŁÂ EventiÂ
L'intelligenza artificiale nella P.A. Opportunità e sfide - Torino, 7.2.2024
AI Festival - Milano, 14-1 .2.2024
Lâintelligenza artificiale a supporto del lavoro parlamentare - Roma, 14.2.2024
Per ora è tutto, torneremo quando sarà finito il Festival. Grazie!