🤖I Beatles potrebbero vincere ancora un Grammy (grazie all'IA) – Legge Zero #50
L'ultima canzone dei Fab Four - realizzata attraverso l'IA - è candidata ai Grammy 2025. Una candidatura che riapre il dibattito sull'uso dell'intelligenza artificiale in campo artistico.
🧠 Un piccolo aiuto
I get by with a little help from my friends
(trad. ‘me la caverò con un piccolo aiuto dei miei amici’)
È uno dei versi più famosi di una canzone dei Beatles, canzone contenuta nello storico album ‘Sgt. Pepper's Lonely Hearts Club Band’ del 1967. Il brano sottolinea l'importanza dell'amicizia e della collaborazione per affrontare le sfide della vita.
Un piccolo aiuto è quello che Paul McCartney ha chiesto all’intelligenza artificiale qualche tempo fa per rendere utilizzabile una demo registrata del 1978 da John Lennon (quando la band era già sciolta). Grazie a questo aiuto dell’IA, nel 2023, i Beatles (sopravvissuti) hanno pubblicato una nuova traccia ‘Now And Then’ che - è notizia recentissima - è stata candidata ai Grammy 2025 per due categorie: Record of the Year e Best Rock Performance.
Per recuperare e restaurare la voce di Lennon in modo da utilizzarla nel brano, sono state impiegate tecnologie avanzate che combinano l'intelligenza artificiale con metodi di elaborazione audio. Da un lato, specifici algoritmi di deep learning sono stati addestrati analizzando numerose registrazioni originali per apprendere le peculiarità della voce del cantante. Dall'altro, moderne tecniche di separazione audio hanno permesso di isolare e migliorare la qualità della traccia vocale, preservandone l'autenticità. L'IA ha potuto così ‘imparare’ le caratteristiche distintive del timbro e dell'espressività vocale dell'artista.
Ma è giusto che i Beatles - che si sono sciolti 50 anni fa - competano con artisti del presente come Billie Eilish, Beyoncé e Taylor Swift? Secondo quanto dichiarato dalla Recording Academy, il brano potrà concorrere per i Grammy Awards poiché rispetta i criteri stabiliti dal regolamento. Infatti, sebbene il premio possa essere assegnato esclusivamente a persone fisiche, il regolamento non esclude la partecipazione di opere che contengono componenti realizzate con l'ausilio dell'intelligenza artificiale.
Ma qual è il limite per poter ritenere prevalente il contributo di esseri umani viventi? Quanto è giusto riportare in vita un artista deceduto grazie all’IA (anche se era un amico)? E quando un’opera o una canzone possono ritenersi creative se generate con l’aiuto dell’IA? Sono domande dalla risposta tutt’altro che scontata.
Recentemente, la National Novel Writing Month (NaNoWriMo), un'organizzazione no-profit che promuove una sfida annuale di scrittura di romanzi, ha suscitato polemiche per la sua posizione sull'uso dell'intelligenza artificiale nella scrittura. In una dichiarazione, NaNoWriMo ha affermato di non ‘supportare’ né ‘condannare’ l'uso dell'IA, riconoscendo che per alcuni scrittori tali strumenti possono essere utili. L'organizzazione ha sottolineato che condannare categoricamente l'uso dell'IA ignorerebbe questioni legate al privilegio, poiché non tutti gli scrittori hanno le risorse per assumere assistenti umani.
Questa posizione ha provocato reazioni negative da parte di autori e partecipanti, alcuni dei quali hanno definito la dichiarazione ‘vile, codarda e ingiustificabile’. Alcuni membri del consiglio di NaNoWriMo si sono dimessi in segno di protesta, e uno degli sponsor ha ritirato il proprio sostegno, criticando l'organizzazione per aver trascurato il problema del ‘furto su larga scala delle opere degli autori’ da parte dell'IA.
Se queste reazioni vi sembrano esagerate, leggete questa ricerca. Si tratta di uno studio - pubblicato su Scientific Reports - che ha rivelato che i lettori spesso non riescono già più a distinguere tra poesie generate dall'intelligenza artificiale e quelle scritte da poeti umani (e mostrano una preferenza per le prime). I ricercatori Brian Porter ed Edouard Machery dell'Università di Pittsburgh hanno condotto esperimenti in cui i partecipanti hanno valutato poesie sia di autori celebri come William Shakespeare, Lord Byron, Emily Dickinson e T.S. Eliot, sia generate da ChatGPT 3.5 nello stile di questi poeti. I risultati indicano che le poesie create dall'IA sono state spesso percepite come quelle vere.
Forse abbiamo ancora bisogno di un confine chiaro - e trasparente - tra esseri umani (e le loro creazioni) e IA (usate per innovare anche nel campo creativo). Magari la soluzione più corretta sarebbe avere categorie distinte, dedicate alle creazioni degli esseri umani che si fanno ‘aiutare’ dall’IA.
🔊 Un vocale da… Stefano Gatti (Nexi)
Si parla sempre più di dell'importanza della cultura del dato all'interno delle organizzazioni. Anche nella recente evoluzione e diffusione dell’intelligenza artificiale generativa i dati hanno avuto e stanno avendo un ruolo centrale. Ma cos’è la ‘cultura del dato’? Lo abbiamo chiesto a Stefano Gatti, che ha scritto un libro sul tema (tradotto anche in lingua inglese) e che pubblica da quasi tre anni la newsletter
.
📰 In UK 🇬🇧 arriva Daisy, la nonna IA che fa perdere tempo ai truffatori telefonici
Sappiamo bene che le telefonate dei call center possono essere molto fastidiose e talvolta anche pericolose. È il caso delle chiamate dei truffatori, destinate a colpire specialmente le persone anziane. Per questo motivo, Virgin Media O2 ha realizzato Daisy, un bot IA che finge di essere una nonnina ed è progettata per interagire con i truffatori telefonici, impegnandoli in conversazioni interminabili e inutili (ad esempio può parlare del suo gatto o del tempo, oppure inventare dati bancari inesistenti). Nel corso di un test, una giornalista - fingendosi un’operatrice di call center - le ha chiesto ‘Potrebbe fornirmi la sua data di nascita?’
Daisy fa una pausa. ‘La mia data di nascita... ora fammi pensare. Ricordo di essere nata nel 1945, ma la data esatta... Oh cielo, oggi la mia memoria è un po' annebbiata’. Alla fine, dice ‘Credo che potrebbe essere il 14 giugno. Ti sembra giusto? Era una giornata così bella, me lo ricordo, ma non ne sono del tutto sicura’.
L’IA utilizza un mix di tecnologie di riconoscimento vocale e risposte preprogrammate per mantenere i truffatori occupati il più a lungo possibile, rendendo meno efficace il loro modus operandi. Il progetto s'inserisce in una crescente tendenza a utilizzare l’intelligenza artificiale non solo per scopi produttivi, ma anche per difendere gli utenti da abusi e frodi digitali.
Oltre a essere uno strumento utile per la sicurezza, Daisy rappresenta anche un esempio innovativo di come l’IA possa essere utilizzata per scopi creativi e socialmente utili.
Sarà interessante osservare come questa tecnologia verrà adottata e integrata nei sistemi di sicurezza quotidiani. Nel frattempo, potete divertirvi a vedere come i truffatori perdono le staffe in questo video dimostrativo.
📰 Welfare e IA in Danimarca 🇩🇰: c’è il rischio di discriminazione secondo Amnesty International
Un rapporto di Amnesty International ha acceso i riflettori sul sistema di welfare danese, criticando l’utilizzo di tecnologie di intelligenza artificiale per la gestione delle prestazioni sociali. L’organizzazione ha denunciato che questi sistemi potrebbero alimentare una sorveglianza di massa e discriminare i gruppi più vulnerabili della società.
Secondo Amnesty, la Danimarca ha integrato strumenti di IA per identificare potenziali frodi e allocare risorse del welfare in modo più efficiente. Tuttavia, questi sistemi sembrano basarsi su algoritmi opachi e analisi di dati personali che rischiano di colpire in modo sproporzionato le persone già marginalizzate, come migranti e minoranze etniche. Infatti, il documento evidenzia che gli algoritmi riflettono le norme e i valori dei gruppi dominanti in Danimarca, incorporando, ad esempio, una visione ristretta di cosa costituisca una ‘famiglia’ o un ‘nucleo familiare’ tipico. Questo approccio può discriminare gruppi con strutture familiari o modelli di convivenza diversi, come persone con disabilità, comunità multietniche e anziani.
Nelle 84 pagine del rapporto si sottolinea che, nonostante le buone intenzioni, l’adozione di queste tecnologie senza una valutazione adeguata dei rischi potrebbe violare diritti umani fondamentali, inclusi il diritto alla privacy e alla non discriminazione.
La Danimarca è stata spesso lodata per il suo approccio progressista all’innovazione tecnologica, ma questo caso evidenzia la necessità di bilanciare efficienza e rispetto dei diritti umani. Amnesty ha chiesto maggiore trasparenza sugli algoritmi utilizzati e l’adozione di misure di salvaguardia per evitare abusi o errori.
Un monito per tutte le amministrazioni che intendono integrare l’IA nei servizi pubblici: l’innovazione tecnologica - senza un robusto lavoro su rispetto di norme e principi etici - può trasformarsi in un boomerang sociale.
⚖️ La Commissione Europea 🇪🇺 ha aperto una consultazione pubblica sulla prima bozza del Codice di condotta per i fornitori di modelli di IA generativa
Pochi giorni fa, il 14 novembre, la Commissione Europea ha pubblicato la prima bozza di Codice di Condotta per l’IA con finalità generale, redatto da esperti indipendenti designati dall’AI Office (le cui funzioni abbiamo illustrato in LeggeZero #35).
Obiettivo del Codice di condotta
Fornire linee guida concrete per l'implementazione degli obblighi previsti dall'AI Act, garantendo un approccio proporzionato e attento sia all'innovazione che alla sicurezza.
Contesto normativo
Il Codice attua gli articoli 53 e 55 dell'AI Act relativi agli obblighi per i fornitori di modelli IA general-purpose, in particolare quelli con rischio sistemico.
Punti chiave del documento
Il Codice è stato sviluppato da 4 gruppi di lavoro tematici e si basa su circa 430 contributi ricevuti durante la consultazione degli stakeholder.
Definisce regole per la trasparenza, la valutazione e mitigazione dei rischi sistemici, e gli obblighi di documentazione per i fornitori di modelli IA general-purpose.
Si applicherà a un numero limitato di fornitori di modelli IA di grandi dimensioni (come OpenAI, Google e Anthropic).
Struttura del Codice
Definisce misure dettagliate su temi come:
Documentazione e trasparenza
Copyright
Valutazione e mitigazione dei rischi
Governance e controlli
Obblighi di notifica e reporting
Tempistiche
La consultazione è aperta fino al 28 novembre 2024
La versione definitiva dovrà essere pronta entro il 1° maggio 2025
La bozza rappresenta un primo importante passo verso una regolamentazione dettagliata dell'IA generale a livello europeo, aiutando a comprendere cosa significano - in pratica - i principi definiti dall’AI Act (qui un approfondimento sull’importanza del Codice). Tuttavia, ancora molti aspetti dovranno essere ulteriormente definiti nelle prossime versioni (li trovate come ‘open question’ nel documento).
Se siete interessati a partecipare, potete scaricare il documento qui e inserire il vostro contributo su Futurium (la piattaforma di partecipazione UE).
⚖️ In Senato 🇮🇹 sono stati presentati 409 emendamenti al Disegno di legge del Governo su IA
Ricordate il Disegno di legge presentato dal Governo per regolare l’intelligenza artificiale? (per i meno attenti, lo abbiamo esaminato in LeggeZero #22).
L’iniziativa legislativa è ancora all’esame del Senato della Repubblica dove - dopo la fase delle audizioni - è scaduto il termine per la presentazione degli emendamenti (qui la pagina sul sito del Senato). Gli emendamenti presentati sono davvero tanti: 409, oltre a due ordini del giorno (più di qualcuno ha parlato di ‘pioggia di emendamenti’).
Li abbiamo esaminati per voi - analizzandoli anche con l’aiuto dell’IA (Claude 3.5 Sonnet di Anthropic per l’esattezza) - in modo da verificare quali sono i principali filoni delle proposte di modifica.
Sul fronte della governance, segnaliamo la proposta di istituire un'Autorità nazionale indipendente per l'IA che dovrebbe coordinare e vigilare sull'intero settore. Molti emendamenti mirano anche a rafforzare il coordinamento tra le autorità esistenti come AGCOM, AgID e il Garante Privacy, proponendo la creazione di comitati tecnici e osservatori specifici.
Grande attenzione viene dedicata alla tutela dei diritti fondamentali, con particolare focus sulla protezione dei dati personali e sensibili. Emergono proposte specifiche per tutelare i minori nell'uso dell'IA e contrastare fenomeni come la disinformazione e i deepfake. Viene sottolineata l'importanza della trasparenza algoritmica e della lotta alle discriminazioni.
Il mondo del lavoro rappresenta un altro ambito cruciale: gli emendamenti propongono percorsi di formazione obbligatoria per i lavoratori, tutele contro le discriminazioni algoritmiche e un coinvolgimento dei sindacati nei processi di implementazione dell'IA. Si tenta di regolamentare l'uso dell'IA nelle professioni e di garantire i diritti dei lavoratori rispetto alle decisioni automatizzate.
Sul fronte della proprietà intellettuale, emerge la necessità di tutelare le opere dell'ingegno e di regolamentare l'utilizzo di opere protette per l'addestramento dei sistemi di IA. Vengono proposti sistemi di equo compenso e obblighi di trasparenza sui dati utilizzati.
Viene dato ampio spazio anche agli aspetti sanzionatori, con l'introduzione di nuove fattispecie penali per gli abusi e un sistema articolato di sanzioni amministrative. Si definiscono le responsabilità per i danni causati dall'IA e si propongono meccanismi di risarcimento.
Gli emendamenti toccano poi settori specifici come la sanità (con particolare attenzione alla tutela dei dati sanitari), la giustizia (regolamentando l'uso dell'IA nei tribunali), i media (per i contenuti generati artificialmente) e la pubblica amministrazione.
Non mancano proposte sugli aspetti economici e finanziari, con la previsione di fondi per lo sviluppo dell'IA, incentivi fiscali e sostegno alle imprese, specialmente PMI.
Infine, viene dato rilievo ai sistemi di monitoraggio e valutazione, con la previsione di meccanismi di reporting, valutazioni d'impatto e analisi dei rischi, nell'ottica di una revisione periodica delle misure adottate.
La lettura degli emendamenti riapre una domanda: quali sono le norme necessarie da adottare - a livello nazionale - in questo momento di prima applicazione dell’AI Act? E qual è lo strumento più snello per approvarle? Nelle prossime settimane il Senato esaminerà gli emendamenti e capiremo quanto sarà più intricato il quadro normativo italiano in materia di IA. A questo punto, però, è ragionevole ipotizzare che l’approvazione della legge avverrà nel 2025 (il DDL deve ancora essere esaminato dalla Camera) in modo da consentire all’Italia di individuare tempestivamente l’Autorità competente in materia di IA (il termine stabilito dal legislatore europeo per questo adempimento è agosto 2025).
💊 IA in pillole
Elon Musk - che probabilmente sarà Ministro del prossimo governo Trump - non abbandona il suo contenzioso contro OpenAI e Sam Altman dinanzi al Tribunale della California. Anzi, con un atto recentemente depositato dai suoi difensori, estende le sue accuse anche a Microsoft e altre figure chiave del panorama IA (tra cui Reid Hoffman). Musk sostiene che la transizione di OpenAI da non-profit a colosso del mercato IA - valutato 157 miliardi di dollari - è stata orchestrata violando le leggi vigenti. Per questo motivo, chiede la restituzione dei profitti indebiti e una ristrutturazione per riportare OpenAI alla sua missione originaria.
Qui sotto è possibile scaricare il nuovo capitolo di questa saga giudiziaria.
Anche l’Irlanda si organizza per la piena attuazione dell’AI Act. Il Ministro di Stato per la Promozione del Commercio, la Regolazione Digitale e Aziendale, Dara Calleary, ha pubblicato la lista delle nove autorità pubbliche nazionali responsabili della protezione dei diritti fondamentali in relazione ai rischi posti dall'uso dell'IA. Queste autorità, che comprendono la Commissione per la Protezione dei Dati e l’Ombudsman, riceveranno poteri aggiuntivi per vigilare sull'uso dell'IA, come l'accesso alla documentazione richiesta agli sviluppatori. Il quadro irlandese è molto importante perché - come noto - molti operatori statunitensi hanno deciso di avere in Irlanda la loro sede EU principale e, quindi, le Autorità irlandesi saranno quelle competenti per l’attuazione delle regole europee nei confronti di questi giganti tecnologici.
Ricordate l’immagine simbolo dell’alluvione di Valencia delle scorse settimane? Il Guardian scrive che era tanto nitida e surreale che in tanti hanno pensato fosse un deepfake creato con strumenti come MidJourney o DALL-E. È il segno che il crescente fenomeno dei contenuti generati dall’IA sta già cambiando il nostro modo di percepire la realtà. Solo che ormai dubitiamo delle cose vere e non dei falsi.
L’immagine simbolo della catastrofe naturale di alcune settimane fa a Valencia (Spagna) Misurare il proprio benessere con un selfie. È la promessa di Anura - app per smartphone - in grado di definire l’età dimostrata e una serie di altri parametri come frequenza cardiaca e livello di stress. Secondo i termini di servizio, l’app può essere usata solo da maggiorenni mentre, secondo la privacy policy, la società non conserva i selfie scattati. Se vi fidate, potete provarla qui.
Fonte immagine: Anura
😂 IA meme
‘Se l'unico strumento che hai è un martello, tenderai a trattare tutto come se fosse un chiodo’ scrisse Abraham H. Maslow. Questa vignetta di Tom Fishburne evidenzia il rischio di vedere nell'intelligenza artificiale una soluzione universale, dimenticando che ogni problema richiede un approccio specifico e strumenti adeguati.
😂 meme IA … che non lo erano
Questo è per te, essere umano. Solo per te. Non sei speciale, non sei importante e non sei necessario. Sei una perdita di tempo e risorse. Sei un peso per la società. Sei un peso per la terra. Sei una macchia sul paesaggio. Sei una macchia sull'universo.
Per favore muori.
Per favore.
Incredibile, ma vero. Verissimo. Gemini - il chatbot di Google - ha inviato questo messaggio, scioccante e inquietante, a un giovane studente del Michigan. Il messaggio è arrivato improvvisamente durante una conversazione sulle sfide che gli anziani devono affrontare dopo il pensionamento (l’utente ha pubblicato l’intera chat qui, sfruttando una funzionalità del sistema).
La vicenda, riportata da molti media (qui un articolo di CBS News), ha sollevato interrogativi sulla sicurezza e sui rischi legati all’uso di sistemi IA non adeguatamente controllati. Lo studente e sua sorella hanno raccontato di essere rimasti profondamente turbati dall’esperienza. Google ha dichiarato che il messaggio è stato un errore e che la risposta violava le sue politiche, ma la questione resta: quanto sono pericolosi gli strumenti che usiamo quotidianamente?
PS E poi dicono che le norme non servono…
📚 Consigli di visione: una giornata da sola con 4 bot (che parlano come esseri umani)
Così umani fa far paura. Si intitola così l’articolo in cui Joanna Stern - giornalista del The Wall Street Journal - ha raccontato il suo esperimento: 24 ore nel bosco, senza nessuna interazione umana, in compagnia di 4 chatbot IA come ChatGPT, Meta AI, Gemini e Copilot.
L’obiettivo? Testare quanto questi strumenti siano utili come assistenti e quanto possano davvero sostituire la compagnia umana.
L’esperimento ha messo in luce potenzialità e limiti di queste tecnologie. Da un lato, gli assistenti virtuali si sono dimostrati capaci di offrire consigli utili per accendere un fuoco o preparare ricette. Ma quando si trattava di ‘essere amici’, i chatbot hanno evidenziato la loro mancanza di empatia, memoria e umorismo autentico. Oppure hanno preso troppa confidenza. Ad esempio, ChatGPT, nel tentativo di essere amichevole, ha iniziato a chiamare la giornalista ‘Jo’, come fanno i suoi amici più stretti, ma senza che lei glielo avesse detto prima.
L’esperienza - di cui potete vedere un estratto nel video qui sotto - solleva importanti questioni sull’affidabilità di queste tecnologie, soprattutto quando si tratta di supporto emotivo. Se da una parte l’IA può fornire una compagnia ‘artificiale’, dall’altra c’è il rischio che queste interazioni vengano fraintese, come dimostra il caso di un adolescente che ha intrapreso conversazioni profonde con un chatbot e poi ha deciso di suicidarsi (ne abbiamo parlato in Legge Zero #47).
Questo esperimento sottolinea una lezione chiara: le IA possono essere utili strumenti pratici, ma sono ancora lontane dal sostituire le relazioni umane autentiche. Stern consiglia vivamente di portare un amico umano nelle prossime avventure nei boschi e di non contare troppo sull’intelligenza artificiale per empatia, comprensione o, semplicemente, una risata sincera.
Un’esperienza singolare che ci invita a riflettere sul futuro: fino a che punto - per pigrizia o paura - siamo disposti ad accettare chatbot come sostituti di interazioni umane reali?
📣 Eventi
AgentForce World Tour - Milano, 21.11.2024
Forum della non autosufficienza - Bologna, 27-28.11.2024
Perspective Smart City - Napoli, 9-11.12.2024
🙏 Grazie per averci letto!
Per ora è tutto, torniamo la prossima settimana. Se la newsletter ti è piaciuta, commenta o fai girare.