🤖 Whatever it takes – Legge Zero #41
Fanno discutere le considerazioni del Rapporto Draghi sulla normativa UE in materia di intelligenza artificiale: esiste davvero un contrasto inconciliabile tra regole e innovazione?
🧠 L’Europa resterà sola?
Lo scriviamo da mesi. Il tema della regolamentazione dell’IA è tanto centrale per il nostro futuro quanto dibattuto (almeno in questi ultimi tempi). E al centro di queste discussioni c’è l’AI Act, la legge europea sull’intelligenza artificiale che è entrata in vigore poco più di un mese fa e che rappresenta un modello organico di normazione degli usi dell’IA con un approccio basato sul rischio.
Secondo alcuni, l’Europa ha sbagliato a normare così presto l’IA. Secondo altri le regole del Vecchio continente dovrebbero ispirare i legislatori di tutto il mondo. Questo dibattito non si è fermato con l’adozione del Regolamento e, quindi, con la conferma che nei prossimi anni il provvedimento sarà applicato in tutta l’UE (salvo improbabili colpi di scena, tenuto conto che Ursula Von der Leyen - che ha fortemente voluto una strategia per l’IA - è stata riconfermata alla guida della Commissione Europea).
Semmai, i toni e il livello del confronto sono saliti, come dimostra l’editoriale pubblicato da The Economist e firmato da Mark Zuckerberg (fondatore e CEO di Meta) e Daniel Ek (fondatore e CEO di Spotify) di cui abbiamo parlato in LeggeZero #38.
Agli osservatori più attenti non sfuggirà che questo dibattito non è finalizzato (solo) ad analizzare le disposizione della normativa europea - che tra l’altro non è ancora pienamente applicabile - ma, piuttosto, riguarda la scelta che devono fare gli altri Paesi: seguire l’approccio dell’UE oppure lasciarla sola sulla strada di regole rigorose che superino i generici principi etici su cui tutti sono d’accordo? Oltre agli editoriali (qui un interessante contributo pubblicato sul New york Times), lo dimostra il partecipatissimo dibattito sulle leggi recentemente approvate in California che sono adesso all’esame del Governatore (che deve decidere se ratificarle). Nei giorni scorsi, poi, hanno fatto molto discutere alcuni passaggi relativi alle regole sull’IA contenute nel rapporto che l’ex premier italiano Mario Draghi ha presentato proprio alla Von der Leyen sul futuro della competitività dell’UE (la versione integrale del rapporto è disponibile, in inglese, sul sito della Commissione UE mentre qui sotto potete scaricare la parte con le raccomandazioni relative ai singoli settori).
L' attesissimo rapporto, redatto dall'ex governatore della Banca centrale europea su richiesta della Commissione, propone una profonda revisione dell'approccio dell'UE alla politica industriale e di concorrenza, oltre investimenti significativi nel settore tecnologico.
La tesi di Draghi è chiara: le norme UE in ambito tecnologico rappresentano un ostacolo all’innovazione e alla competitività delle aziende europee.
Le norme prese di mira sono principalmente due: l’AI Act e il GDPR, la normativa in materia di protezione dei dati personali. Secondo il rapporto Draghi
nonostante le loro intenzioni siano lodevoli, la loro complessità e il rischio di sovrapposizioni e incongruenze possono compromettere gli sviluppi nel campo dell'intelligenza artificiale.
Negli USA, i detrattori dell’AI Act - che si oppongono a normative federali analoghe - hanno salutato con favore le tesi del Rapporto, arrivato come inaspettato sostegno alle loro posizioni.
Nel rapporto non è chiarito in che modo le regole sarebbero di ostacolo alla competitività, anche tenuto conto del fatto che - come noto - le norme europee si applicano a tutti gli operatori di mercato che rendono disponibili i propri sistemi e modelli nell’ambito del mercato europeo (e quindi anche i provider statunitensi e cinesi, ad esempio). Come è stato autorevolmente notato, possiamo dare la colpa del ritardo europeo in materia di IA a una norma - l’AI Act - che ancora non è nemmeno pienamente applicabile?
E poi, davvero l’innovazione ‘a ogni costo’ è un valore anche quando può rappresentare un rischio per i diritti e le libertà delle persone? Forse, è una contrapposizione che può essere superata. E a sostenerlo, non sono solo gli avvocati o i ‘burocrati di Bruxelles’ ma un appello firmato da oltre 100 dipendenti ed ex dipendenti di società tecnologiche che hanno lavorato ai più importanti sistemi di IA. Chiedono che venga ratificata la legge della California che chiede sicurezza e test. Del resto, nessuno si sogna di dire che non vogliamo il progresso farmaceutico perché ci sono procedure per i test dei medicinali e trasparenza sugli effetti collaterali e indesiderati.
🔊 Un vocale da… ChatGPT o1-preview
Questa settimana OpenAI ha fatto un annuncio molto importante legato al suo nuovo modello c.d. strawberry, cioè ‘fragola’ (perché è in grado di dire quante ‘r’ ci sono nella parola fragola, domanda a cui molti LLM danno risposte sbagliate).
Questi modelli sono stati addestrati a dedicare più tempo a riflettere sui problemi prima di rispondere, proprio come farebbe una persona. Attraverso l’addestramento, imparano ad affinare il loro processo di pensiero, a provare strategie diverse e a riconoscere i loro errori.
Abbiamo pensato di testarlo, chiedendogli cosa significa per lui pensare e come ragiona prima di rispondere alle domande. La risposta è nel vocale - sintetico - di questa settimana.
📰 La pizza più richiesta di Dubai 🇦🇪 è stata creata da ChatGPT
Se vi siete indignati per la pizza con l’ananas, questa notizia potrebbe farvi storcere il naso.
La catena di pizzerie Dodo Pizza di Dubai (Emirati arabi) ha fatto molto discutere per aver introdotto nei propri menu una pizza creata dal noto chatbot di Openai: la Shawarma pizza ChatGPT. La ricetta è stata generata come risposta al prompt con cui uno dei gestori della catena chiedeva un’idea che potesse rappresentare al meglio il melting pot culturale di Dubai. Obiettivo centrato a giudicare dal grande successo riscosso dalla pizza (che ha un prezzo molto popolare di circa 8 euro).
Se ve lo state chiedendo, gli ingredienti principali sono: pollo shawarma, formaggio fresco indiano, mozzarella, cipolla, erbe orientali Za'atar, salsa tahina e olio d’oliva.
In verità, prima di arrivare a questo successo, altri suggerimenti di ChatGPT erano stati scartati: sui menu non sono mai arrivate la pizza ‘fragole e pasta’ e quella ‘mirtilli e cereali’. Non hanno superato la prova di assaggio del team.
In ogni caso, trovata di marketing a parte (della pizza ‘AI generated’ si è parlato in tutto il mondo), è assolutamente corretto che le ricette create dall’IA vengano indicate sui menu in modo trasparente.
📰 Le agenzie federali USA 🇺🇸 devono segnalare l’uso dell’IA
L’ordine esecutivo emanato dal Presidente Biden nell’ottobre 2023 (Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence) impone alle amministrazioni federali statunitensi di redigere periodicamente dei report sull’utilizzo di sistemi di IA, da trasmettere alla Casa bianca.
Recentemente, l'Ufficio per la Gestione e il Bilancio della Casa Bianca (OMB) ha pubblicato apposite Linee Guida in cui viene fissata al 16 dicembre 2024 la scadenza per trasmettere tali report. Le agenzie dovranno inoltre fornire dettagli per ogni caso d'uso dell'IA, inclusi scopo previsto, benefici attesi, output, fase di sviluppo, dati e codice, oltre all'infrastruttura.
Per i casi d'uso che possono avere un impatto su diritti o sicurezza, le amministrazioni dovranno inoltre attestare la conformità alle pratiche minime di gestione del rischio individuate in un apposito memorandum.
Secondo quanto previsto nelle Linee guida, inoltre, gli elenchi dei casi d’uso dell’IA dovranno essere pubblicati sui siti web istituzionali delle stesse agenzie.
Le Linee guida (in inglese) possono essere scaricate qui sotto.
📔 I corsi di LeggeZero
A proposito di IA e pubblica amministrazione, il 24 settembre 2024 si terrà un webinar di LeggeZero con un corso dedicato ad approfondire il quadro normativo per amministrazioni ed enti pubblici (AI Act, DDL del governo in materia di IA). Al link trovate tutte le info su programma e iscrizioni.
⚖️ Si moltiplicano le leggi USA 🇺🇸 per combattere i deepfake
In USA è allarme deepfake, anche in vista delle elezioni presidenziali di novembre. Le preoccupazioni bipartisan per le interferenze generate dall'IA hanno già prodotto leggi in numerosi Stati americani, anche se ancora manca una norma federale (ne ha parlato anche la CNN qui).
Solo nell’ultimo anno, più di una dozzina di stati, guidati sia da Repubblicani che da Democratici, hanno emanato leggi per regolamentare l'uso in campagna elettorale di video, audio e altri contenuti generati con l'intelligenza artificiale. Queste iniziative legislative sono state intraprese in risposta agli avvertimenti del Dipartimento della Sicurezza Interna sulla capacità dei deepfake di ingannare gli elettori, mentre alcuni candidati (come Trump) li usano ormai senza remore e le tecnologie diventano sempre più capaci di produrre immagini e audio che sembrano vere (ne abbiamo scritto in LeggeZero #26, LeggeZero #14 e LeggeZero #8).
Negli ultimi mesi, la Florida, le Hawaii, New York, l’Idaho, l’Indiana, il New Mexico, l’Oregon, lo Utah, il Wisconsin, l’Alabama, l’Arizona e il Colorado hanno approvato leggi che richiedono la massima trasparenza sull’utilizzo di deepfake nel periodo della campagna elettorale, da parte dei candidati e dei loro supporter.
Questi Stati si aggiungono a quelli che - come Michigan, Washington, Minnesota, Texas e California - avevano già da tempo leggi che regolamentano il fenomeno. In Minnesota, la locale legge è stata recentemente emendata per includere, tra le altre disposizioni, l'obbligo per un candidato di rinunciare all’elezione se viola le disposizioni statali in materia di deepfake.
⚖️ Negli USA 🇺🇸 un uomo è stato arrestato per aver usato l’IA per truffare le piattaforme di streaming musicale
Michael Smith, 52 anni, residente a Cornelius, una cittadina di 30.000 abitanti nel North Carolina, è un musicista che negli ultimi due anni ha guadagnato oltre 10 milioni di royalties dalle principali piattaforme di streaming musicale, come Spotify, Amazon Music, Youtube e Apple Music. Si tratta di una cifra davvero sorprendente, soprattutto considerando che Smith è un artista praticamente sconosciuto e che queste piattaforme sono famose per pagare compensi molto bassi ai musicisti meno noti.
E infatti Smith è stato arrestato nei giorni scorsi con l’accusa di aver messo in atto, con l’ausilio dell’IA, una truffa milionaria nei confronti del mercato discografico digitale.
L’uomo avrebbe infatti utilizzato l’intelligenza artificiale per generare centinaia di migliaia di canzoni con titoli bizzarri, attribuite a band fittizie, anch’esse con nomi stravaganti generati dall’IA, per pubblicarle sulle principali piattaforme di streaming online.
Smith avrebbe poi programmato migliaia di account fittizi (bot) per riprodurre in streaming tali canzoni, distribuendo piccole quantità di stream automatizzati su ciascuna di esse, così da evitare il sospetto di manipolazione e aggirare i sistemi antifrode delle piattaforme. In questo modo, avrebbe quindi raccolto royalties musicali relative a miliardi di riproduzioni, per diversi milioni di dollari.
Smith avrebbe quindi creato un intero business discografico in cui IA e altri automatismi sono stati impiegati non solo per creare l’arte ma truffare le piattaforme.
Infatti, la musica è cambiata quando l’uomo è stato arrestato dall'FBI su mandato dello U.S. Attorney for the Southern District of New York, con le accuse di cospirazione per frode telematica, frode telematica e cospirazione per riciclaggio di denaro. Ciascuno dei capi di accusa potrebbe portare a una pena massima di 20 anni di reclusione.
😂 IA Meme
Le piccole crepe nell'argine dell'IA sono solo l'inizio, ma - secondo alcuni - dietro l'angolo incombono minacce esistenziali come la disoccupazione di massa e, addirittura, l’estinzione umana. Riusciremo, attraverso le norme, a prevenire il disastro o è solo questione di tempo?
📣 Eventi
Dreamforce - San Francisco (USA), 17/19.09.2024
IA: cosa cambia per le amministrazioni con l’AI Act - Webinar, 24.09.2024
Festival Digitale Popolare - Torino, 4/6.10.2024
🙏 Grazie per averci letto!
Per ora è tutto, torniamo la prossima settimana. Se la newsletter ti è piaciuta, commenta o fai girare.