🤖 I nove approcci alla regolazione dell'IA – Legge Zero #38
Il dibattito sulle regole dell'intelligenza artificiale non è andato in vacanza: i legislatori hanno paura dei rischi dell'IA ma le aziende temono che le norme rallentino lo sviluppo tecnologico.
🧠 Quali regole per l’IA?
Questo è un momento importante per la tecnologia. L'intelligenza artificiale (IA) ha il potenziale di trasformare il mondo, aumentando la produttività umana, accelerando il progresso scientifico e aggiungendo trilioni di dollari all'economia globale.
Ma, come in ogni salto innovativo, alcuni sono meglio posizionati di altri per trarne vantaggio. I divari tra coloro che hanno accesso a questa straordinaria tecnologia e coloro che non lo hanno stanno già iniziando a emergere.
Comincia con queste parole l’editoriale firmato da Mark Zuckerberg (fondatore e CEO di Meta) e Daniel Ek (fondatore e CEO di Spotify),pubblicato pochi giorni fa da The Economist, dal titolo ‘why Europe should embrace open-source AI’, ovvero 'perché l’Europa dovrebbe adottare l’intelligenza artificiale open source’ (lo trovate qui).
Nell’articolo - oltre all’elencazione dei motivi per cui si ritiene che l’Europa dovrebbe utilizzare i sistemi open source per competere a livello globale - c’è una forte critica all’approccio regolamentare europeo e quindi all’AI Act:
Regolare contro danni noti è necessario, ma una regolamentazione preventiva dei danni teorici per tecnologie nascenti come l'IA open-source soffocherà l'innovazione. La regolamentazione complessa e avversa al rischio dell'Europa potrebbe impedirle di capitalizzare le grandi scommesse che possono tradursi in grandi ricompense.
[…]
La realtà è che le leggi progettate per aumentare la sovranità e la competitività europea stanno ottenendo l'effetto opposto.
Il rischio maggiore paventato da due dei più importanti CEO del settore tecnologico è che l’applicazione delle norme possa portare un’incertezza in grado di minare definitivamente la possibilità per il Vecchio continente di essere protagonista nell’IA. Nell’articolo, a titolo esemplificativo di quello che potrebbe accadere, si cita quanto sta succedendo con il GDPR (il Regolamento europeo sulla protezione dei dati personali) in base al quale è stato bloccato l’addestramento delle IA di Meta e X sui dati degli utenti europei, impedendo la disponibilità di alcuni servizi di intelligenza artificiale.
Leggendo l’editoriale, si ha l’impressione che sia fondato il luogo comune per cui ‘Gli Stati Uniti innovano, la Cina replica, l’Europa regolamenta’ (in realtà lo avevamo già confutato in LeggeZero #17).
E invece, guardando oltreoceano, è possibile constatare che quello sulla regolazione è un dibattito aperto a livello globale.
Nella California della Silicon Valley, ad esempio, sta facendo molto discutere una proposta di legge - la SB 1047 - che dovrebbe essere votata entro la fine del mese e che, se approvata, imporrebbe ai provider di IA obblighi stringenti in materia di sicurezza. Dal momento che i principali operatori mondiali hanno sede in California, la proposta è seguita con particolare attenzione e tutti i maggiori protagonisti hanno espresso le proprie preoccupazioni o formulato le proprie proposte migliorative nell’ottica di non ‘frenare l’innovazione’ (qui la lettera che il fondatore e CEO di Anthropic, Dario Amodei, ha scritto al Governatore dello Stato per esprimere la sua posizione).
Insomma, solo su una cosa sono tutti d’accordo: servono regole per contrastare i rischi dell’IA e garantirne un uso etico. Su come farlo, invece, ci sono idee molto diverse. Non solo tra istituzioni e mercato, ma anche tra i vari ordinamenti giuridici.
Lo testimonia un paper recentemente pubblicato da UNESCO che contiene l’elencazione di ben nove distinti approcci alla regolamentazione dell’IA:
Approccio basato sui principi: questo approccio consiste nell’indicare un insieme di principi fondamentali che guidano l'uso etico e responsabile dell'IA, concentrandosi su processi incentrati sull'uomo e rispettosi dei diritti umani.
Approccio basato sugli standard: in questo caso, i poteri regolatori sono delegati a organizzazioni che sviluppano standard tecnici.
Approccio agile e sperimentale: questo approccio prevede schemi regolatori flessibili, come le ‘sandbox’ regolatorie, che permettono alle organizzazioni di testare facilmente i sistemi di IA.
Approccio facilitante e abilitante: questo approccio consiste nella creazione di un ambiente che incoraggi lo sviluppo responsabile dell’IA, attraverso iniziative come l'educazione e lo sviluppo delle competenze.
Approccio di adattamento delle regole esistenti: invece di creare nuove norme, questo approccio prevede la modifica delle leggi di settore o generali già esistenti in modo da affrontare le sfide legate all'IA.
Approccio basato sulla trasparenza: questo approccio impone la trasparenza nei sistemi di IA, richiedendo alle organizzazioni pubbliche e private di divulgare informazioni rilevanti sulle tecnologie utilizzate.
Approccio basato sul rischio: le regolamentazioni di questo tipo danno priorità alle azioni in base ai rischi associati ai sistemi di IA, imponendo obblighi più severi sui sistemi IA ad alto rischio.
Approccio basato sui diritti: questo approccio si concentra sulla protezione dei diritti individuali, sottolineando l'importanza dei diritti umani nello sviluppo e nell'impiego dei sistemi di IA.
Approccio basato sulla responsabilità: questo approccio prevede responsabilità e sanzioni per l'uso improprio dei sistemi di IA.
A testimonianza che si tratta di un ambito incerto, però, il paper non è ancora in una versione definitiva, ma è stato aperto a una consultazione pubblica che si chiuderà il 19 settembre (qui i dettagli).
Le norme hanno tempi più lunghi dello sviluppo tecnologico. Questo ormai lo sappiamo. Ma, guardando a quello che sta accadendo nella campagna elettorale USA con i deepfake diffusi da Donald Trump contro Kamala Harris (problema ampiamente previsto), la sensazione è che le regole possano arrivare troppo tardi e quindi risultare inefficaci.
📰 OpenAI ha realizzato uno strumento per inserire watermark nei contenuti generati da ChatGPT, ma non sappiamo quando lo rilascerà
OpenAI ha sviluppato uno strumento per apporre una ‘filigrana’ ai contenuti testuali generati dall'intelligenza artificiale, progettato anche per aiutare a conformarsi all’AI Act dell'Unione Europea. Tuttavia, l'azienda - secondo Euractiv - non avrebbe ancora reso disponibile questo strumento, temendo di perdere utenti.
OpenAI, con un post pubblicato sul proprio blog. ha confermato l'esistenza di un sistema di watermarking ‘altamente accurato’, ma ha dichiarato di stare ancora valutando i rischi associati al suo utilizzo, tra cui l'impatto su gruppi specifici come i non madrelingua inglesi e la facilità con cui il watermark potrebbe essere aggirato tramite manipolazioni come la traduzione automatica.
Secondo quanto riportato dal Washington Post, OpenAI sarebbe preoccupata per la possibilità che gli utenti preferiscano altri chatbot privi di watermark. In un sondaggio condotto dall'azienda, quasi il 30% degli utilizzatori avrebbe dichiarato che utilizzerebbe meno ChatGPT se fosse introdotto il watermark, soprattutto se i concorrenti non lo facessero. È quindi realistico ipotizzare che questo strumento sarà rilasciato solo quando norme come l’AI Act lo renderanno obbligatorio per tutti i provider.
Nel frattempo, Grammarly ha annunciato il lancio di un nuovo strumento di rilevamento di contenuti generati dall'intelligenza artificiale. Sarà disponibile già dal mese prossimo.
📰 Tesla assume addestratori di umanoidi
Avete mai pensato a una carriera come addestratore di robot umanoidi? Probabilmente molti di voi, prima di leggere questa newsletter, non sapevano neanche che esistesse questo lavoro e che Tesla ne sta ricercando per insegnare ai suoi robot Optimus come muoversi nel mondo (se non ci credete, l’annuncio di lavoro è pubblicato qui).
Per poter inviare la candidatura bisogna avere un’altezza compresa tra i 170 e i 180 cm, essere in grado camminare per 7 ore al giorno e sollevare pesi intorno ai 13 kg.
Gli assunti dovranno svolgere appositi movimenti indossando una tuta per il motion capture e un visore VR. La paga potrà arrivare fino a 48 dollari l’ora- Sono tanti o pochi per insegnare alle macchine a sostituire l’uomo?
⚖️ La Corte Costituzionale della Colombia 🇨🇴 si pronuncia sull'uso dell’IA nella redazione delle sentenze
La Corte Costituzionale della Colombia ha emesso una sentenza interessante nell’ambito dell'integrazione dell'intelligenza artificiale nel sistema giudiziario.
La Corte si è pronunciata sul caso di un giudice di Cartagena che aveva utilizzato ChatGPT 3.5 per scrivere le motivazioni di una decisione in materia di diritti di un bambino con disturbi dello spettro autistico. Nella corposa pronuncia (ben 186 pagine), la Corte ha concluso che non vi è stata una violazione del diritto al giusto processo, ma ha evidenziato la necessità di garantire trasparenza e responsabilità nell'uso dei sistemi di IA.
Pertanto, ha esortato:
tutti i giudici a utilizzare in materia appropriata queste tecnologie, rispettando i principi etici affermati a livello internazionale come privacy, trasparenza, sorveglianza e controllo umano (la sentenza fa espresso rinvio al toolkit UNESCO sull’uso dell’IA in ambito giudiziario di cui abbiamo scritto in LeggeZero #2).
il locale Consiglio superiore della magistratura a definire linee guida per l'uso dell'IA nei processi giudiziari, assicurando che queste tecnologie non compromettano l'indipendenza e l'autonomia dei giudici, prevedendo idonei percorsi di formazione dei magistrati che approfondiscano rischi e benefici dell’uso dell’IA.
Se volete leggerla, potete scaricare la sentenza qui (in spagnolo).
⚖️ Il Garante Privacy 🇮🇹 ha emesso parere favorevole sul DDL del Governo in materia di intelligenza artificiale
All’inizio del mese di agosto, il Garante Privacy ha espresso parere favorevole sullo schema di disegno di legge governativo in materia di IA che è all’esame del Parlamento (e di cui abbiamo parlato in LeggeZero #22 e LeggeZero #30).
Il Garante ha però posto alcune condizioni tra cui segnaliamo:
l'introduzione di un articolo specifico che garantisca la conformità dei trattamenti di dati personali alle normative esistenti, tra cui il Regolamento (UE) 2016/679;
l'importanza di prevedere, in ambito sanitario, l’uso preferenziale di dati sintetici o anonimi, imponendo limitazioni precise per l'utilizzo di dati sanitari;
con riferimento alla gestione del personale, l’estensione di garanzie contro le discriminazioni anche alle fasi preassuntive, in aggiunta a quelle post-assunzione.
Il parere, inoltre, invita a prevedere un coinvolgimento più effettivo dello stesso Garante nel sistema di governance nazionale dell’IA, tenuto conto che - al momento - le Autorità designate sono AgID e ACN (ricorderete che nei mesi scorsi il Garante aveva già scritto ai Presidenti di Camera e Senato, rivendicando un ruolo centrale nell’attuazione dell’AI Act).
Staremo a vedere quali di queste richieste saranno accolte dal Governo (e dal Parlamento).
😂 IA Meme
Fantascienza Vs. Realtà. Pensavamo di doverci difendere da robot che volevano sottometterci e invece dobbiamo difenderci dall’alterazione della realtà. Se pensate che l’immagine di Kamala Harris che passeggia tenendo la mano di Donald Trump sia chiaramente identificabile come deepfake, immaginate di essere in un’aula di Tribunale a guardare un video - generato dall'IA - che vi mostra mentre commettete un crimine che non avete mai commesso.
😂 IA Meme che non lo erano
È diventato virale il video diffuso da Luma AI su X che mostra gli effetti del passare degli anni sul volto di una bambina. Ovviamente è generato dall’IA.
📚 Consigli di lettura: “Personhood credentials: Artificial intelligence and the value of privacy-preserving tools to distinguish who is real online” di Steven Adler e altri
Nel romanzo di Philip K. Dick ‘Gli androidi sognano pecore elettriche?’ le persone si affidano a test sofisticati per distinguere gli umani dai "replicanti" IA che camminano e parlano proprio come le persone. Non ci siamo ancora arrivati: spacciarsi per umani nel mondo reale è una cosa che i robot di oggi non sanno (ancora) fare. Ma gli esperti sostengono che i sistemi esistenti per dimostrare la propria umanità, come richiedere agli utenti di inviare un selfie o risolvere un puzzle CAPTCHA, sono sempre più inadeguati contro l'intelligenza artificiale evoluta. D'altro canto, rigidi sistemi di verifica dell'identità che collegassero le persone alla loro attività online rischierebbero di compromettere la privacy degli utenti e i loro diritti di libera espressione.
Per questo motivo, in un paper di recente pubblicazione, 32 ricercatori - alcuni provenienti da aziende come OpenAI e Microsoft - propongono l’adozione di ‘credenziali di personalità’ che consentano alle persone di interagire online in modo anonimo senza che le loro attività vengano tracciate (potete scaricare il paper qui sotto).
La finalità del sistema è lodevole: fornire uno strumento per distinguere cosa è umano in un mondo in cui ci saranno sempre più BOT.
Ma siamo sicuri che sia giusto che siano le persone a dover dimostrare la propria umanità e non sia più efficace obbligare le aziende ad adottare misure volte ad assicurare la trasparenza e ad evitare ogni impersonificazione? È uno dei punti chiave che dovrà essere affrontato dai regolatori mondiali nei prossimi anni.
📣 Eventi
ComunicherAI: AI act e copyright - Webinar, 11.09.2024
Il tempo delle donne - Milano, 13/15-09.2024
Dreamforce - San Francisco (USA) - 17/19.09.2024
🙏 Grazie per averci letto!
Per ora è tutto, torniamo la prossima settimana. Se la newsletter ti è piaciuta, commenta o fai girare.