🤖 Un algoritmo sostituirà i dipendenti pubblici? – Legge Zero #7

La California vuole usare gli algoritmi per ridurre il traffico stradale, l’Albania per entrare prima nell’UE: in tutto il mondo l'IA è chiamata a risolvere i problemi della pubblica amministrazione.

Jan 13, 2024

Michael Douglas - Un giorno di ordinaria follia (1993)

🧠 Verso il nuovo Eldorado

Los Angeles, giorno feriale, ora di punta: Bill (Michael Douglas) è un veterano del Vietnam, che è stato lasciato dalla moglie e ha perso il lavoro. L'ennesimo ingorgo gli fa perdere definitivamente le staffe, così comincia a vagare per la città, armato e pericoloso. Sono passati trent’anni da queste scene di “Un giorno di ordinaria follia”, ma rimanere bloccati nel traffico è sempre più frequente se si praticano le strade della California (e non solo quelle).

Per questo motivo, il Dipartimento dei trasporti della California ha pubblicato un bando per chiedere alle aziende tecnologiche di proporre come gli strumenti di intelligenza artificiale generativa potrebbero aiutare lo Stato a ridurre il traffico e rendere le strade più sicure, soprattutto per pedoni, ciclisti e scooteristi. La California, infatti, vorrebbe utilizzare l’IA per raggiungere l’obiettivo di azzerare morti e feriti gravi sulle strade entro il 2050, individuando le cause degli incidenti in modo da poterle prevenire.

Qualcuno potrebbe obiettare che è normale che queste idee vengano nello Stato della Silicon Valley, dove hanno sede e lavorano la gran parte delle aziende che operano nel settore dell’intelligenza artificiale. Eppure non si tratta di un’isolata avanguardia. Nelle scorse settimane, ad esempio, il Governo dell’Albania ha deciso di ricorrere a ChatGPT per accelerare il processo di adesione all’Unione Europea. L’IA generativa sarà utilizzata per individuare quante e quali modifiche devono essere apportate alla legislazione del Paese per renderla conforme a quella europea. ChatGPT fornirà anche un’analisi dell’impatto di tutte modifiche, attività che - di norma - richiede molti esperti e molto tempo (simpaticamente il primo ministro albanese, Edi Rama, ha dichiarato che l’IA eliminerà “un esercito di traduttori e un battaglione di avvocati, che costano milioni di euro” ).

Insomma, si tratta di un trend mondiale: secondo un recente report del Boston Consulting Group la pubblica amministrazione è uno dei settori in cui l’IA generativa può essere più promettente.

Le stime degli analisti sono impressionanti:

il mercato delle applicazioni di intelligenza artificiale generativa nel settore pubblico crescerà a un tasso superiore al 50% all'anno.
l'uso dell'IA generativa nella pubblica amministrazione potrebbe portare a un incremento della produttività del valore di 1,75 trilioni di dollari all'anno a livello globale (per l’Italia la stima è di 46 miliardi di dollari all’anno).

Fonte: BCG - stima sui benefici per la produttività del settore pubblico derivanti dall’uso della IA generativa

Attenzione però: non è così semplice. Non basta comprare tecnologie sempre più performanti per risolvere i problemi storici della PA, migliorando la qualità delle decisioni e dei servizi pubblici.

È necessario che le amministrazioni agiscano su più livelli, se vogliono raggiungere quei risultati: lavorando alla riorganizzazione dei processi e dei servizi, formando tutti i lavoratori all’uso responsabile di queste tecnologie e provvedendo alla riqualificazione di coloro che oggi svolgono le mansioni che in futuro saranno svolte dall’IA.

In ogni caso, poi, una cosa è certa - per ora - l’IA non renderà inutili i dipendenti pubblici (con buona pace del premier albanese e di molta retorica sui fannulloni della PA). Gli esseri umani rimarranno sempre decisivi:

per la scelta dei sistemi da acquistare;
per la verifica e il controllo di quanto generato dall’IA, contribuendo a ridurre i casi di allucinazioni e pregiudizi;
per il rispetto dei diritti e delle libertà dei cittadini.

In attesa dell’AI Act che arriverà tra qualche mese, in Italia la giurisprudenza ha già chiarito la legittimità dell’uso degli algoritmi nell’attività amministrativa.

L’utilizzo di una procedura informatica che conduca direttamente alla decisione finale non deve essere stigmatizzata, ma anzi, in linea di massima, incoraggiata: essa comporta (…) l’esclusione di interferenze dovute a negligenza (o peggio dolo) del funzionario (essere umano) e la conseguente maggior garanzia di imparzialità della decisione automatizzata.

(Consiglio di Stato, Sez. VI, sent. 2270/2019)

Tuttavia, le amministrazioni dovranno sempre garantire il rispetto dei principi di trasparenza, uguaglianza, affidabilità, sicurezza, responsabilità (principi ormai riconosciuti a livello internazionale, come dimostra questo documento del Consiglio dell’Unione Europea sull’utilizzo dell’IA generativa nelle amministrazioni pubbliche).

Per approfondire questi temi abbiamo deciso di organizzare un Webinar, il primo di LeggeZero, che si terrà giovedì 18 gennaio dalle 11 alle 13 con la partecipazione di esperti (come Donata Columbro) e rappresentanti delle istituzioni (come Alessandro Greco di ACN, Marta Colonna di PagoPA, Vincenzo Di Nicola di INPS).

Nel Webinar affronteremo i principi fondamentali delle norme esistenti (Codice dell’amministrazione digitale, GDPR) e di quelle di imminente adozione (come l'AI Act) e discuteremo delle sfide tecnologiche, giuridiche e organizzative che emergono dall'impiego dell'IA nel settore pubblico, presentando anche alcune buone prassi.

Per seguirlo, iscrivetevi qui.

🔊 Un vocale da… Giacomo Ciarlini (Datapizza): il mondo del lavoro si sta trasformando grazie all’IA generativa. Ma come si usano questi sistemi? Le persone sono pronte? Come cambia il paradigma da Excel a ChatGPT? Le risposte sono nella formazione ci dice il rappresentante della community italiana su data science e machine learning.

1×

0:00

-3:56

📰 OpenAI risponde al New York Times: la vostra azione è infondata (ma troviamo un accordo)

Eravamo stati facili profeti. La scorsa settimana quando abbiamo parlato dell’azione intentata dal New York Times contro OpenAI avevamo scritto che si tratta di uno dei casi giudiziari cruciali per il destino dell’IA, anche mediaticamente. Lo prova il post pubblicato sul proprio sito da OpenAI in cui viene anticipata la strategia difensiva.

Questi i punti principali del ragionamento di OpenAI:

L’addestramento del modello è pienamente legittimo perché rientra nel fair use. Tuttavia, consentiamo agli editori che lo vogliano di esercitare l’opt-out per impedire ai nostri sistemi di accedere ai loro siti.
Se ChatGPT ha “rigurgitato” ampie parti di articoli del NYT è conseguenza di un bug che stiamo lavorando per risolvere.
In ogni caso, i casi contestati dal NYT sono stati costruiti ad arte con prompt finalizzati a sfruttare i bug di ChatGPT e costruire prove artefatte di come funziona il nostro modello.
La vostra causa è infondata, ma saremmo lieti di lavorare con voi.

Strategia di avvicinamento al giudizio o nuova tappa delle trattative per trovare un accordo?

📰 Come non confondere le Commissioni che lavorano sull’IA in 🇮🇹

Nei giorni scorsi, giornali, TV e social hanno dato grande spazio alle dimissioni di Giuliano Amato da Presidente di un organismo istituzionale creato per occuparsi di IA. Viste le possibilità di confusione, Pagella Politica ha pubblicato una meritoria opera di chiarezza.

Al momento le Commissioni istituzionali che operano sui temi dell’IA sono tre:

la Commissione Algoritmi costituita dalla Presidenza del Consiglio dei Ministri - Dipartimento Editoria per occuparsi di IA, informazione ed editoria (è quella che è stata presieduta da Amato, ora sostituito da Paolo Benanti)
il Comitato di coordinamento costituito dalla Presidenza del Consiglio dei Ministri - Dipartimento per la trasformazione digitale per mettere a punto il piano strategico italiano in materia di IA (coordinato da Gianluigi Greco)
il Comitato di vigilanza sulla documentazione della Camera dei Deputati (presieduto dall’On. Anna Ascani), organo permanente del Parlamento che - partendo da un ciclo di audizioni - si sta occupando di come utilizzare l’IA a supporto del processo legislativo.

⚖️ ISO/IEC 42001:2023 - arriva lo standard per l’IA

La recente pubblicazione dello standard ISO/IEC 42001:2023 rappresenta un passo importante nella regolamentazione dell'intelligenza artificiale. Questo standard fornisce indicazioni complete per la gestione responsabile dell'IA, coprendo aspetti cruciali come sicurezza, equità e trasparenza.

È particolarmente significativo per le organizzazioni che intendono integrare l'IA nei loro servizi, offrendo un quadro per la conformità etica e legale. La sua adozione potrebbe segnare una svolta nell'assicurare che l'IA sia utilizzata in maniera sicura e rispettosa dei diritti fondamentali.

⚖️ L’AI Act fa scuola: negli USA una proposta di legge per la gestione dei rischi nell'IA

I parlamentari statunitensi Lieu, Nunn, Beyer e Molinaro hanno presentato un disegno di legge bipartisan, noto come "Federal Artificial Intelligence Risk Management Act".

La proposta normativa che mira a regolamentare l'uso dell'intelligenza artificiale nelle agenzie federali degli Stati Uniti. La legge richiede alle agenzie di adottare il "Framework di Gestione del Rischio di Intelligenza Artificiale" sviluppato dall'Istituto Nazionale di Standard e Tecnologia (NIST).

Inoltre, prevede la creazione di standard per l’acquisto di sistemi di IA, oltre a imporre requisiti per la formazione del personale.

💡 L’IA fa cose

Raffaello non ha dipinto da solo la Madonna della Rosa, l’IA ha confermato che una parte del quadro non è sua.

Un robot ha imparato a fare il caffè guardando alcuni esseri umani mentre lo facevano.

😂 IA Meme

Lavorare nella compliance è un’attività che può essere molto entusiasmante.

📚 Consigli di visione: gli Stati generali del diritto di internet e dell’IA

Il 14, 15 e 16 dicembre, presso la Luiss si è tenuta la terza edizione degli Stati generali del diritto di internet e dell’IA, appuntamento fisso per tutti gli studiosi e appassionati del diritto delle tecnologie. Tanti gli interventi sui diversi profili giuridici dell’IA (tra cui quelli di alcuni degli autori di questa newsletter come

Giovanni Maria Riccio

Avv. Stefano Aterno

ed Ernesto Belisario).

Da qualche giorno sono online i video integrali degli interventi, li trovate qui.