Episode 11 – L. Sartori e O. Pollicino connected on: Intelligenza Artificiale: chi vince e chi perde

00:00:00: una tecnologia come quella dell'intelligenza artificiale riproduce le disuguaglianze, riproduce i cosiddetti bias che già troviamo nella società ma questo fino adesso è visto solo come un problema tecnico da ripulire.

00:00:15: Quindi è una questione di cosa stiamo misurando?

00:00:18: Chi viene classificato?

00:00:19: Quali sono le conseguenze di questa classificazione che non è altro che una negoziazione tra tutti gli attori convolti?

00:00:37: il podcast

00:00:37: di Connect.

00:00:43: Connect

00:00:43: è il centro di ricerca dell'ipartimento di scienze politiche sociali dell'Università di Bologna.

00:00:50: Un mondo sempre più interconnesso e pure frammentato ci pone di fronte a sfide cruciali.

00:00:58: Connect si occupa

00:00:58: dei temi senza confine,

00:01:00: dall'ambiente alla tecnologia dalla sicurezza all'economia.

00:01:05: Il nostro obiettivo?

00:01:06: Offrire uno sguardo transnazionale sulla politica e la società trasformando la ricerca in sapere pubblico.

00:01:19: Con questo podcast vogliamo aprire il dibattito e connettere le idee per affrontare i nodi del nostro tempo.

00:01:28: Sono

00:01:28: Manuela Moschella, direttrice di Connect e host di questo podcast.

00:01:32: Restate con noi, connecting the nodes inizia ora!

00:01:39: Eccoci, connessione stabilita.

00:01:42: Vorrei partire oggi da un termine che ricorre ormai continuamente AI RACE la Corsa all'intelligenza artificiale.

00:01:49: una corsa tra imprese certamente ma sempre più trastati.

00:01:54: Gli Stati Uniti e la Cina sono ormai i protagonisti di questa corsa, terreno centrale di scontro economico e politico.

00:02:00: Ma tutto ciò porta con sé un paradosso.

00:02:02: Negli Stato Uniti Donald Trump ha ribadito la propria opposizione a nuove regole stringenti.

00:02:07: Allo stesso tempo alcuni dei protagonisti dell'industria dà antropica open eye chiedono maggiori garanzie e mettono in guardia dei rischi legati allo sviluppo sempre più rapido di sistemi avanzati.

00:02:18: In Europa Teresa Ribera ha persino evocato il precedente della corsa agli armamenti nucleari per chiamare la necessità di salvaguardie e cooperazione internazionale.

00:02:28: E questa è l'attenzione da cui vogliamo partire oggi, possiamo governare l'intelligenza artificiale mentre stati imprese competono per conquistarne la leadership?

00:02:37: Quelli sono i rischi che dovremmo davvero temere.

00:02:39: e che spazio rimane per la regolamentazione quando le AI diventano strumento di poter economico e geopolitico.

00:02:46: Ne parliamo con Laura Sartori, professoressa di sociologia generale dell'Università di Bologna ed Oresta Policino professore di diritto costituzionale e regolamentazione dell'intelligenza artificiale all'Università Vocconi.

00:03:00: Laura Eureste, benvenuti!

00:03:01: Laura, partirei proprio da te.

00:03:03: Partirei dagli allarmi che accompagnano lo sviluppo dell'Intelligenza Artificiale.

00:03:07: Nel dibattito pubblico tendiamo spesso a guardare i rischi delle AI come se derivassero semplicemente dalle tecnologie ma sappiamo che l'Intellenza Artificiale ha anche dei rischi sociali.

00:03:17: Di che cosa parliamo esattamente?

00:03:19: Buongiorno a tutti e a tutti, e ti ringrazio Manuela per questa domanda perché in un qualche modo ci porta a partire dalla base.

00:03:26: Perché prima di parlare di AI RACE bisogna capire che cosa sia l'intelligenza artificiale, che è bene ricordare essere un sistema sociotecnico cioè un artefatto umano che si fa da elementi tecnici ma anche da una imprescindibile dimensione sociale.

00:03:42: In questo senso le AI non sono solo una tecnologia, è un nuovo modo di organizzare potere conoscenza, organizzazione e responsabilità.

00:03:52: Quindi dietro a certe decisioni tecniche ci sono attori come stati o organizzazioni che si vedono coinvolti nell'IRS ma ci sono anche altri attori che prendano decisioni e che modellano proprio quegli elementi tecnici dietro i quali noi spesso ci fermiamo.

00:04:09: questa prospettiva serve per far allentare la presa dalle narrazioni più o meno distopiche che ha un impatto molto forte sull'oppinione pubblica.

00:04:19: Questa prospettiva direi anche che serve a far capire che il rischio di cui tanto si parla non nasca solamente dalla tecnologia in sé, cioè non sono tanto le caratteristiche tecniche ma i modi in cui una tecnologia viene inserita applicata in un contesto e soprattutto come in quel contesto una certa comunità si organizzi e la usi.

00:04:42: quindi è molto importante non dimenticare la dimensione sociale cioè il contesto e la comunità che utilizza questa tecnologia.

00:04:50: Un'ultima cosa che potrebbe essere un buon punto di partenza per parlare della AI Race è il fatto che se un sistema di AI l'applichiamo in un ospedale, una scuola o in tribunale possiamo osservare quei rischi di cui tu parlavi, che sono già ordinari, sono già concreti, sono visibili nel quotidiano non sono certo futuribili come l'estinzione della specie umana.

00:05:14: Quindi guardare l'intelligenza artificiale da una prospettiva sociotecnica significa proprio cambiare la domanda che ci si pone ovvero passare da quanto è potente la tecnologia, a dentro quali contesti viene applicato e utilizzata questa tecnologia.

00:05:30: In questo modo possiamo uscire da una visione deterministica della tecnologia che purtroppo è ancora tanto diffusa non solo tra noi analisti quanto tra politici policy makers che pensano solo alla tecnologia come qualcosa di esogeno che arriva e ha un impatto sulla società.

00:05:46: Oresti, questo mi porta direttamente da te perché quello che dice Laura non solo tecnologia ma tecnologia nel suo contesto però è anche un tipo di tecnologia che sappiamo si stai volvendo molto rapidamente.

00:05:58: credo che queste aspetti siano importantissimi per il diritto.

00:06:02: quindi la prima domanda che ho per te è proprio questa cioè il diretto riesce a tenere il passo con quest'applicazione della tecnologia nelle diverse società e con la velocità con cui cresce?

00:06:12: Grazie molte, mi fa molto piacere essere con voi.

00:06:16: La tua domanda in qualche modo implica innanzitutto fare emergere forse l'abuso di una metafora e un'immagine che in qualche momento c'è molto utile ma vuoi essere anche dannosa ed è la seguente il diritto che arranca rispetto alla tecnologia?

00:06:31: è ovvio che sia così ma è anche ovvio non è l'unica dinamica del rapporto tra diritti e tecnologia altrimenti sarebbe per definizione perdente non da adesso ma dalla scoperta della stampa, in questo momento sarebbe totalmente perdente visto che ogni giorno abbiamo un modello nuovo.

00:06:50: di AI generativa, gentica e fisicale ai.

00:06:53: Quindi suo me non è il modo corretto di impostare la questione.

00:06:56: È uno dei modi.

00:06:58: A mio viso c'è anche un altro modo che è quello legato a due questioni di fondo.

00:07:03: Una quella di poter trovare nella dimensione attuale, terbolezza, tutto il costruizionalismo quindi dal punto di vista regolatorio del diritto alcuni riferimenti che ci sono molto utili anche per potere in qualche modo assorbire fammi dire o abbracciare, o in qualche modo fare un ombrello anche al futuro tecnologico.

00:07:25: Per esempio il riferimento è dato dall'articolo XXI della nostra costituzione molto banalmente tutti hanno il diritto di esprimere il proprio franziero quindi il proprio non animato con la parola o scritto e ogni altro mezzo di diffusione.

00:07:42: Questo lo ricordo a tutti, ma principalmente a Mestetto perché Binozza era molto attenti al nuovismo digitale che in qualche modo non è rimasto neanche estraneo al nostro dibattito costituzionale.

00:07:53: Ricorderete un momento in cui si parlava della possibilità?

00:07:57: E ti discursi in commissione costituturale sia alla camera che anziona tu?

00:08:00: Gli un nuovo emendamento all'articolo XXI, un nuovo articolo XXII bis che dovesse prevedere il diritto di accesso ad internet.

00:08:09: Per fortuna non è stato poi finalizzato, però questo fa capire per concludere la risposta alla tua domanda.

00:08:18: Non è una questione tanto di reazione immediata ma è ditenuta rispetto a quello che abbiamo già facendo.

00:08:27: anche in qualche modo conto sulla capacità del nostro ordinamento italiano europeo di essere una fisa armonica pronta da assorbire il nuovo tecnologico e poterlo in qualche modo ricostituire all'interno di un tessuto valoriale.

00:08:42: Questo tanto per essere chiare ancora non vuol dire conservatorismo o essere contraria a qualsiasi tipo di normativa, ma bisogna stare molto attenti perché il rischio è quello di inseguire l'inseguibile quindi di partire sconfitto in partenza.

00:08:59: Torreremo su queste difficoltà del diritto fra un attimo nel contesto europeo, ma prima volevo riprendere una tua sollecitazione al resto.

00:09:07: il fatto che dicevi pensare un po' al diritto che arranca rispetto alla tecnologia è un pò un mito.

00:09:15: E quando perziamo all'intelligenza artificiale, un altro mito è che questa sia una tecnologia in qualche modo neutrale.

00:09:21: e questo mi porta a Laura perché invece sappiamo che è una tecnologia che invece può riprodurre accentuare anche diseguaglianze esistenti.

00:09:30: E allora Laura ci vuoi dire qualcosa di più su questo?

00:09:33: Cioè il modo in cui un algoritmo può insinuarsi nelle disegoglianze sociali.

00:09:38: Certo, questo è un altro punto importante e deriva dal fatto che la tecnologia c'è spesso narrata, ci è spesso raccontata come un insieme di numeri di dati, di procedure formalizzate.

00:09:50: ma il problema è che i dati non esistono.

00:09:53: sono metalli in natura, sono prodotti sociali, riflettono storie e riflettano pratiche, riflettono le disuaglianze esistenti.

00:10:02: Per esempio nell'ambito della selezione del personale Amazon una decina tannifà costruisce tape costruisce il suo algoritmo per automatizzare la lettura degli cv che arrivano internamente quando ci sono le posizioni che si aprono e costruiscia questo algoritmo.

00:10:17: Qual è il problema?

00:10:19: Il problema è stato sia ricapito dopo che in sei mesi i direttori del settore HR di Amazon vedono assumere o promuovere internamente solo uomini, dove sono finite le donne.

00:10:32: Il problema si è capito exposed che è stato sicuramente un problema di design dell'algoritmo.

00:10:37: quindi i dati su cui l'algorithmo è stato allenato erano i datti dei precedenti quindici anni di assunzioni di Amazon.

00:10:46: Puoi immaginare Manuela come se in quindici anni, soprattutto per le carriere apicali quindi manager di alto livello si sono assunti solo uomini.

00:10:55: Cosa fa l'algoritmo?

00:10:56: Impara che per certe posizioni è bene e sono più adatti gli uomili che non le donne.

00:11:02: poi ovviamente Amazon ha capito l'errore e ha subito di smesso l'algoritmo.

00:11:06: Quindi il punto è che una tecnologia come quella dell'intelligenza artificiale riproduce le disuguaglianze, riproduce i cosiddetti bias che già troviamo nella società.

00:11:16: ma questo fino adesso è visto solo come un problema tecnico da ripulire.

00:11:22: Quindi è una questione di cosa stiamo misurando, chi viene classificato quali sono le conseguenze di questa classificazione che non è altro che una negoziazione come cevamo prima tra tutti gli attori convolti.

00:11:35: Io credo che le domande che solleva Laura abbiano una grande ripercussione dal punto di vista giuritico perché anche gli esempi che ci faceva di diseguaglianze ci pongono il tema della tutela dei diritti.

00:11:47: e quindi Eureste vorrei parlare con te su dove è la legislazione sull'intelligenza artificiale quanto meno in Europa?

00:11:54: Che cosa sappiamo di questa legislazione?

00:11:56: come cerca di navigare questi diversi obiettivi, quello della tutela dei diritti da una parte ma anche altri obietti altrettanto importanti.

00:12:04: La sicurezza e il mantenere il primato tecnologico.

00:12:07: Grazie Manuel, è una domanda importante e la mia percezione ovviamente un po' scherzando è che questa domanda tu lavori in questo momento a Bruxelles potrebbero non saperti dare una risposta precisa.

00:12:21: Cosa voglio dire?

00:12:22: Voglio dire che ci sia una grande confusione ma si sia un pò di disorientamento al fatto che qualche anno fa con l'artificial intelligence act si è voluto puntare, commettere sul futuro.

00:12:36: Sulla regolamentazione del futuro fa mirire in maniera poco tecnologica e poco specifica ma in qualche modo da la percezione della necessità di una scommessa che in qualche momento è risultata non del punto vincente.

00:12:50: cosa voglio dire?

00:12:51: Voglio dire che essere il primo al momento l'unico fai a fare al mondo che cerca di regolamentare, ovviamente non l'incrensenza artificiale ma alcuni utilizzi delle ai exante quindi per prevenire giustamente la relazione al principio cardinale con tutto ilismo europeo che è l'antignità dell'uomo.

00:13:09: Giustamente quindi nessuno sta dicendo attenzione non c'è stata coerenza col modello riconatore e costruzione europeo.

00:13:15: quello che si può discutere è il tempismo cioè averlo fatto quando ancora non era chiaro Qual era il modello da svilupparti?

00:13:24: Faccio un esempio stupido, ovviamente la proposta è stata fatta nel twenty-one.

00:13:28: ventuno e un anno dopo c'è stata la simpatica sorpresa dell'esplosione della generativa.

00:13:33: Cosa voglio dire?

00:13:33: che si ha dovuto riscrivere in parte il testo giustamente a proposito di rincorza dal diritto della tecnologia.

00:13:39: quindi l'Europa si è messa in anticipo rispetto agli altri perché aveva ed ha giustamenti un principio guida.

00:13:47: Quella della tutela non trovi i diritti fondamentali che lo hanno anche gli altri, non solo della dimensione individuale ma anche della dimensioni del soggetto all'interno dei corpi intermedi.

00:13:57: quindi è fondamentale in questo momento lavorare in anticipo sulla tutela dell'individuo nel mondo di lavoro, nel mondo dell'istruzione e così via.

00:14:08: Tutti sono tutti comparti considerati ad alto rischio.

00:14:11: qual è però adesso?

00:14:13: Il tema?

00:14:14: è che si è capito questa normativa non era del tutto compresa, forse non comprensibile.

00:14:20: Non direi così.

00:14:21: Diciamo da un del tutto compressa da chi doveva applicarle.

00:14:24: quindi sia in qualche modo posticipata l'applicazione, cercate di rendere più chiara quale deve essere la bustola ma soprattutto se si è deciso o si sta decidendo e spero che si va in quella direzione di non puntare soltanto sul braxell effect, cioè sull'esportazione del modello europeo, costi come avvenuto.

00:14:47: Lì sì con risultati vincenti col GDPR ma cercare anche un multilateralismo che in questo momento è cruciale perché concludo

00:14:56: è

00:14:57: assolutamente fisiologico che diverse aree regionali nel globo decidano di regolare o di non regolare.

00:15:04: Le hai rispetto alle loro tradizioni locali?

00:15:07: quando intendo locali, intendo nazionali che chiaramente non corrispondono a quelle europee e quindi è evidente che ci può essere un effetto di rigetto piuttosto pericoloso.

00:15:16: Però questo resti mi porta a farti un'altra domanda, perché a questo punto la devo fare anche se prometto che è l'ultima.

00:15:22: Perché tu dici giustamente che ogni area geografica o ogni giurisdizione poi giustmente risponde alle sue esigenze interne.

00:15:29: Però c'è uno spazio di intesa cioè è realistico pensare una governance internazionale delle AI in un momento in cui Stati Uniti e Cina sembrano spingere in direzione diverse ed anche l'Europa come dicevi tu ha un'agenda comunque distintiva.

00:15:45: quindi uno spazio realistico di cooperazione internazionale?

00:15:49: Questa è una domanda a cui dovrebbe essere rivolta le Nazioni Unite, perché stanno provando come sempre ovviamente al livello globale di costituire una governance o una possibilità di tutela globale.

00:16:04: del Delle AI.

00:16:05: Eh,

00:16:05: guardo che tu conosci benissimo meglio di me il funzionamento delle Nazioni Unite e l'idea assuamente nobile è avere un linguaggio comune.

00:16:13: in questo caso però ti devo dire la verità io sono tutto sto scettico perché non per l' idea o per l intento che noppilissimo ma per l esercizio della scrittura che poi rivela anche i suoi limiti.

00:16:23: e quindi essere più chiaro.

00:16:24: Se tu guardi adesso quelle che sono le carte o anche le commissioni o gli lavori delle commissioni a livello appunto globale sul Delle Ai troverai?

00:16:34: dei principi su cui non si può che concordare.

00:16:38: Faccio l'esempio del responsabile ai human in the loop, i human over side.

00:16:42: chi non concorda di questo momento con questi principi però poi lei rischio è come al solito a livello globale ma ancora di più per questo tipo di, come dire, strumentazione che tu hai evocato e si rimanga a livello di grande vaguezza e quindi di fatto di inutilità sostanziale di una dichiarazione d'intenti che poi non abbia un effettività.

00:17:04: Quindi il rischio è concreto, quindi non voglio dirti che non c'è spazio o lo spaccio se si vuole si trova ma fammi dire qui sarà una volontà o degli stati, o delle aree regionali che dovranno in qualche modo trovare dei compromessi per trovare poi a andare a qualcosa di più vincorante.

00:17:21: A questo punto di vista chiudo mi sembra più promettente la convenzione del Consiglio d'Europa, la prima convenzione, il primo trattato al mondo sulla tutela dei diritti fondamentali ad ambito AI.

00:17:32: perché semplicemente perché è diritto internazionale e non è soltanto proclamazione di intenti.

00:17:37: E questo, Laura mi porta l'ultima domanda per te oggi perché Orestre giustamente richiama l'attenzione all'esercizio della scrittura.

00:17:45: come verranno fatte le regole anche per evitare che rimangano solo una mera dichiarazione di intenti.

00:17:51: E questo mi porta a riflettere su un fatto chi deve scrivere le regle?

00:17:55: perché fino ora abbiamo sentito parlare appunto governi, imprese esperti.

00:17:59: Secondo te ci dovrebbe essere anche uno spazio per i cittadini?

00:18:03: sì e come?

00:18:05: domanda importantissima che è stata posta anche in passato perché quando è scoppiato internet, quindi dal milione novecento e noventa e cinque, quando internet ha cominciato a entrare nella nostra case questa era una delle domande all'ordine del giorno.

00:18:20: Il punto quello è che Internet esattamente come lei di oggi è diventata un'infrastruttura sociale, un infrastrutture su cui noi abbiamo costruito non solo pratiche sociali dalla nostra quotidienità ma pratiche con pratiche e politiche, quindi il punto è che se hai esattamente diventa

00:18:40: una

00:18:41: infrastruttura sociale allora non può riguardare solo gli specialisti.

00:18:45: Quindi esattemente in linea con quello che la scuola ha, la sanità o la mobilità deve diventare oggetto di discussione pubblica.

00:18:52: a questo punto qual'è il ruolo per i cittadini?

00:18:55: Sicuramente quello di esserne consapevoli, quindi sicuramente una maggiore consapevolezza di quelli che sono irisi da cui abbiamo iniziato la nostra conversazione qualche minuto fa.

00:19:08: Il problema è che i cittadini per adesso sono poco consapevoli perché se ne sanno qualcosa.

00:19:15: si fanno magari incantare, non uso questo verbo a caso proprio perché a volte si parla delle iai come una narrazione magica che encanta chi l'ascolta e quindi i citadini non sanno esattamente che cosa potrebbero dire.

00:19:31: però è molto interessante è quello che è successo nell'ultimo anno in America in particolare ma anche in Europa, ovvero le prime proteste organizzate in relazione ai datacenter.

00:19:43: E interessante è il fatto che in soli sei mesi una ricerca della più Internet Center fa vedere come gli americani siano passati ad avere una maggiore consapevolezza delle conseguenze negative dei datacenters che sono una delle parti della filiera produttiva del AI fondamentali.

00:20:02: cosa si è sostanziata questa consapevolezza.

00:20:04: Si ha sostanziate nel capire che i datacenter hanno implicazioni negative per l'ambiente, hanno implicazione negative per il mercato del lavoro locale.

00:20:13: perché ricordiamoci che tante volte ci dicono.

00:20:15: Costruiamo un datacentre su questo territorio perché aumenterà l'occupazione e in realtà si capisce tape che questo non è vero.

00:20:22: ma soprattutto c'è la tensione per i cittadini a quello che è la sostenibilità ambientale.

00:20:27: quindi il tema è come rendere i cittadini maggiormente alfabetizzati sulle AI.

00:20:34: E questo è una cosa importantissima perché non è solo questione di saper usare CIGPT, ma capire cosa sono i dati.

00:20:43: e prima abbiamo detto una costruzione sociale che cos'è il bias?

00:20:46: ma soprattutto è un po lo anticipato o reste?

00:20:50: quelli sono le scelte che riflettono i poteri in campo che decidono sostanzialmente i percorsi che il prossimo sviluppo delle AI può prendere.

00:21:00: Perché non è assolutamente scritto sulla pietra, per esempio il fatto che il destino del svilippo tecnologico sia in relazione alla potenza dei modelli, no?

00:21:11: Per adesso c'è stata una grande corsa a produrre modelli sempre più potenti.

00:21:15: Il punto è che potrebbe esserci e questo ad esempio è una scelta che ha fatto la Cina una decisione di scegliere modelli più piccoli magari open source.

00:21:23: quindi non è detto che la strada sia quella che per adesso abbiamo visto delineare però è molto importante che cittadini possano in un qualche modo avere una voce, perché è una questione democratica.

00:21:37: Senza partecipazione lei rischia di essere percepita davvero come qualcosa che accade alle persone e non qualcosa su cui la società possa costruire.

00:21:46: Quello che emerge da questa conversazione è che la Corsa all'intelligenza artificiale non riguarda soltanto chi riuscirà a sviluppare modelli più potenti, riguardi anche come questi sistemi entreranno nelle nostre società, quali disuguaglianze riprodurranno chi controllerà le istituzioni e le regole in grado di povernarvi.

00:22:03: ed è qui che emerge il paradosso da cui siamo partiti.

00:22:06: Proprio mentre avremmo sempre più bisogno di cooperazione e regole condivise, l'AI sta diventando uno dei principali terreni di competizione economica e politica.

00:22:16: Un grande grazie a Laura Sartori e oreste Pollicino per averci aiutato a mettere insieme questi pezzi.

00:22:22: Grazie anche a voi per aver ci ascoltato!

00:22:25: Restate con noi su Connecting the Nodes, il podcast di Connect per continuare a esplorare le sfide senza confini del nostro tempo.

00:22:33: Stay connected e alla prossima!