Immortalità e trapianti di testa

Nonostante la discussione sull’immortalità accompagni da sempre l’immaginario collettivo attraverso miti e fiabe, e sia stato al centro di vari progetti letterari (inclusi i nostri Foscolo e Pavese) e cinematografici (il mio primo ricordo “pop” sul tema è senza dubbio la rappresentazione cinematografica del Sacro Graal e del suo custode di Spielberg in Indiana Jones e l’ultima Crociata, ma in altra sede ho discusso gli spunti della recente serie televisiva Altered Carbon: cfr. “Altered Mortality: Why the Quest for Immortality is Regaining Visibility in the Media”, NanoEthics, 13.3 (2019), pp. 255-259), solo recentemente la nostra società si è effettivamente avvicinata in maniera prepotente a rendere la ricerca dell’elisir di eterna giovinezza più vicina alla realtà – anche se con speculazioni più o meno credibili sull’effettiva fattibilità di alcune delle tecniche proposte per perlomeno allungare significativamente la vita, se non “curare” la morte in maniera definitiva.

Già nel 2007 Aubrey de Grey ci ammoniva che l’invecchiamento è come una malattia – né più né meno del cancro o dell’Aids – e quindi bisognosa di essere curata. Sulla scia di questa tesi radicale, vari progetti altrettanto controversi sono venuti alla ribalta. Uno di questi includeva il progetto di trapianto di testa tra esseri umani portato avanti dal chirurgo italiano Sergio Canavero e il suo collega cinese Xiaoping Ren. Progetto accolto con estremo scetticismo dalla comunità scientifica – e probabilmente a ragione, visto che è scomparso dai radar da qualche anno ormai (cfr. M. D. Garasic, A. Lavazza, “Why heaven is not about saving lives at all”, AJOB Neuroscience, 8.4 (2017), pp. 228-229). A livello concettuale però, è interessante notare come, sulla falsariga di de Grey, Ren e Canavero utilizzano la nozione di invecchiamento come malattia, suggerendo che l’arrivo di cloni umani (da utilizzare come “basi” sulle quali di volta in volta trapiantare la nostra testa) aiuterebbe la società ad affrontare l’aumento delle disparità economiche previste come risultato dell’invecchiamento della popolazione. Un punto piuttosto debole, in quanto anche i cloni sarebbero – almeno inizialmente – estremamente costosi.

Morte e filosofia

Quali potrebbero essere le implicazioni filosofiche di rivoluzionare il nostro modo di rapportarci alla morte come malattia da curare? Ad esempio, se si vedesse la morte come una malattia, ci si potrebbe aspettare che sia possibile curarla o prevenirla, come si fa con le altre malattie. Ciò potrebbe portare a una maggiore enfasi sulla medicina e sulla scienza per cercare di sconfiggere la morte e prolungare la vita umana il più a lungo possibile. Altri potrebbero sostenere che la morte è inevitabile e che cercare di evitarla o rimandarla è futile o addirittura ingiusto. In questi casi, si potrebbe concentrare l’attenzione su come vivere la vita al meglio e come affrontare la morte in modo dignitoso e sereno, anziché sulla sua prevenzione o cura. Più strutturalmente, la concezione della morte come una malattia potrebbe avere diverse implicazioni filosofiche a seconda di come viene interpretata e di come viene affrontata. Accennando una rapida – e alquanto limitata- applicazione al caso proposto qui delle principali teorie etiche (consequenzialismo, deontologia e etica della virtù) utilizzate in etica medica, potremmo suddividerle così.

Per primo, il consequenzialismo è una teoria etica secondo la quale la moralità di un’azione viene valutata in base alle conseguenze che essa produce. Secondo questa prospettiva, l’azione più morale è quella che produce le conseguenze migliori o più desiderabili. Ci sono diverse varianti del consequenzialismo, come l’utilitarianismo, secondo il quale le azioni morali sono quelle che producono il maggior benessere per il maggior numero di persone. Un approccio consequenzialista potrebbe concettualizzare la morte come una malattia se si sostiene che l’obiettivo principale dell’etica è quello di produrre le conseguenze migliori o più desiderabili. In questo caso, se la morte viene vista come una malattia, allora cercare di prevenire o curare la morte potrebbe essere considerato moralmente giusto, poiché questo potrebbe produrre le conseguenze migliori per le persone coinvolte.

La deontologia è una teoria etica secondo la quale ci sono alcune regole morali (o “doveri”) che devono essere seguite indipendentemente dalle conseguenze. Secondo questa prospettiva, alcune azioni sono moralmente giuste o sbagliate in sé e per sé, indipendentemente dalle loro conseguenze. Ad esempio, l’etica deontologica potrebbe sostenere che l’omicidio è sempre sbagliato, indipendentemente dalle conseguenze che ne derivano. La deontologia potrebbe concettualizzare la morte come una malattia se si sostiene che ci sono alcuni doveri morali che devono essere seguiti indipendentemente dalle conseguenze. Ad esempio, se si sostiene che c’è un dovere morale di proteggere la vita umana e di preservare la salute, allora cercare di prevenire o curare la morte potrebbe essere considerato un dovere morale, indipendentemente dalle conseguenze che ne derivano.

L’etica della virtù è una teoria etica secondo la quale le persone dovrebbero sviluppare e praticare determinate virtù morali, come la saggezza, la giustizia, il coraggio e la temperanza. Secondo questa prospettiva, le persone moralmente virtuose sono quelle che hanno sviluppato queste virtù e le mettono in pratica nella loro vita. L’etica della virtù si concentra sulla formazione del carattere e sullo sviluppo di tratti morali positivi, piuttosto che sull’osservanza di regole morali specifiche o sulla produzione di determinate conseguenze. L’etica della virtù potrebbe concettualizzare la morte come una malattia se si sostiene che ci sono alcune virtù morali che dovrebbero essere sviluppate e praticate. Ad esempio, se si sostiene che la compassionevole cura degli altri è una virtù morale, allora cercare di prevenire o curare la morte potrebbe essere visto come un modo per mettere in pratica questa virtù e aiutare gli altri. Tuttavia, l’etica della virtù potrebbe anche sostenere che accettare la morte con dignità e serenità quando non è possibile evitarla è una virtù morale, a seconda delle circostanze specifiche.

Ci sono poi delle implicazioni di giustizia sociale e accesso alle risorse che si intrecciano in maniera profonda con recenti sviluppi legati a biotecnologie e il rallentamento dell’invecchiamento.

Plasma nuovo, dinamiche vecchie?

Come discusso con l’amico e collega Andrea Lavazza, le aspettative che le trasfusioni di plasma sanguigno (da giovani a meno giovani) stanno suscitando meritano grande attenzione (cfr. “Vampires 2.0? The ethical quandaries of young blood infusion in the quest for eternal life”, Medicine, Health Care and Philosophy, 23 (2020), pp. 421-432). Davvero questa tecnica potrebbe rallentare l’invecchiamento o addirittura far ringiovanire le persone? Recenti studi preclinici e test sperimentali ispirati alla tecnica nota come parabiosi – una tecnica in cui due organismi (tipicamente, un topo giovane e uno “anziano”) vengono uniti chirurgicamente così da creare un sistema circolatorio unico –  hanno suscitato grande attenzione da parte dei media, anche se per ora non ci sono prove evidenti della loro efficacia. Di certo la crescente visibilità che queste ricerche stanno riscontrando è l’ennesima dimostrazione che la tesi di de Grey ha fatto breccia nella nostra società, assumendo un ruolo sempre più centrale nell’agenda scientifica e sociale. In particolare, una serie di startup hanno cominciato a interessarsi all’idea di poter vendere la giovinezza a facoltosi “differentemente giovani” attraverso trasfusioni di plasma dei primi verso questi ultimi. Con profitti non trascurabili ma con una serie di problemi (anche legali per varie di queste compagnie) suscitati da questo nuovo “mercato”. Terapie e tecniche accessibili solo a una frazione della popolazione (per via dei loro costi elevati) sembrano destinate ad aumentare esponenzialmente la disuguaglianza sociale e a produrre conseguenze problematiche.

Le questioni di giustizia distributiva legate all’estensione della durata della vita si concentrano principalmente su questioni legate ai beni materiali, come il reddito e la ricchezza. Tuttavia, spesso non si tiene sufficientemente conto della dotazione genetica di ciascun individuo, che influenza fortemente il benessere personale. Indubbiamente essere portatori di una variante genetica che causa una determinata malattia (ad esempio l’anemia) pone l’individuo in una posizione peggiore rispetto alla maggior parte delle persone che vivono nella stessa comunità, esponendolo a vulnerabilità differenti rispetto alla media anche se benestante o con un buon salario. 

Allo stesso modo, individui che nascono con un corredo genetico “buono” (ad esempio, geni per la longevità tipici dei centenari) che aumenta drasticamente le loro possibilità di vivere una vita lunga e in buona salute hanno un enorme vantaggio comparativo – dal punto di vista di prospettive di salute – rispetto ad altri gruppi di individui. In questo senso, la tradizionale divisione della dotazione sociale tra gruppi privilegiati e svantaggiati può essere combinata e intersecata orizzontalmente con la divisione tra dotazione naturale e dotazione genetica specifica tra gruppi privilegiati e svantaggiati. La rilevanza di questo fattore è stata sottolineata da John Rawls, però la declinazione delle sue tesi a questo contesto meriterebbe addizionale lavoro, ma non in quest’occasione. 

Rimane chiaro che qualsiasi tipo di tecnica o intervento finalizzati a rallentare l’invecchiamento possono essere valutati in maniera differente dall’applicazione di diverse teorie della giustizia rilevanti per questa nuova frontiera della ricerca biomedica. Alcuni hanno una visione riduttiva (e da molti considerata superata), meno interessata al progresso scientifico e più focalizzata sul trattamento, sostenendo che l’invecchiamento è un processo naturale che non ha alcun obbligo di correzione da parte di nessuna delle teorie della giustizia.

L’immortalità è solo per i più ricchi

Tuttavia, se consideriamo la complessiva vulnerabilità dell’essere umano alla luce delle conoscenze oggi disponibili, vediamo che le disuguaglianze che si manifestano nella vecchiaia possono e devono essere oggetto di intervento a vantaggio di tutti, non solo di chi ha vinto la lotteria genetica. Se è possibile vivere più a lungo in buona salute senza essere colpiti dalle malattie tipiche dell’invecchiamento è giusto cercare di studiare più a fondo queste tecniche. Investire nella ricerca e intervenire per ritardare l’invecchiamento cellulare in tutte le fasi della vita potrebbe contribuire alla salute e al benessere dell’individuo all’interno della sua “naturale longevità”, non dovrebbe necessariamente implicare una spasmodica ricerca della perpetua giovinezza o dell’immortalità. In fin dei conti, Ronald Dworkin ci ammoniva a tenere sempre presente che le disuguaglianze che non derivano da scelte deliberate degli individui, ma da circostanze che sfuggono al loro controllo, sono per definizione ingiuste.

Considerando che molte persone trascorrono i loro ultimi anni di vita con malattie tipiche della loro sfortunata estrazione nella lotteria genetica, mentre altri individui invecchiano in buona salute, sembra ragionevole ipotizzare che questo tipo di disuguaglianza debba essere eliminata dalla società se possibile. Al tempo stesso, appare ancora impellente sottolineare che questa nobile causa non può far passare in secondo piano che questo tipo di ricerche possano tollerare la creazione di un sistema in cui pochi monopolizzino l’opportunità di “accesso alla salute”. Dato che scenari in cui pochi ricchi potrebbero esaurire tutto il plasma giovane disponibile sono lontani dall’essere inverosimili, c’è da chiedersi come dovrebbe rispondere la società nella sua totalità, non concentrandoci sul singolo individuo. In questo senso, la domanda è se il pubblico debba sostenere una linea di ricerca che persegue esplicitamente risultati che – almeno inizialmente – saranno profondamente elitari e quindi inaccessibili alla maggior parte di coloro che sono interessati alla terapia in questione. Infatti, dall’utilizzo di plasma da giovani donatori avvenuto finora, è apparso chiaro che, anche a causa della stratificazione per età della popolazione nei Paesi occidentali, questi trattamenti anti età o ringiovanenti difficilmente possono essere accessibili ai più, ma solo a pochi ricchi. La ricerca pubblica, o finanziata con contributi pubblici, dovrebbe essere indirizzata verso terapie che aiutino a ridurre le diseguaglianze genetiche che ci caratterizzano e in alcuni casi creano sofferenza e disparità, ma sempre conscia del contesto sociopolitico in cui i risultati si svilupperanno. Con grande attenzione che questi non abbiano evidenti limitazioni in termini di distribuzione e somministrazione. Dinamiche per certi versi simili le abbiamo viste, con l’imbarazzo di parecchi di noi, molto chiaramente con la patetica distribuzione a livello globale dei vaccini contro il Covid-19. In fin dei conti, invece di curarci dalla morte, dovremmo concentrarci sul far vivere una vita degna a tutti. Anche in termini medici.

L'articolo Guarire dalla morte: l’immortalità è solo per i più ricchi proviene da La Meraviglia Del Possibile.

Anziché prendere sul serio le obiezioni di Arrow, Hahn, Debreu, Greenwald, Sraffa, Stiglitz etc, della logica e della matematica, le principali obiezioni al mio pamphlet sono state principalmente di due tipi:

1.  Le critiche son cose vecchie – un “argomento” senza dubbio forte, che discrediterebbe e.g. il teorema di Pitagora per anzianità;
2. I modelli DSGE nuovo keynesiani – ossia i mainstream – sono pieni di non linearità e quindi non c’è nulla di nuovo nella modellistica ad agenti.

C’è un equivoco di fondo che è ben chiarito nella “domanda di Arrow”. Waldrop ricorda che al primo convegno del Santa Fe Institute, Arrow interruppe il relatore, Kaufmann, che stava enfatizzando l’assenza di non linearità in economia sostenendo che in realtà l’economia è piena di funzioni non lineari. La replica del relatore fu chiara: la non-linearità di cui la complessità parla è quella che produce emergenza è dovuta ai meccanismi cumulativi di feedback negativi e positivi. È questa la non-linearità che il mainstream ignora. La non linearità di cui si parla non è relativa alla forma delle funzioni, ma quella che genera emergenza la quale è possibile solo in un sistema aperto: la vera differenza tra la modellistica e i complex adaptive system è questa essendo i primi un sistema chiuso. Ma non esiste la possibilità di equiparare l’economia ad un sistema chiuso – a meno di ipotizzare che l’informazione sia perfetta e non ci sono innovazioni. Questo si deve al fatto che l’economia marginalista prende a riferimento la fisica classica di Newton che ovviamente ignora la termodinamica.

Non si può andare contro la matematica e la logica. Tanto è vero che gli economisti matematici sono quelli che per primi hanno abbandonato il modello di equilibrio generale.

Al di fuori di un sistema chiuso non si può utilizzare l’equilibrio dove il tempo non esiste. È utile ricordare il monito di Debreu nella sua lectio Nobel: “La seduzione della forma matematica può diventare quasi irresistibile. Nel perseguimento di tale forma, può darsi che il ricercatore sia tentato di dimenticare il contenuto economico e di evitare quei problemi economici che non siano matematizzabili” (la rimozione di problemi non risolvibili con “carta e penna”). La formalizzazione sempre più astratta di tali modelli, spesso dovuta alla necessità di semplificare per renderli “analiticamente trattabili”, fino a commettere quelli che Akerlof (2020) definisce “peccati di omissione”, insieme alla loro difficoltà nello spiegare alcuni fenomeni economici e sociali osservati, ha portato ad interrogarsi sull’utilità di strumenti che talvolta sembrano impiegati come fossero fine a sé stessi.

Si ricordi inoltre che nei modelli chiusi, il tempo diventa è un elemento puramente contabile mentre in un modello aperto il tempo equivale al di venire dell’economia cioè irreversibile dove la storia conta. La crisi del modello dominante è ormai irreversibile, ma come i soldati giapponesi che restavano di arrendersi nonostante la resa del Giappone nella Seconda Guerra Mondiale così i vedovi del mainstream continuano ed affidarsi al sistema dei prezzi che non può valere per quanto minime siano le imperfezioni informative.

L’economia nasce come politica economica con l’obiettivo di gestire il cambiamento della società dovuto all’avvento della rivoluzione industriale. Questo accade prima che, per mezzo della sua matematizzazione, l’economia abbia l’ambizione di assomigliare alla fisica per divenire una scienza. Uno degli scopi dell’economia politica classica è quello di essere utile alla società per agevolare il processo di crescita ed ovviare alle patologie che esso comporta. Se questo scopo ha ancora un senso, l’economia si deve dotare di strumenti che consentano di cercare le chiavi dove sono state perdute e non sotto un lampione solo perché lì c’è luce. Come s’è compreso nelle le scienze dure – quali la fisica e chimica – la teoria della complessità pone fine al tempo delle certezze, alla corrispondenza precisa tra causa ed effetto.

+

This product has multiple variants. The options may be chosen on the product page

Il mercato rende liberi

€9,99 – €16,00 IVA inclusa

La teoria economica dominante si basa ancora sull’equilibrio e la separabilità dei sistemi, categorie appropriate solo per alcuni sistemi della fisica classica – che un economista definirebbe macroscopici. Per studiare il comportamento microscopico la fisica statistica ha introdotto l’interpretazione probabilistica. Si verifica allora una contrapposizione tra un’interpretazione deterministica, che considera l’equilibrio di ogni singolo agente e quindi del sistema, ed un un’interpretazione stocastica in cui il comportamento individuale è casuale ma porta ad un equilibrio di tipo statistico, in cui i singoli elementi possono essere in disequilibrio mentre il sistema giunge ad uno “stato di compatibilità”, più o meno duraturo interpretato da una distribuzione di probabilità. E ci si è resi conto che nel passaggio da un livello gerarchico all’altro (dalla micro alla macro e.g.) emergono fatti nuovi, non presenti ad una gerarchia più bassa (l’inflazione, le curve di Okun e Phillips, tra le tante) per cui le “leggi” valgono solo al loro specifico livello di disaggregazione.

Se, come mostrato da Anderson (1972) nel celebre More is different, l’aggregato non è la somma delle sue componenti, ma, piuttosto, le proprietà del tutto derivano dall’interazione fra le sue parti, allora intervengono incertezza e non-linearità. Ciò implica l’abbandono del sogno di poter formulare una “legge naturale”, della proporzionalità tra causa ed effetto e di dinamica di un sistema ricostruibile come somma degli effetti di singole cause che agiscono sulle singole componenti: insomma un requiem per l’individualismo metodologico.

Per collegare la micro-economia con la macro-economia, l’economia mainstream ha introdotto il framework dell’“agente rappresentativo”, un agente medio che agisce senza curarsi del comportamento altrui, tanto utile analiticamente quanto fallace e foriero di errori perché trascura l’interazione.

In tal modo si è cercato di ridurre il macro-aggregato alla micro-parte per costruzione, il che dà l’idea di una possibile, ma falsa, micro-fondazione – per tacere della rinuncia all’analisi della distribuzione del reddito, della ricchezza e della dimensione degli agenti o, più in generale, degli effetti di composizione. Per quanto priva di ogni ontologia, l’analogia è così comoda ed efficace da essere utilizzata ancora oggi, a distanza di più di un secolo dalla sua introduzione. Il metodo del massimo-minimo (utilità e costo) deriva dall’analogia con i sistemi classici della fisica, che sono deterministici e separabili, ed i principi che si devono introdurre sono assiomi necessari – ed in quanto tali ad hoc – per ridurre il comportamento degli agenti economici a quello degli atomi. Ciò è avvenuto attorno al 1880 con la rivoluzione marginalista di Jevons, Menger e Walras che ambiva a trasformare la disciplina dell’economia in una scienza sociale quantitativa.

L’uso della matematica ha finito con l’attribuire all’economia un’autorità che è diventata una presunta obiettività ed ha nascosto l’identificazione delle riflessioni ideologiche che precedono la fase analitica nelle scienze sociali. Questa impostazione dell’economia è un fattore decisivo per l’affermazione definitiva del pensiero economico nei termini del linguaggio formale della matematica quando, per la prima volta, il metodo assiomatico-deduttivo viene applicato al di fuori dei contesti tradizionali in cui s’è sviluppato (e.g. logica, aritmetica, geometria) e di cui le scienze naturali hanno potuto avvantaggiarsi con i ben noti successi. La fisica impiega i risultati che la matematica ha assiomaticamente dedotto in modo formale e rigoroso per formulare teorie esplicative delle leggi della Natura e le adotta solo dopo averle empiricamente validate.

Una procedura simile è meno comune in economia, sia per l’assenza di dati sperimentali sia per la non replicabilità di molti eventi. Così Hahn poteva sostenere di non conoscere il caso di una teoria economica rigettata perché incapace di spiegare i fatti e il successo, più che decennale, della teoria dei cicli economici reali, nonostante le evidenze empiriche fossero in palese contrasto con le ipotesi della teoria stessa. Eccezion fatta per gli economisti mainstream, è indubbio che il comportamento degli esseri umani risulta più difficile da descrivere attraverso modelli matematici di quanto lo sia quello degli atomi. Infatti, non è sufficiente adottare le forme ed i metodi della fisica per modellare l’economia sulla base di una qualche analogia perché gli agenti non sono atomi e l’economia è una disciplina sociale che non può disconoscere la rilevanza della storia.

In ultima analisi esiste un problema di informazione: solo in un sistema chiuso, di baratto – con mercati completi e dunque informazione perfetta – i prezzi possono agire da co-ordinatori. Quando però i prezzi non segnalano solo l’eccesso di domanda o di offerta il mercato non è più efficiente (il teorema dell’impossibilità di mercati efficienti di Grossman e Stiglitz, 1980). Il modello di equilibrio economico generale nella formulazione di Arrow-Debreu, per quanto formalisticamente inattaccabile, non è robusto rispetto a minime limitazioni informative. Tanto i suoi teoremi “ottimali” quanto i suggerimenti di politica economica sono solo esercizi matematici logicamente consistenti di un sistema incorretto e, irrimediabilmente, incompleto (si vedano i teoremi di Gödel). Il modello di Arrow e Debreu è inattaccabile dal punto di vista matematico purché disaccoppiato dal fenomeno da descrivere: l’economia (come sostiene lo stesso Debreu e come dimostra il percorso intellettuale di Arrow passato dai sistemi chiusi ai Complex Adaptive System). L’equilibrio generale come fatto economico viene trasformato in un fatto matematico in ragione di un insieme di assiomi necessari per trovare la soluzione con un procedimento logicamente consistente: in primo piano c’è la matematica, mentre l’economia è solo un pretesto.

Questo modello è non corretto se lo si considera come un modello economico in quanto non riesce a descrivere alcun sistema economico reale, benché questa fosse l’originaria intenzione dei teorici dell’equilibrio economico generale.

In termini formali, il modello di Arrow e Debreu è un’opera mirabile che mostra quali e quante restrizioni siano necessarie per trovare una soluzione al problema di dimostrare l’esistenza dell’equilibrio. Più che un modello descrittivo dell’economia è un argomento che mostra i limiti del parlare di economia attraverso la sua matematizzazione astratta, l’equilibrio è un caso particolare del non-equilibrio e la linearità della non-linearità, vedremo che il mainstream è un sotto-insieme dell’economia della complessità. Poiché il sistema economico è complesso, lo si può studiare solo attraverso una metodologia appropriata a replicare (in silico) alcuni eventi irripetibili nei fatti, ma simulabili costruendo sistemi ad agenti e studiando le loro reti di connessione.

L'articolo L’economia mainstream sbaglia. È ora di abbracciare la complessità proviene da La Meraviglia Del Possibile.

__________________________________________________________

I rischi posti dalle nuove applicazioni dell’Intelligenza Artificiale (AI) sono ormai molteplici: dalla violazione della privacy alla discriminazione, dalla manipolazione mentale al rischio di danni fisici, psicologici o economici. È del 5 luglio il provvedimento del Garante Privacy italiano che sanziona la società Glovo per l’utilizzo di un sistema AI potenzialmente discriminatorio e oscuro impiegato nel suo servizio di consegna a domicilio. Per fare ulteriori esempi, i sistemi AI possono non solo identificare il volto di un soggetto in una folla, ma anche riconoscerne le emozioni e addirittura classificarlo in base a caratteristiche personalissime e sensibili. Ne sono prova alcuni discutibili studi recenti che sono riusciti a identificare l’orientamento sessuale o anche la propensione al crimine a partire da caratteristiche facciali. Altrettanto preoccupante è un recente progetto di ricerca cinese sul riconoscimento emozionale nella minoranza degli Uiguri: i soggetti sono obbligati a testare l’algoritmo sottoponendosi a test forzati.

Alcuni algoritmi possono addirittura predire le capacità e l’affidabilità dei candidati per una posizione lavorativa, basandosi semplicemente su video-interviste. Tecnologie simili potrebbero presto essere utilizzate nelle scuole per predire il livello di attenzione ed educazione degli studenti. Inoltre, le società di tecnologia finanziaria (fintech) prevedono di usare i social media e altri dati per stabilire le condizioni e i tassi d’interesse dei mutui. Sistemi AI complessi sono già usati in diverse parti del mondo per le auto a guida autonoma, per le diagnosi mediche, per cani poliziotti robotici e addirittura per le armi “intelligenti”. Peraltro, anche i più comuni sistemi AI – come quelli impiegati nelle app per la consegna a domicilio – possono essere discriminatori 

Tutto ciò può portare a scenari distopici, come il sistema di social scoring adottato dalla Cina, in cui un algoritmo può classificare i cittadini in base a quanto rispettano le regole e a quanto mostrano obbedienza (online e offline) verso il partito. Altri rischi, ben più concreti, sono la discriminazione sul luogo di lavoro in base al sesso o all’orientamento sessuale o a danno di determinate minoranze sociali in contesti di polizia predittiva. Il controllo delle emozioni da parte di sistemi AI, peraltro, può portare alla manipolazione comportamentale di bambini, anziani o altri consumatori, sfruttandone le vulnerabilità cognitive e inducendoli a scelte commerciali indesiderate. Allo stesso tempo, questi sistemi automatizzati sono spesso opachi e pertanto difficili da contestare.

Si tratta, com’è chiaro, di una sfida globale e avrebbe poco senso affrontarla all’interno degli stretti confini nazionali. Ecco perché sia l’Unione Europea che gli USA si stanno muovendo – in parallelo, ma con approcci molto diversi – nella direzione di una regolamentazione delle applicazioni AI “ad alto rischio”.

Lo scorso 21 aprile la Commissione Europea ha pubblicato una nuova proposta di Regolamento dell’intelligenza artificiale, che ora dovrà essere discussa e approvata dal Consiglio e dal Parlamento Europeo. La proposta introduce regole, proporzionali al livello di rischio, per prodotti e servizi basati sull’AI. Pur non prevedendo nessun nuovo diritto individuale per i consumatori/cittadini, il regolamento propone ambiziosi obiettivi di correttezza, sicurezza e trasparenza per le applicazioni AI.

Il quadro proposto dalla Commissione si basa su diversi livelli di rischio: alcuni sistemi di AI sono considerati a rischio intollerabile e sono pertanto proibiti. Si tratta delle pratiche online di manipolazione cognitiva che causano danni fisici o psicologici o sfruttano la vulnerabilità dovuta all’età o alla disabilità. Sono anche vietati i sistemi di valutazione sociale dei cittadini che possono produrre effetti dannosi sproporzionati o fuori contesto, nonché i sistemi di identificazione facciale usati indiscriminatamente dalle forze dell’ordine in luoghi aperti.

Altri sistemi AI sono considerati ad alto rischio (incluso il riconoscimento facciale, o l’AI usata in infrastrutture critiche, in contesti di educazione, valutazione dei lavoratori, emergenza, assistenza sociale, valutazione del credito, o l’AI usata da parte delle forze dell’ordine, della polizia di frontiera e dei tribunali). I fornitori e gli utilizzatori di tali sistemi AI dovranno effettuare una valutazione dei rischi e assicurare la sorveglianza umana nello sviluppo dell’algoritmo per garantirne la modificabilità e la comprensibilità. Dovranno, inoltre, preparare un adeguato piano di gestione dei dati, colmando eventuali lacune, prevenendo qualsiasi pregiudizio (“bias”) intrinseco all’algoritmo e contestualizzando il sistema AI nella specifica realtà socio-geografica in cui se ne prevede l’utilizzo.

Si tratta di una delle proposte legislative in merito più avanzate al mondo: indica passi concreti verso sistemi AI più equi, sicuri e affidabili, affrontando realisticamente alcune delle questioni più delicate in merito (comprensibilità del funzionamento dell’algoritmo, prevenzione di “bias” discriminatori, accuratezza dei risultati).

+

This product has multiple variants. The options may be chosen on the product page

Le nuove leggi della robotica

€9,99 – €20,00 IVA inclusa

Tuttavia, il testo lascia molti problemi aperti, come messo in luce da un recentissimo parere del Comitato Europeo per la Protezione dei Dati. In particolare, non prevede nuovi diritti individuali per consumatori/cittadini e non obbliga gli sviluppatori di AI a coinvolgere nella progettazione degli algoritmi i soggetti potenzialmente interessati. Inoltre, l’elenco delle pratiche AI proibite e l’elenco dei sistemi AI ad alto rischio potrebbero rivelarsi difficili da espandere: nell’attuale proposta i sistemi AI per il riconoscimento emozionale dei soggetti sono considerati ad alto rischio solo se utilizzati nelle attività di polizia. Per fare un altro esempio, la manipolazione commerciale online che produce danni solo economici ai consumatori non sarebbe né vietata né ad alto rischio. Peraltro, solo la Commissione Europea potrà aggiornare la lista dei sistemi AI ad alto rischio, cosa che può portare a una eccessiva rigidità del sistema.

Sappiamo tuttavia che, nonostante gli sforzi europei, la maggior parte dei servizi e prodotti AI non sono prodotti sul suolo europeo, ma soprattutto negli USA e in Cina. Anche se la proposta europea si applicherebbe a qualsiasi prodotto o servizio AI impiegato in UE (pur se sviluppato all’estero) e nonostante il Segretario USA alla Sicurezza Nazionale abbia salutato positivamente la proposta europea, dovremmo guardare anche alla legislazione d’oltreoceano per capire le concrete possibilità di ridurre i rischi dei sistemi AI.

Al netto delle suddette perplessità sulla proposta europea, questa si presenta di gran lunga più avanzata degli sforzi americani in materia: non solo negli USA manca una proposta federale organica per regolamentare i sistemi AI ad alto rischio, ma anche le frammentarie azioni in campo potrebbero essere poco efficaci.

Alla fine dell’anno scorso l’Ufficio gestione e budget dell’amministrazione Trump ha pubblicato delle linee guida che richiedevano alle agenzie federali di presentare entro il 17 Maggio 2021 un piano per regolare le aziende che usano l’AI. Tuttavia, ad oggi pare che nessuna agenzia federale abbia adempiuto a tale richiesta.

Tale tentativo para-regolatore dell’amministrazione Trump non aveva certo come obiettivo dichiarato la protezione dei diritti fondamentali dei cittadini, ma soltanto la “riduzione delle barriere allo sviluppo e all’uso dell’AI”. I pochi principi esposti in quelle linee guida – come ad esempio l’accuratezza, la sicurezza, e l’affidabilità degli algoritmi – rimangono dichiarazioni generiche, senza alcuna concreta indicazione su come si possano implementare in pratica.

Una proposta più matura e concreta è ora in discussione nello Stato della California (tentativi analoghi si registrano anche nello Stato del Washington). Il Parlamento californiano sta infatti in queste settimane discutendo una nuova legge per la regolamentazione dei sistemi AI, ma solo di quelli usati nell’ambito pubblico. La proposta ricalca il modello canadese per cui la pubblica amministrazione deve valutare l’impatto degli algoritmi sui diritti e sugli interessi dei cittadini. Essa imporrebbe, inoltre, alle grandi società tecnologiche che forniscono servizi e prodotti allo Stato di preparare un dettagliato piano per la gestione dei dati, rendere gli algoritmi spiegabili anche a un pubblico di non esperti e prevenire “bias” discriminatori.

Non sappiamo quando e se questa proposta di legge vedrà la luce, ma sarebbe in ogni caso limitata al settore pubblico e applicata alla sola California. La vera opportunità di stabilire regole più sostanziali e durature è nelle mani della nuova amministrazione Biden. Questa sfida non è soltanto necessaria, ma anche urgente. A breve potremmo avere a che fare con applicazioni AI che prendono decisioni di vita o di morte sull’assegnazione delle cure mediche, che guidano l’attività della polizia e influenzano l’accesso al credito.

Il vero progresso tecnologico sostenibile dipende dal rispetto dei diritti fondamentali, dalla garanzia della sicurezza e dal divieto di pratiche AI particolarmente rischiose per gli individui. L’UE sta ora gettando le basi per tale protezione, offrendo un modello che, nonostante i suoi limiti, appare solido e pragmatico. Anche se il regolamento UE non sarà mai ripreso alla lettera dagli USA, c’è molto da imparare dal suo approccio lungimirante.

Pubblicato in origine su https://www.ilsole24ore.com/ il 1 agosto 2021.

 In alto, foto di Photo by Michael Dziedzic – Unsplash 

L'articolo L’Europa regola l’Intelligenza Artificiale ad alto rischio: la lezione per gli USA proviene da La Meraviglia Del Possibile.

La visione americana appare saldamente incardinata sullo schema di una competizione strategica, che ha nella Cina l’avversario e che colloca nella dimensione tecnologico-industriale l’epicentro di questa nuova guerra fredda, individuando nella logica del contenimento la base per un ritrovato multilateralismo selettivo. Anche per l’Europa – come scrive Marta Dassù* – sarà in questa fase difficile separare economia e sicurezza ed eludere la necessità di una visione geopolitica. L’Europa dovrà però decidere in che misura una logica prevalente di contenimento rientri nel proprio interesse e sia coerente con la propria volontà di autonomia strategica. Il raccordo tra le due strategie di politica industriale, quella europea e quella americana, in termini di visione geopolitica, di obiettivi su cui lavorare assieme e di strumenti di cooperazione, costituirà dunque nei prossimi mesi uno dei punti focali della discussione sul nuovo assetto internazionale da ricostruire dopo le fratture dell’era Trump.

Come sempre, è una crisi ad accelerare le decisioni. Le criticità, emerse nella seconda metà del 2020 e divenute vere e proprie rotture dell’equilibrio a inizio 2021, riguardano le supply chain dei microchip e delle batterie al litio, due componenti essenziali per le industrie strategiche e per il rilancio dell’economia mondiale post-pandemia. La carenza di microchip è particolarmente devastante in questi mesi per l’industria automobilistica, che sta fermando stabilimenti e ridimensionando le attività, subendo una perdita globale di produzione, valutata ormai a più di 60 miliardi di dollari, e registrando anche un freno alla riconversione verso l’auto elettrica. Apple, da parte sua, ha annunciato che la produzione dell’iPhone 12 sta rallentando proprio per carenza di microchip.

Punto di svolta

La crisi delle supply chains globali nel settore dei semiconduttori costituisce un punto di svolta perché, forse per la prima volta dopo le crisi petrolifere degli anni ‘70, si manifesta concretamente la vulnerabilità industriale dell’occidente, dopo che negli anni dell’amministrazione Trump l’esposizione al rischio di una rottura nelle filiere era considerata un problema innanzitutto cinese, strumento di attacco industriale alla marcia della Cina verso la leadership in settori come le telecomunicazioni: questo era infatti il senso del decoupling delle filiere del 5G impostato da Trump come approccio offensivo alla competizione geopolitica.

L’insufficienza di offerta che da metà 2020 si registra nel mercato mondiale dei microprocessori è dovuta a tre ragioni: la crescita della domanda di chip per la produzione di computer e smartphone nel periodo di smart working e di virtualizzazione di molte attività; un calcolo errato dell’industria automobilistica, che è tra i maggiori utilizzatori di microprocessori, e che ha sbagliato le previsioni su quello che sarebbe stato l’andamento del mercato, sottovalutando la ripresa della domanda; l’accaparramento di scorte di microchip da parte della Cina, come misura preventiva rispetto al decoupling per garantire l’operatività di aziende come Huawei e di settori come l’automotive (nel 2020, la Cina ha importato microprocessori per un valore di 380 miliardi di dollari, una quota rilevante di tutto l’import).

Disegnare un chip e fabbricarlo sono due attività distinte, entrambe richiedono ingenti investimenti, costante innovazione tecnologica di frontiera ed economie di scala.

La filiera è esposta a rischi geopolitici, perché i produttori statunitensi ed europei dipendono in larga misura per la fabbricazione da imprese, prime tra tutte la coreana Samsung e la taiwanese TSMC, che hanno impianti in tutta l’Asia orientale; inoltre, fatto più inquietante per l’esposizione al rischio geopolitico, la gran parte degli stabilimenti per la fabbricazione dei chip (le fonderie) è concentrata proprio a Taiwan, in uno dei punti di maggior tensione e potenziale conflitto. Americani, cinesi ed europei dipendono in egual misura dalle fonderie dell’isola. Il governo tedesco è intervenuto direttamente sul governo di Taiwan per chiedere garanzie di approvvigionamenti alla propria industria automobilistica; e a inizio febbraio esponenti della nuova amministrazione Biden hanno avuto un confronto con il ministro dell’economia di quel paese, con il coinvolgimento di TSMC e dell’americana Qualcomm (tra i più grandi produttori al mondo, che delega a TSMC la fabbricazione). Il tema è stato la sicurezza degli approvvigionamenti. Il gruppo taiwanese ha per esempio in progetto di aprire un impianto in Arizona, con un investimento di 12 miliardi di dollari; ma i tempi di realizzazione sono lunghi e investimenti in questo settore hanno bisogno di garanzie, anche politiche. Nel frattempo, la faglia che si sta aprendo per il decoupling delle filiere strategiche tra Stati Uniti e Cina ha nello stretto di Taiwan il suo punto più rischioso.

La seconda emergenza riguarda la supply chain delle batterie ad alta capacità, non solo utilizzate dall’industria automobilistica per la conversione all’auto elettrica ma anche necessarie per l’innovazione nel settore energetico e, in particolare, per le reti e la produzione di energia rinnovabile. Nel 2020, la fabbricazione di batterie di elevata capacità al litio si è rivelata insufficiente a far fronte a una domanda mondiale che sta esplodendo. La criticità non dipende dalla disponibilità della materia prima grezza, bensì dalla possibilità di approvvigionarsi di litio lavorato per raggiungere caratteristiche di purezza e qualità elevate; è dunque nella fase intermedia della filiera che vi sono strozzature nella capacità produttiva e preoccupa, soprattutto, una concentrazione di quest’ultima in Cina. A fronte dell’aumento della richiesta mondiale di prodotto lavorato, nel 2019-20 in Cina sono stati aperti 46 mega-impianti di raffinazione del litio a fronte dei soli quattro che sono entrati in funzione nello stesso periodo negli Stati Uniti.

L’emergenza riguarda più in generale le filiere dei minerali strategici, tra i quali le cosiddette terre rare rivestono un ruolo particolare perché sono insostituibili in produzioni come le fibre ottiche. Ancora una volta, il problema è l’insufficienza della produzione rispetto alla domanda e, soprattutto, la concentrazione della produzione e della lavorazione intermedia in Cina. Pechino ha più volte minacciato un embargo delle terre rare nei confronti degli Stati Uniti, come rappresaglia per le sanzioni ai danni delle società cinesi del 5G. L’interruzione delle forniture avrebbe un effetto devastante per gran parte del comparto tecnologico americano, tanto più alla luce dell’impiego di alcune di queste terre rare per la realizzazione dei computer quantistici, che segneranno negli anni ’20 una svolta radicale negli ecosistemi digitali grazie a una finora inimmaginabile potenza di calcolo e alla pervasività del cloud computing.

+

This product has multiple variants. The options may be chosen on the product page

Guerra digitale

€9,99 – €15,00 IVA inclusa

Cooperazione industriale e geopolitica

Queste crisi hanno sottolineato l’urgenza di affrontare in modo strutturale la vulnerabilità dell’industria occidentale. L’Executive Order on American Supply Chains, firmato dal presidente Biden il 14 febbraio scorso, avvia un’azione ad ampio spettro di consolidamento e riorganizzazione delle filiere nei settori cruciali per la leadership tecnologica, la ricostruzione industriale e la sicurezza nazionale degli Stati Uniti. Vi è indicato un orizzonte di brevissimo termine, cento giorni, per avere dei piani di intervento su aree dove il tema della vulnerabilità delle supply chains ha urgenza politica: la filiera farmaceutica, ovviamente, per mettere in sicurezza la produzione dei vaccini, ma anche i superconduttori, le batterie ad alta capacità e l’approvvigionamento di minerali strategici. Nel breve-medio termine, un anno, dovranno essere poi predisposti piani per l’insieme della base industriale degli Stati Uniti: le industrie legate alla difesa, l’energia, l’ICT e i dati, i trasporti, l’alimentare, il complesso dei beni e servizi necessari alla sicurezza sanitaria.

L’ordine esecutivo di Biden rimanda esplicitamente a precedenti disposizioni di Trump: l’Executive Order del settembre 2020, dedicato a contrastare la dipendenza da “avversari strategici” in tema di approvvigionamento dei minerali strategici (critical minerals) e l’ordine esecutivo del luglio 2017 finalizzato a rafforzare l’industria della difesa e le sue supply chains, quest’ultimo provvedimento particolarmente innovativo per la sua concezione di cosa sia il perimetro delle tecnologie e delle industrie strategiche per la difesa e la sicurezza nazionale, identificato di fatto con l’insieme dell’industria digitale.

Anche in Europa l’allarme per la crisi delle filiere strategiche è al massimo grado. L’industria automobilistica tedesca, colpita dalla carenza di microchip in un momento cruciale per la ripresa, si è fatta sentire con forza chiedendo l’autonomia dell’Europa nella filiera dei microprocessori.

L’impulso ad agire, ancora una volta, è venuto dall’asse franco-tedesco, che nel vertice bilaterale dell’ottobre 2020, allargato alla Presidente della Commissione Europea e dedicato alla cooperazione tecnologica, ha offerto il quadro politico per impostare interventi mirati a specifiche aree. A fine gennaio 2021, la Commissione Europea ha approvato un finanziamento di 2,9 miliardi di euro per l’IPCEI (Important Project of Common European Interest) denominato European Battery Innovation, che si prevede attiverà anche circa 9 miliardi di investimenti privati; e che si aggiunge a un precedente stanziamento di dicembre 2019 per più di 3 miliardi. Nel dicembre 2020 è stata sottoscritta da venti governi l’impegno a una strategia comune per sviluppare l’intera filiera dei processori e delle tecnologie dei semiconduttori: il ministro tedesco dell’economia, Altmaier, ha previsto un investimento comune di 50 miliardi di euro per rafforzare la filiera dei microprocessori, nell’ambito di un impegno sottoscritto da 19 governi europei a dicembre dell’anno passato.

Il terreno comune per il progetto di cooperazione high-tech voluto da Biden è dato dal fatto che sia negli Stati Uniti che in Europa è acquisita la consapevolezza che la sicurezza delle supply chain è condizione per la sovranità sui processi tecnologico-industriali di sviluppo economico e in materia di difesa; e che nel XXI secolo il conflitto geopolitica si concretizza in misura determinante nella competizione tecnologico-industriale, incentrata nel controllo delle tecnologie e nei processi industriali in settori chiave come l’intelligenza artificiale, l’emergente quantum computing e il 5G. Sta diventando condivisa la preoccupazione per la sicurezza di comparti che dipendono da supply chain complesse, sovra-estese globalmente e particolarmente esposte a rischi politici, a fragilità legate all’insostituibilità di fornitori super-specializzati e forti di economie di scala, a shock finanziari o anche climatici (a febbraio, il black-out in Texas per il maltempo ha costretto a chiudere alcuni importanti impianti Samsung per la fabbricazione di microprocessori che, una volta spenti, hanno richiesto lunghe procedure per riprendere la lavorazione).

Il criterio di razionalizzazione della struttura industriale sta diventando la sicurezza nazionale – intesa anche come difesa della base tecnologica e della capacità produttiva – che prevale anche sulla ricerca di efficienza: la supply chain si sono allungate troppo nei decenni passati nella ricerca di efficienza a scapito della robustezza delle filiere, lasciando queste non solo esposte ai rischi di discontinuità dovuti a impreviste crisi delle imprese, dei distretti produttivi o dei paesi che nella filiera sono compresi, ma anche a vulnerabili ad attacchi o ritorsioni di un avversario strategico.

La politica, dunque, asseconda e anzi guida quella che appare comunque una tendenza delle imprese a regionalizzare le filiere, che non è mero re-shoring ma ridisegno su basi di solidità, ridondanza, anche compatezza macro-regionale, privilegiando la robustezza sulla stessa efficienza, in una logica di globalizzazione governata – non più iper-globalizzazione ma slowbalisation, per usare un termine inventato da The Economist subito prima della pandemia**.

A suggello della compenetrazione tra politica industriale e sicurezza nazionale, Biden affida l’attuazione dell’executive order congiuntamente al Consigliere per la sicurezza nazionale e a quello per la politica economica. E’ questa una sottolineatura di come, in continuità con le guerre tecnologiche di Trump, centrale sia il contenimento di un avversario strategico, individuato nella Cina, in grado di contestare la leadership americana sul piano economico e geopolitico: contenimento che mira innanzitutto, certo, ad impedire lo sfruttamento di punti vulnerabili nelle filiere che fanno capo alle industrie statunitensi, ma che può avere anche un significato interdittivo, ossia di indebolimento e rottura delle filiere dell’ “avversario strategico”, così come a suo tempo esplicitamente indicato dagli ordini esecutivi dell’amministrazione Trump e dalla sua guerra aperta al 5G made in China.

La distanza rispetto all’approccio degli anni di Trump sta nella consapevolezza che gli stati Uniti hanno bisogno di alleati. Lo choc di scoprirsi secondi in una tecnologia strategica come il 5G e di essere sfidati per il primato nell’intelligenza artificiale è stato nel decennio scorso una sorta di Vietnam tecnologico, che ha prima innescato una reazione di ripiegamento (“Make America Great Again”) e poi una riflessione sulla necessità di costruire la sfida geopolitica-industriale su un perimetro di risorse più vasto.

Una dimensione del multilateralismo selettivo di Biden sta in questa consapevolezza di mobilitare “alleati e partner” contro un avversario strategico, che si affianca alla ricerca di un multilateralismo inclusivo, senza avversari, su temi come la sicurezza climatica globale, i flussi migratori e il contrasto alla pandemia.

Rispetto a questo, l’Europa si trova a definire i propri interessi di lungo periodo: in che misura la cooperazione per il rafforzamento della base tecnologico-industriale, per l’innovazione e per la messa in sicurezza della supply chain strategiche deve avere come bussola la competizione con un avversario strategico, identificato con la Cina? detto in altri termini: quanto la ricerca di primato tecnologico e sicurezza industriale si deve declinare come guerra fredda tra tecno-democrazie e tecno-autoritarismi? E con quali strumenti può l’Europa tutelare la propria autonomia in ogni possibile futuro scenario, quando bastano poche migliaia di voti in Georgia o Michigan per cambiare il corso della politica americana anche su base di pulsioni contingenti e non razionali? Nei prossimi mesi l’intreccio tra alleanze geopolitiche e strategia tecnologico-industriale si presenterà in testa all’agenda politica europea, costringendo in ogni caso a superare definitivamente una visione economicista dei rapporti internazionali; ma ciò che dovrà essere scritto in quell’agenda non sarà di facile soluzione.

* Dassù, M. 2020 “L’Europa geopolitica tra Stati Uniti e Cina” Rivista di politica economica 2020 n. 2
** The Economist “Slowbalisation: The Steam Has Gone Out of Globalisation”, 24 gennaio 2019

L'articolo L’era della sicurezza: supply chains, politica industriale e guerra fredda high-tech proviene da La Meraviglia Del Possibile.