intelligenza artificiale Archivi - La Meraviglia Del Possibile

I giorni dei lenti progressi sono terminati

lup_admin — Tue, 03 Jan 2023 10:57:44 +0000

Questo libro mette in guardia le società che dovranno essere preparate davanti al potenziale distruttivo di macchine in grado di ragionare, imparare e risolvere problemi come gli esseri umani. Ai 2041. Scenari dal futuro dell’intelligenza artificiale presenta una road map dei prossimi decenni che mostra come si svilupperà l’intelligenza artificiale attraverso una combinazione di saggi scritti da Lee, guru dell’IA ed ex capo di Google in Cina, e di racconti scritti dall’astro nascente della fantascienza cinese, Chen Qiufan. Chen trasforma la visione di Lee in dieci racconti; dalla lotta di un’adolescente indiana contro un algoritmo discriminatorio a un malvagio scienziato tedesco sull’orlo di scatenare un genocidio quantistico. Ma è tutto il mondo narrato in queste pagine ad apparire insieme vertiginosamente lontano e terribilmente prossimo. Le visite mediche non richiederanno più il contatto umano, con bagni intelligenti che analizzeranno gli escrementi dei pazienti senza bisogno di provette. I camerieri consiglieranno i piatti in base alle registrazioni dei menu preferiti e della propensione all’avventura dei clienti. La tesi è semplice: non le macchine, ma gli esseri umani sono responsabili del buon o cattivo uso della tecnologia. A noi la scelta di quale futuro raccontarci.

_____________________________________

L’intelligenza artificiale (IA) è un software e hardware intelligente in grado di eseguire compiti che solitamente richiederebbero intelligenza umana. La IA è la delucidazione del processo umano di apprendimento, la quantificazione del processo del pensiero umano, l’esplicazione del comportamento umano e la comprensione di ciò che rende possibile l’intelligenza. È il passo finale dell’umanità lungo il cammino della comprensione di sé stessa; personalmente, spero di essere parte di questa nuova e promettente scienza.

Ho scritto queste parole quasi quarant’anni fa, quando ero uno studente sognatore che stava facendo domanda per il programma di dottorato della Carnegie Mellon University. Lo scienziato informatico John McCarthy aveva coniato il termine “intelligenza artificiale” ancora prima, durante il leggendario Dartmouth Summer Research Project on Artificial Intelligence dell’estate del 1956. A molte persone, l’IA sembra essere la quintessenza della tecnologia del Ventunesimo secolo, ma alcuni di noi la stavano studiando già decenni prima.

Nei primi tre decenni e mezzo del mio viaggio nell’intelligenza artificiale, questo campo di ricerca è rimasto sostanzialmente confinato all’accademia, con poche applicazioni commerciali di successo. Un tempo, le applicazioni pratiche della IA evolvevano lentamente. Negli ultimi cinque anni, invece, la IA è diventata la tecnologia più in voga del mondo. Un punto di svolta sorprendente si è verificato nel 2016 quando AlphaGo, una macchina costruita dagli ingegneri di DeepMind, ha sconfitto Lee Sedol nei cinque round di una sfida di Go nota come Google DeepMind Challenge Match.

Il Go è un gioco da tavolo più complesso degli scacchi di un miliardo di miliardi di miliardi di miliardi di volte. Inoltre, a differenza degli scacchi, il Go è ritenuto dai suoi milioni di entusiastici appassionati un gioco che richiede un’intelligenza, una saggezza e una raffinatezza intellettuale degna dello Zen. Quando un concorrente IA sbaragliò il campione umano, per molte persone fu uno choc. AlphaGo, come la maggior parte delle grandi conquiste nella IA, era basata su deep learning, una tecnologia che attinge a vasti set di dati per insegnare a se stessa. Il deep learning è stato inventato molti anni fa, ma solo di recente si è ottenuto abbastanza potere computazionale per dimostrarne l’efficacia e sufficienti dati di addestramento da conseguire risultati eccezionali.

AI 2041

€14,99 – €25,00 IVA inclusa

Rispetto ai miei difficili inizi nella IA, quarant’anni fa, oggi per le nostre sperimentazioni con la IA abbiamo a disposizione circa un migliaio di miliardi di volte il potere computazionale di allora, mentre archiviare i dati necessari è 15 milioni di volte più economico. Le applicazioni del deep learning – e le tecnologie di IA collegate – toccheranno praticamente ogni aspetto delle nostre vite.

La IA si trova adesso in un momento cruciale. Ha abbandonato la torre d’avorio. I giorni dei lenti progressi sono terminati.

Solo negli ultimi cinque anni, la IA ha sconfitto i campioni umani del Go, del poker e del videogioco Dota 2, diventando così potente che in sole quattro ore impara a giocare a scacchi abbastanza bene da essere invincibile per gli esseri umani. Non si tratta però solo dei giochi. Nel 2020, la IA ha risolto un enigma biologico vecchio cinquant’anni, chiamato ripiegamento biologico.

Questa tecnologia ha superato gli esseri umani nel riconoscimento vocale e degli oggetti, creato “umani digitali” dallo straordinario realismo sia nelle apparenze che nella parlata, e ha ottenuto il punteggio massimo agli esami di ammissione all’università e agli esami di licenza medica. La IA supera in prestazioni i giudici per l’equità e la coerenza delle loro sentenze e i radiologi nella diagnosi del cancro ai polmoni, così come alimenta i droni che cambieranno il futuro delle consegne, dell’agricoltura e della guerra.

Infine, la IA sta rendendo possibile la creazione di veicoli autonomi che guidano in autostrada con maggiore sicurezza degli esseri umani. Dove ci porterà tutto questo, mano a mano che la IA continua ad avanzare e che nuove applicazioni fioriscono? Nel mio libro del 2018 AI Superpowers: China, Silicon Valley, and the New World Order, ho affrontato la proliferazione dei big data, il “nuovo petrolio” che alimenta la IA.

Gli Stati Uniti e la Cina sono alla guida della rivoluzione della IA, con gli Stati Uniti che primeggiano nei progressi della ricerca e la Cina che sfrutta più rapidamente i big data per introdurre applicazioni per la sua vasta popolazione. In AI Superpowers avevo predetto alcuni sviluppi: dal processo decisionale basato sui big data alla percezione della macchina, fino ai robot e ai veicoli autonomi.

Ho previsto che queste nuove applicazioni della IA avrebbero creato un valore economico senza precedenti nelle industrie del digitale, della finanza, del commercio e dei trasporti, ma anche provocato problemi relativi alla perdita di lavori umani e sollevato altre questioni.

La IA è una tecnologia multiuso che penetrerà praticamente in ogni settore, attraverso quattro ondate che vanno dalle applicazioni di internet della IA a quelle degli affari, della percezione e delle applicazioni autonome. Quando leggerai questo libro, nel 2021 o più avanti, le previsioni che ho fatto in AI Superpowers saranno in gran parte diventate realtà. Adesso dobbiamo guardare alle prossime frontiere. Girando il mondo per parlare di IA, mi viene costantemente chiesto: “Cosa viene dopo? Cosa succederà tra cinque, dieci o vent’anni? Cos’ha in serbo il futuro per noi esseri umani?”.

L'articolo I giorni dei lenti progressi sono terminati proviene da La Meraviglia Del Possibile.

Quando gli oggetti diventano soggetti

Cristina Resa — Wed, 24 Nov 2021 17:26:44 +0000

Proponiamo un estratto da Incoscienza artificiale di Massimo Chiriatti. Una macchina intelligente in grado di prendere decisioni al posto dell’uomo: se pensiamo sia questa la definizione di intelligenza artificiale, sbagliamo. Chiriatti, con la mente dello studioso e l’occhio dell’addetto ai lavori, analizza la natura dell’intelligenza artificiale e le implicazioni della sua continua e sempre più profonda interazione con l’uomo.

__________________________________________________________

Così come lo smart speaker di Amazon è stato battezzato Alexa e l’assistente di Apple Siri, all’intelligenza artificiale qui descritta daremo il nome di “Iasima”.

Siamo formati da una struttura fatta di natura, cultura e coscienza legate in modo inestricabile, mentre le macchine sono solo artefatti che si stanno evolvendo per simulare superficialmente un comportamento umano. Pensavamo che con l’IA fosse nato qualcosa, invece sta nascendo qualcuno.

Abbiamo prima insegnato alle macchine come eseguire i nostri ordini, poi come imparare da sole per poterci rispondere. Ancora non sembra possibile, ma se un giorno sviluppassero i propri fini?

Fino a ieri Iasima rappresentava solo un’estensione fisica del nostro corpo e di alcune limitate funzioni cognitive, ma oggi sta assumendo, per via delle deleghe sempre maggiori che le accordiamo, una sua autonomia. Quando un oggetto fa esperienza del mondo in autonomia e interagisce tramite il linguaggio, il divario che lo separa da un soggetto sta per colmarsi. La soggettivizzazione algoritmica non prevede più la dicotomia “noi o loro”.

All’inizio del libro abbiamo accennato al rapporto soggetto-oggetto con queste parole: “Come ha luogo il processo decisionale quando qualcuno ha già deciso per noi è un tema politico, perché riguarda sia chi ha il potere di decidere, sia le basi su cui è stato scelto. Ma cosa accade quando qualcosa sta per decidere per noi è un problema filosofico, soprattutto nel momento in cui quel qualcosa sta diventando qualcuno; quell’oggetto sta diventando soggetto”.

Se questo passaggio può sembrare troppo forte e speculativo, allora pensiamo alla prospettiva opposta e complementare: noi umani ci stiamo ibridando con le macchine. Prendendo in prestito le parole di Erich Fromm a proposito del futuro dei sistemi capitalisti e comunisti: “…fabbricano macchine che si comportano come uomini e producono uomini che si comportano come macchine… Il pericolo del passato era che gli uomini diventassero schiavi. Il pericolo del futuro è che gli uomini possano diventare robot”.

Il termine “robot” deriva da robota, vocabolo slavo che significa “schiavo”, e se diventare robot non rientra nei nostri obiettivi dobbiamo evitare di abbassare i nostri standard cognitivi, altrimenti le macchine finiranno per sembrare più “intelligenti” di quanto siano.

La nostra visione parziale della realtà è già limitata dai cinque sensi, che ora vengono informati da un agente artificiale, il Sistema 0, un nonumano. Se e quando l’IA inizierà a decidere per noi, questo mondo potrebbe diventare il suo. Una volta che inizieremo a prendere ordini dai computer sulla base delle loro previsioni, avremo perso sia la nostra direzione evolutiva, sia il nostro posto sulla Terra come forma di vita superiore – da un punto di vista cognitivo – e dominante.

Eppure, interagiamo costantemente con le macchine, che sempre di più mediano le nostre interazioni sociali e modellano la nostra conoscenza. E se diventassero loro i soggetti?

Non siamo abituati a confrontarci con le macchine – non abbiamo sviluppato queste capacità con l’evoluzione – ma ora, non potendo modificare con la stessa velocità la nostra natura biologica, dobbiamo adattare la nostra cultura. Il primo punto è capire la loro evoluzione, che è differente dalla nostra. Per una macchina, essere accesa significa poter trasferire energia. Basta un update del codice sorgente da parte dei programmatori per tracciare nuove e imprevedibili traiettorie evolutive, poiché il design delle macchine non è sottoposto ai tempi lunghi dell’evoluzione organica. I componenti meccanici sono precisi, intercambiabili ed evolvono rapidamente, anzi, esponenzialmente.

Incoscienza artificiale

€9,99 – €16,00 IVA inclusa

Dalla prospettiva delle macchine, siamo tutti, indistintamente, rappresentazioni simboliche di oggetti. Pertanto può sembrare che l’IA più sofisticata percepisca e conosca tutto, quando in realtà non comprende nulla. Un paradosso è che, fino a pochi decenni fa, di noi come soggetti non sapevamo nulla e solo ora iniziamo a capire qualcosa, grazie ai progressi delle neuroscienze. E se invece, prima, degli oggetti sapevamo tutto, ora con il deep learning cominciamo a rendere opachi i processi algoritmici.

Oggetti come le vetture autonome attraversano la città. Li guardiamo con un po’ di sospetto e timore, ma almeno ne abbiamo la percezione fisica: sappiamo dove sono e vediamo quale direzione prendono. I nostri occhi ci aiutano a capire. Ma ci sono milioni di altri algoritmi che ci vengono incontro: alcuni sono finalizzati al marketing, altri orientano le nostre opinioni, altri ancora danno luogo a incontri romantici o ci raggruppano per parole chiave. Senza conoscere gli obiettivi.

Ora che gli oggetti diventano soggetti, lo studio della coscienza (l’hard problem) è sempre più rilevante: dobbiamo, se non risolverlo, almeno inquadrarlo da più prospettive. Henry Kissinger ha sintetizzato la questione in questo modo: “L’illuminismo è iniziato con intuizioni essenzialmente filosofiche diffuse da una nuova tecnologia. Il nostro periodo si sta muovendo nella direzione opposta. Ha generato una tecnologia potenzialmente dominante alla ricerca di una guida filosofica”.

La grande riflessione filosofica che di questi tempi affrontiamo è sicuramente l’abbattimento del confine fra ciò che consideriamo naturale, biologico, vivente, e ciò che consideriamo meccanico, tecnologico, inanimato.

Nel libro Come saremo, Luca De Biase e Telmo Pievani affermano: “In realtà, le tecnologie stanno co-evolvendo con noi, da sempre in simbiosi: non siamo due mondi separati, ma parti reciprocamente connesse dentro uno stesso processo co-evolutivo […] La tecnologia diventa sempre più biologica e la biologia diventa sempre più tecnologica”.

Non c’è contrapposizione tra soggetto e oggetto, ma complementarità. L’essere umano usa l’oggetto per potenziare la creatività, ora l’oggetto usa la creatività umana espressa nei dati in forma scritta, orale e visiva per potenziare le sue previsioni. Facciamo un esempio: una tavolozza di colori o una qualsiasi forma di pennello sono gli strumenti di un qualunque programma di grafica a disposizione dell’artista. Ma quando la macchina inizia a generare una figura o un video, siamo sicuri che sia ancora uno strumento, un oggetto, oppure possiamo classificarla come soggetto creativo? La differenza è che noi siamo in grado di immaginare e abbiamo una intenzionalità nel creare l’opera, mentre la macchina si limita a generarla.

Non si tratta di una creatività migliore della nostra ma dobbiamo prendere atto che partecipiamo al processo insieme a Iasima: stiamo già collaborando, nel senso che l’essere umano inizia, la macchina continua e di nuovo l’essere umano può rifinire e completare l’opera. Come un feto che sta formando le sue connessioni neuronali e il suo corpo, così l’IA, in termini di Sistema 0, sta crescendo collegata ai nostri corpi. Sentiamo già “vivere” questa creatura, ma solo quando taglieremo l’ultimo collegamento, Iasima potrà essere un’entità realmente autonoma. Questo ci consente di tornare alla definizione della coscienza: un’esperienza fondamentalmente privata e soggettiva che non può essere descritta né osservata né confermata dall’esterno.

Sappiamo anche che la coscienza non è un fenomeno di tipo on-off, perché ne esistono diverse forme e gradazioni. Ma non avendo noi un modo per definire la coscienza in termini oggettivi, come dovremmo relazionarci a questi potenziali neo-soggetti? Scriveva Giorgio Gaber:

“Nel frattempo gli oggetti erano andati al potere.
“La loro prima vittoria era stata il superamento del concetto di utilità, piano piano avevano occupato anche gli spazi più nascosti delle nostre case, e da lì ci spiavano.
“Nessuno se n’era accorto all’inizio, anzi, la loro silenziosa presenza sembrava piacevole e confortante, era difficile intuirne il senso sovversivo.
“Dopo anni di schiavitù gli oggetti tentavano la strada del dominio.
[…]
“La resistenza dell’Uomo era sporadica e soggettiva, sì troppo individuale.
[…]
“Cosa poteva pretendere l’uomo, così fragile, così disfunzionale?”

Da Incoscienza artificiale di Massimo Chiriatti. In alto, immagine di Brett Jordan – Unsplash

L'articolo Quando gli oggetti diventano soggetti proviene da La Meraviglia Del Possibile.

La cura degli umani

Cristina Resa — Thu, 03 Jun 2021 00:01:13 +0000

Proponiamo un estratto del volume Le nuove leggi della robotica. Frank Pasquale, tra i maggiori esperti al mondo in materia di regolamentazione delle nuove tecnologie, presenta le nuove leggi che dovranno essere applicate affinché la rivoluzione digitale, con le straordinarie possibilità di crescita e sviluppo che comporta, non si trasformi in una trappola per la nostra specie.

__________________________________________________________

La medicina immagina la AI in due modi. Il primo è utopistico, degno di un romanzo di fantascienza. I robot medici individueranno e cureranno all’istante ogni malattia. I nanobot ci pattuglieranno vene e arterie, eliminando le ostruzioni e riparando i tessuti danneggiati. Organi, ossa e pelle stampati in 3D ci consentiranno di sembrare giovani e in salute anche a ottanta o novant’anni. Con un po’ di fortuna, potremo caricare i nostri cervelli in corpi robotici, per farli vivere in eterno. Comunque possa andare a lungo termine, questa visione fantascientifica è lontanissima e forse irrealizzabile.

Ci sono futurologi più realistici, ma comunque ambiziosi, che seguono una visione più fattibile. Si rendono conto del ruolo chiave dell’empatia umana nel settore medico, del contributo dell’intuito alle diagnosi e dell’importanza della destrezza dei chirurghi. Aderiscono pertanto alla prima nuova legge della robotica, che auspica un futuro nel quale la AI aiuti (e non sostituisca) medici e infermieri. Visto lo stato attuale di dati e tecnologia, si tratta di una scelta saggia. Sfortunatamente, anche molti realisti cadono in errore quando si tratta di leggi e politica, vedendo il sistema sanitario dal punto di vista economico, preoccupandosi dei costi e delle possibili inefficienze. Invocano la deregulation per incentivare l’innovazione e i limiti di bilancio per forzare i tagli alle spese.

Quel che ci serve davvero in termini di politica sanitario- tecnologica è una maggiore responsabilità nella raccolta e nell’uso dei dati, non una deregolamentazione. Dobbiamo investire in pratiche sanitarie all’avanguardia, senza presumere che ospedali e medici troveranno nuovi geniali sistemi per operare meglio con meno fondi.

Gli scrittori di fantascienza sognano un giorno in cui una combinazione di app e robot si potrà prendere cura dei nostri problemi di salute, ma non è questa la strada percorsa dagli attuali progressi tecnologici, né i politici dovrebbero ambire a un tale obiettivo. Non possiamo prescindere dalla presenza umana nella sanità, se abbiamo a cuore gli interessi della medicina e l’aspetto psicologico dei malati.

Gli imperativi dell’economia spingono ospedali e compagnie assicurative a sostituire i terapisti con qualche software e l’attenzione degli infermieri con i robot, ma le associazioni di professionisti devono fare in modo che non si smetta mai di considerare il valore del coinvolgimento diretto delle persone.

Decidere quando cercare assistenza medica

Immaginate di svegliarvi con un fortissimo dolore allo stomaco. Si tratta di appendicite? È uno strappo muscolare? Il mal di stomaco è una delle diagnosi più ardue anche per i medici più esperti di pronto soccorso, in quanto può essere sintomo di decine di patologie, tanto di poco conto quanto possibilmente letali. Anche in presenza di un minimo rischio, meglio recarsi in ospedale a chiedere il consiglio di un professionista. Una decisione semplice, se si è ricchi o dotati di una buona assicurazione, ma per gli altri cercare aiuto potrebbe rivelarsi una tragedia. Nei Paesi in via di sviluppo, le parcelle mediche possono minacciare perfino le necessità di base di una famiglia.

Negli USA, milioni di persone non sono assicurate o hanno coperture assicurative molto limitate. Una sola visita al pronto soccorso può costare più di 10.000 dollari; perfino un falso allarme può costringere a sborsare migliaia di dollari, tenendo conto di test, parcelle e altre spese. Persino chi ha un’assicurazione adeguata e molti risparmi rischia grosso andando all’ospedale, tra test superflui, esposizione a virus e ore di stress.

Per molti, il primo riferimento in caso di sintomi improvvisi è Google. Per anni su Google le ricerche mediche – quelle che ci fa fare un dolore nel cuore della notte – non sono state diverse dalle altre. Bastava sufficiente “Google juice” (quel mix misterioso di importanza e autorevolezza che manda i contenuti in cima ai risultati delle ricerche) e siti poco affidabili si mescolavano alle informazioni di dottori e scuole di medicina di alto livello. Spettava agli utenti di Google separare il grano dal loglio e capire quanto un sito fosse credibile.

A partire dal 2016, l’azienda ha invertito l’approccio. Ha cominciato a collaborare con gli esperti della Mayo Clinic per valutare le informazioni che apparivano nelle ricerche mediche più frequenti.

Se digitiamo “mal di testa laterale”, sopra o accanto a una lista standard di risultati apparirà una serie di box che descriveranno sinteticamente una possibile classificazione dei tipi di mal di testa. Scegliendone uno (per esempio, “mal di testa da tensione”), si aprirà un altro box riconducibile allo stesso Google, che descriverà se si tratta di una condizione comune, la sua diffusione tra i vari gruppi e i possibili interventi medici.

Questi nuovi risultati di Google sono un segnale rassicurante per quanto riguarda l’uso della AI nel settore sanitario, perché ci mostrano un’azienda che non vuole sostituire l’esperienza dei medici con algoritmi e big data, ma preferisce contattare professionisti in nome di un approccio strutturato all’informazione medica e alla salute in generale. In modo simile, IBM ha cambiato il marketing del suo sistema Watson in ambito medico e giuridico, presentandolo come un aiutante e non come un sostituto dei dottori.

Nel 2017, ho parlato con un rappresentante del team Watson di IBM, che mi ha spiegato come volessero promuovere un’intelligenza aumentata e non artificiale. Anche le aziende che avrebbero maggiormente da guadagnare dalle AI propendono per la IA, pertanto presto gli strumenti di diagnosi totalmente automatizzati potrebbero sembrarci più anacronistici che futuristici. Ci sarà sempre un posto per gli esperti settoriali incaricati di valutare l’accuratezza dei consigli delle AI e verificare il loro funzionamento nel mondo reale.

La competenza principale della AI: evitare gli errori comuni

I medici sono esperti nel riconoscimento degli schemi. Ci aspettiamo che un dermatologo ci sappia dire se un neo è maligno o non è nulla di preoccupante; ci sottoponiamo a colonscopie per consentire ai gastroenterologi di individuare (e rimuovere) eventuali polipi. Eppure anche il miglior dottore può sbagliare e un medico comune può essere annoiato o distrarsi in un momento decisivo. Grazie alla AI, possiamo ridurre notevolmente errori simili, salvando migliaia di vite l’anno.

E ciò è possibile grazie a quantità enormi di dati. Un database potrebbe per esempio catalogare immagini di milioni di diverse anomalie poi divenute cancerose e di milioni poi rivelatesi benigne.

Proprio come cerchiamo un sito su Google, così potremmo servirci di un computer per confrontare in un lampo immagini del nostro colon o della nostra pelle con quelle contenute nel database. Idealmente, le macchine potrebbero riuscire a individuare i “gemelli digitali cattivi”, sventando la minaccia di tessuti che si sono rivelati pericolosi già in passato.

La visione della macchina, in grado di rilevare il pericolo dove anche un esperto specialista potrebbe sbagliare, è diversa dalla nostra. Per comprendere il machine learning può esserci utile pensare a come i computer abbiano imparato a riconoscere volti e interpretare i numeri.

Quando un programma di riconoscimento facciale identifica con successo un’immagine come la raffigurazione di una data persona, tale “abbinamento” (match) è conseguenza del confronto dell’immagine presa in esame con le altre già presenti nel database, magari in una griglia da 1000 per 1000 pixel. Ogni posizione sulla griglia può essere identificata come pelle o non pelle, liscia o non liscia e secondo una serie di centinaia o migliaia di altre scelte binarie, molte delle quali non discernibili dall’occhio umano. E le macchine possono percepire molto di più di questo.

Le immagini mediche potrebbero incorporare anche dati di vario tipo per ogni pixel o voxel (pixel 3D), mappando quel che possiamo percepire con orecchie, naso o mani.

Le nuove leggi della robotica

€9,99 – €20,00 IVA inclusa

Il riconoscimento tramite schemi sottoposti alla visione delle macchine inizialmente è stato sfruttato dalle banche, alle quali serviva un sistema per riconoscere i numeri sugli assegni (vista la grande varietà delle grafie umane). Grazie alla giusta quantità di esempi e a computer adeguati, questo tipo di riconoscimento è divenuto quasi perfetto. La visione delle macchine è pertanto “sovrumana” quando si tratta di “ingerire” dati e confrontarli con milioni di altre immagini.

Un dermatologo potrebbe usare un metodo euristico per diagnosticare un melanoma (come il metodo, ABCDE: Asimmetria, Bordi irregolari, Colore diverso, Diametro più ampio, Evoluzione) o le sue esperienze passate con nei cancerosi o no. Una AI abbastanza avanzata può controllare i parametri ABCDE confrontandoli con altri nei con precisione stupefacente, a patto che i dati siano accurati. Con il miglioramento dei sensori, la AI potrebbe trovare sistemi inaspettati per capire cosa distingue nei benigni e maligni.

La visione delle macchine ha però anche aspetti “subumani” e talvolta si rivela sorprendentemente fragile. In medicina, viene infatti oggi usata soprattutto come narrow AI (“intelligenza artificiale debole”) e dunque indirizzata su un solo compito ben definito. La narrow AI per rilevare i polipi, per esempio, potrebbe “vedere” un polipo invisibile a qualunque gastroenterologo, ma allo stesso tempo potrebbe non riconoscere altre anomalie che non è stata addestrata a riconoscere.

Medici e AI sono più efficaci se lavorano insieme.

I medici si formano per anni, ma la conoscenza medica non smette mai di progredire. Non è più umanamente possibile memorizzare ogni potenziale interazione farmacologica, in particolare nei casi più complessi, con pazienti che assumono venti o più medicinali.

Per evitare risultati indesiderati, ci si può affidare ai farmacisti, ma anche loro possono non accorgersi di problemi inusuali.

Il Clinical decision support software (CDSS), integrato nei registri sanitari elettronici, è una forma elementare di AI che può aiutare i medici a evitare conseguenze nefaste. Il CDSS “monitora e avvisa i medici specialisti delle condizioni del paziente, delle sue prescrizioni e dei trattamenti che ha subito, al fine di offrire suggerimenti clinici fondati”.

Già è stato provato che il CDSS riduce gli errori. Anche in un’area così ristretta, programmatori, manager e ingegneri non si sono però limitati a imporre l’uso del CDSS. La legge, con tanto di sovvenzioni governative, ha dato un grosso contributo alla sua diffusione.

Il CDSS è stato adottato per scongiurare cause per negligenza (contro i medici) o responsabilità aziendale (contro gli ospedali); i tribunali hanno però sancito che il giudizio dei professionisti non può essere automatizzato e sono riluttanti a rendere perseguibile automaticamente chi non segue i consigli della macchina in presenza di buoni motivi per non farlo.

Per assicurarsi che i pazienti possano sfruttare tutti i lati positivi della tecnologia saranno necessari continui aggiornamenti normativi, anche per evitare di sovraccaricare di informazioni medici e infermieri. Molti studiosi si sono già occupati del problema della alert fatigue (“stanchezza da allarme”). Gli esperti di interazione uomo-computer sono all’opera per fare in modo che ci sia un equilibrio migliore tra allarmi e avvisi dei problemi segnalati che possa risultare così meno invasivo.

Un software CDSS ideale non dovrebbe essere né soffocante né un osservatore inerte, ma potrà essere efficace solo adattandosi in continuazione, in modo che medici, infermieri e farmacisti apprezzino il suo utilizzo e possano sempre criticarlo e migliorarlo.

Dati, discriminazioni e disparità

Una AI approvata dagli umani dovrebbe diventare lo standard dell’assistenza medica al servizio di ogni paziente che necessiti di un trattamento. Il fatto che la tecnologia in generale sia un vantaggio non significa però che sia da utilizzare in ogni caso. C’è inoltre il rischio che la AI possa effettuare discriminazioni basandosi su dati difettosi.

È noto il caso di un risk score (“punteggio di rischio”) – utilizzato per prestare assistenza mirata a pazienti in condizioni di bisogno – che dava la priorità ai pazienti bianchi rispetto a quelli neri perché si serviva del costo delle cure per valutare la gravità della malattia. Ricevendo in genere un’assistenza più economica, gli afroamericani avevano, secondo l’algoritmo, meno bisogno di attenzioni mediche. I pericoli di indicatori del genere sono ben noti, ma la fretta di quantificare porta spesso a ignorarne o sottovalutarne i rischi.

Anche i bias possono avere un effetto negativo sulle diagnosi.

Medici e informatici si sono già detti preoccupati di come i software per individuare i melanomi possano funzionare male per le minoranze, che in genere sono meno rappresentate nei set di dati usati per tarare le macchine. Se una tale disparità ha un ruolo effettivo, il sistema legale si deve chiedere se sia il caso di portare gli standard di questi software ai livelli utilizzati per l’etnia prevalente. Bisogna fare in modo che siano disponibili dati più rappresentativi e che vengano effettivamente usati. In caso contrario, si rischia di rendere ancora più profonde le disparità.

Se gli enti normativi non riusciranno a fare un passo avanti, saranno i tribunali a decidere quando un determinato progetto (come quello per identificare i melanomi) avrà bisogno di ulteriori dati e quando invece questi dati saranno solo “un qualcosa in più” per chi può permettersi un’assistenza di primo livello. Le leggi sulla negligenza servono a rassicurare i pazienti che se i loro medici non si atterranno a un certo standard, verranno multati e una parte della cifra sarà utilizzata per le loro cure.

Nel caso i provider non usino insiemi di dati abbastanza rappresentativi nello sviluppo delle loro AI mediche, le cause legali potranno richiamarli alle loro responsabilità, facendo in modo che tutti possano usufruire dell’uso medico della AI e non solo i più fortunati che appartengono ai gruppi più spesso oggetto di studio.

I data scientist spesso dicono in modo scherzoso che la AI è solo una forma di statistica che gode di un marketing migliore. Di certo una AI debole, pensata per fare previsioni molto specifiche, si basa sulla quantificazione delle probabilità. Si tratta solo di uno dei molti passi compiuti negli ultimi due decenni per modernizzare la medicina basandosi su un uso maggiore di prove empiriche.

I ricercatori in ambito medico hanno utilizzato l’analisi predittiva, i big data, l’intelligenza artificiale, il machine learning e il deep learning (“apprendimento profondo”) come metafore chiave per l’ottimizzazione delle performance di sistema.

In ognuna di queste aree gli studi già effettuati possono aiutare gli enti normativi a identificare i dati problematici nella AI. Gli standard legali devono tenere conto però anche dei limiti della stessa AI, come la carenza di riproducibilità, la validità ristretta, le pretese esagerate e i dati poco chiari. L’idea di fondo è che la competenza primaria della AI – aiutare gli umani a evitare di sbagliare – deve essere responsabilità degli umani che creano quella AI. Questi ultimi devono assumersi le colpe di un uso errato di dati e metodi o altrimenti in futuro ci potremmo ritrovare a commettere gli stessi errori.

Molti attivisti fanno esempi di insiemi di dati problematici utilizzati in ambito medico. Per esempio, Caroline Criado Perez ha dimostrato che troppo spesso nella ricerca medica e in pedagogia si assume in modo automatico che il soggetto in esame sia maschio. Come osserva: “Le donne non sono uomini più piccoli: il corpo maschile e quello femminile sono differenti perfino a livello cellulare. […] E ci sono ancora molti altri gap da colmare sulla questione di genere”. La diffusione di studi come quello di Criado Perez rende ancora più imperdonabile la presenza di bias nei data set. Dobbiamo finanziare raccolte di dati di gran lunga migliori per fare in modo che la AI usata in campo medico sia più equa e inclusiva, e dobbiamo inoltre imporre a sviluppatori, medici e ospedali di utilizzarle.

Da Le nuove leggi della robotica di Frank Pasquale. In alto, l’illustrazione di copertina di Noma Bar

L'articolo La cura degli umani proviene da La Meraviglia Del Possibile.