Decide meglio l' Uomo o il Computer? Il problema vitale del "Buon Senso"
La professione medica comporta continue scelte, a volte molto difficili: che valore dare ad un sintomo? quali esami effettuare? quale diagnosi è più probabile e quale terapia è preferibile? In questa e nella prossima pillola prenderemo brevemente in esame i processi decisionali dei dispositivi digitali e quelli degli “umani” evidenziandone potenzialità e limiti.
Lo strumento che regola le decisioni digitali è l’Algoritmo ( o meglio gli Algoritmi), mentre per le decisioni umane esistono Processi Mentali Lenti di riflessione, valutazioni e decisioni, o più spesso Euristiche Veloci che sono usate nella maggior parte delle situazioni della vita quotidiana.
Gli algoritmi, come è noto sono costituiti da uno specifico insieme di regole che consentono di risolvere problemi specifici. Gli algoritmi hanno cinque caratteristiche essenziali(1): 1)debbono prevedere una serie finita di passaggi 2)debbono fornire istruzioni chiare e precise 3)debbono prevedere uno o più ingressi definiti e distinti 4)debbono prevedere una uscita o più uscite per ciascun ingresso, anch'esse ben definite e distinte dalle altre 5)debbono essere espressi in operazioni basilari non ulteriormente scomponibili.
Il punto debole degli algoritmi è che nessun genere di algoritmo, neppure quelli elaborati dai sistemi più aggiornati di intelligenza artificiale, possono prevedere tutti gli eventi possibili nelle situazioni in cui numerose variabili possono interagire fra loro: a titolo puramente esemplificativo ricordiamo che 6 variabili possono interagire tra loro tra loro in 720 modalità; se le variabili salgono a 9 le possibili interazioni aumentano a 362.880 e con appena 11 variabili le combinazioni ad interazioni possibili salgono a 39.916.800!!!
Ricordiamo che nei sistemi complessi le variabili possono essere alcune decine e non tutte potrebbero essere note. Questi semplici dati numerici rendono probabilmente ragione di tragedie impreviste ed apparentemente incomprensibili quali quelle degli aerei Boeing 737 guidati da sistemi automatici basati sulla intelligenza artificiale che alcuni anni fa si schiantarono al suolo poco dopo il decollo.
Le Reti Neurali L'intuizione che sta alla base del grande successo delle reti neurali è piuttosto semplice: dato che i neuroni umani interagendo fra loro mediante impulsi elettrochimici trasmettono un'enorme quantità di dati che opportunamente ordinati generano le meraviglie del pensiero e della creatività dell'uomo, gli informatici, dopo anni di insuccessi nei progetti di intelligenza artificiale, ebbero la intuizione di “imparare dalla natura” sostituendo i complessi circuiti dei nostri cervelli con i semplici circuiti dei computer collegati ed organizzati in reti che simulano le reti cerebrali. In buona sostanza le reti neurali del Deep learning sono composte da circuiti interagenti organizzati per strati, ciascuno strato con proprie caratteristiche e proprie prestazioni ed interagente con lo strato successivo. Il primo strato è quello di introduzione dei dati, loro elaborazione e trasmissione dei risultati al successivo strato che a sua volta elabora e trasmette i risultati al terzo strato, e così via. Questo processo si può ripetere un numero considerevole di volte fino ad ottenere, tramite molteplici tentativi di prova, verifica e correzione dei risultati, un ultimo definitivo “output” ritenuto soddisfacente.
Il vero e proprio tallone d'Achille dei sistemi di intelligenza artificiale sembra tuttavia essere la mancanza di "buon senso", una facoltà che gli umani usano spontaneamente e che viene chiaramente individuata solo quando manca... Con il termine “ buon senso” si intende “ la normale intelligenza delle cose umane, comune ad ogni individuo equilibrato”che in varie circostanze “assume anche il significato di "senso della comunità"ovvero "senso sociale"(2).
Dal punto di vista neuro- fisiologico il buon senso è una facoltà che si acquisisce con gli anni e che utilizza in larga parte un sapere implicito basato su ricordi ed emozioni registrate in quantità nel corso della infanzia e della adolescenza: il buon senso viene appreso spesso nella famiglia di origine dalle persone significative della propria vita.
Il problema della mancanza di buon senso imbarazza considerevolmente gli esperti di Intelligenza Artificiale, che talora negano il problema; significativa tuttavia è stata la presa di posizione pubblica di un grande esperto, Ray Mooney, direttore dell’ Artificial intelligence Laboratory del Texas, che mise alla prova un decantato ed evoluto sistema di intelligenza artificiale con questo semplice indovinello: “Un uomo va in un ristorante. Ordina una bistecca. Lascia una generosa mancia. Cosa ha mangiato quell'uomo?” La larghissima maggioranza delle persone comuni risponde semplicemente a questa domanda: “una bistecca”. Non così il sistema evoluto di intelligenza artificiale: nel racconto non era esplicitamente dichiarato che l'uomo aveva mangiato la bistecca, quindi il sistema non riusciva a fornire una risposta chiara.
Dal punto di vista logico non vi è dubbio che è proprio il nostro buon senso a sbagliare, ma per coloro che da anni tentano di insegnare alle macchine ad essere superiori agli umani, il problema del buon senso è tutt'altro che semplice da risolvere.
La mancanza di buon senso emerse in particolare nelle prime sperimentazioni di autoveicoli a guida automatica: in questi casi, sistemi avanzati di interpretazione delle immagini raccolte dalle fotocamere interagiscono con i complessi algoritmi dei dispositivi di intelligenza artificiale che inviano al veicolo i comandi più opportuni. Nei primi anni in cui questi sistemi vennero sperimentati si verificò che funzionavano correttamente nelle situazioni classiche, ad esempio fermando l'auto quando un pupazzo attraversava la strada, ma reagivano in maniera paradossale per eventi imprevisti: la semplice comparsa di una gallina sul marciapiede bloccava vari tipi di veicoli automatici fintanto che l'uomo non interveniva.
Continua in una prossima pillola ove illustreremo brevemente i meccanismi decisionali degli umani e li compareremo con quelli digitali…
Riccardo De Gobbi e Giampaolo Collecchia
Bibliografia 1) Laura L.:Breve ed universale storia degli algoritmi LUISS University Press Roma 2019 2)Enciclopedia Treccani on-line : http://www.treccani.it/enciclopedia/ 3)Ray Mooney: https://www.cs.utexas.edu/~mooney/
Per approfondire:
Per gli argomenti digitali: Collecchia G. De Gobbi R.: Intelligenza Artificiale e Medicina Digitale. Una guida critica. Il Pensiero Scientifico Ed. Roma 2020
http://pensiero.it/catalogo/libri/pubblico/intelligenza-artificiale-e-medicina-digitale
Per i meccanismi decisionali del medico: Collecchia G., De Gobbi R., Fassina R., Ressa G., Rossi L.R.: La Diagnosi Ritrovata Il Pensiero Scientifico Editore Roma 2021
http://pensiero.it/catalogo/libri/professionisti/la-diagnosi-ritrovata |