Oracoli

Tra algoretica e algocrazia

Paolo Benanti

• Editore: Luca Sossella editore
• Anno: 2019
• Print ISBN: 9788897356905
• eBook ISBN: 9788832231250
• Argomento: Ciencias sociales
• Categoria: Sociología

Forse la verità più straordinaria dell'età moderna è che certi tipi di tecnologia avanzano non in modo lineare, ma su curve esponenziali. Ogni anno una parte sempre più ampia del mondo della tecnica viene risucchiato in queste curve esponenziali. A grandi linee, ciò significa che ogni anno vede più innovazione rispetto a tutti gli anni prima messi insieme. Ciò implica che i prossimi vent'anni presenteranno cambiamenti tecnologici così profondi da rendere quasi irrilevante tutto ciò che è venuto prima. Questa velocità ci interroga e lo scenario diviene così complesso che sfida la nostra capacità di comprendere la tecnologia e i suoi prodigi. Questo testo prova a far risuonare alcune di queste domande.

1. Introduzione

Forse la verità più straordinaria dell’età moderna è che certi tipi di tecnologia avanzano non in modo lineare, ma su curve esponenziali. La famosa legge di Moore, in base alla quale il numero di componenti elettronici – transistor – in un chip raddoppia ogni anno, si applica alle batterie e alla larghezza di banda tanto quanto ai processori. Ogni anno una parte sempre più ampia del mondo della tecnica viene risucchiato in queste curve esponenziali. A grandi linee, ciò significa che ogni anno vede più innovazione rispetto a tutti gli anni prima messi insieme.

Ciò implica che i prossimi vent’anni presenteranno cambiamenti tecnologici così profondi da rendere quasi irrilevante tutto ciò che è venuto prima. Le comunità postumaniste e i cultori della fantascienza si sono a lungo vicendevolmente stimolati, con la conseguenza di una crescita tecnologica esponenziale.

Stimare questa tipologia di cambiamenti è notoriamente difficile. Matematicamente, nonostante i limiti teorici del caso, se la nostra capacità tecnologica continuasse a crescere in futuro con lo stesso ritmo con cui è cresciuta sinora, tra due decenni ci sarà almeno un milione di persone tecnologicamente più capaci di noi oggi. Un milione di volte in una generazione. È un po’ come passare dall’invenzione della scrittura all’invenzione del computer in una singola generazione.

Gli esseri umani come li conosciamo attualmente non hanno la minima idea di come fare per adattarsi a tale velocità e a una simile portata del cambiamento. Dimentichiamo le auto senza conducente, le stampanti 3D e i droni autonomi. Cosa saremo capaci di fare?

È quasi certo che potremo disporre di un’intelligenza potenziata dal cibernetico e del controllo dettagliato sul materiale genetico dei nostri figli con tecniche come la CRISPR (Clustered Regularly Interspaced Short Palindromic Repeats, traducibile in italiano con “brevi ripetizioni palindrome raggruppate e separate a intervalli regolari”). Avremo forse tecnologie simili alla telepatia e alla “coscienza a sciame”, dove diventa impossibile distinguere i propri pensieri dai pensieri delle persone a cui si è connessi. Forse esisterà una realtà virtuale simile a Matrix: indistinguibile dalla realtà. Possiamo immaginare, in un futuro, anche la superintelligenza digitale, quella che è il sogno preferito dai “singolaristi”.

Elon Musk continua a dire: “Spero che non siamo solo il bootloader* biologico per la super-intelligenza digitale. Sfortunatamente, questo è sempre più probabile”. La Singolarità è vicina? Forse non ancora, ma probabilmente la prossima generazione lo scoprirà.

Con tutto questo, è plausibile che la prossima generazione di uomini si ritrovi a esercitare un potere su tutti gli aspetti della vita molto più grandi di quelli finora toccati dall’uomo. Il modo in cui gestiremo tale potere è solo immaginabile. Ma ciò che ci aspetta potrebbe essere tanto differente da quello che noi siamo oggi, quanto noi lo siamo dai nostri antenati ominidi.

Lo scopo di queste brevi riflessioni è quello di aprire alcune piste che permettano di elaborare un pensiero capace di sostenere e orientare la futura, imminente complessità.

2. Scenari

In un seminario del 2006, a Ginevra, i membri fondatori del progetto Bridging the Gap diedero il via ai lavori del proprio gruppo presentando uno scenario che postulava una crisi finanziaria originata negli Stati Uniti. Immaginavano che da questa avrebbe avuto origine una recessione globale con conseguenze economiche dolorose per l’Europa: di fatto, anticipavano quanto sarebbe accaduto a partire dal 2008.

Le reazioni di molti dei partecipanti al seminario, tra cui notevoli esperti e policy makers, erano incredule. Si passava da “È semplicemente impossibile”, a “Non potrebbe mai accadere” fino a espressioni come “Parlarne è una perdita di tempo”.

In realtà, nelle questioni che intercettano un presente in condizioni di instabilità e un futuro incerto, lo scenario si presenta sia come una sfida al pensare sia come strumento di grande valore per le analisi e la riflessione.

Bisogna tuttavia essere coscienti di cosa gli scenari non possono essere. Non sono previsione, profezia né simulazione. Analizzare uno situazione non significa trovarsi di fronte a un oracolo che predice e indica l’avvenire in una maniera deterministica e univoca.

Nulla di tutto questo. Lavorare su possibili scenari significa illustrare possibili stati futuri del mondo combinando teoria e narrazione in modi rigorosi e risonanti per facilitare il pensiero creativo.

Per comprendere allora come la digitalizzazione, il codice, gli algoritmi e le intelligenze artificiali rendano mutevole il nostro presente, e per guardare in maniera costruttiva un futuro che sembra quanto mai incerto, proviamo a elaborare alcuni scenari possibili di trasformazione di alcuni ambiti del nostro vivere.

Tutte le situazioni che descriveremo hanno lo scopo di stimolare un pensiero creativo che si interroghi sulla natura della trasformazione cui stiamo assistendo a opera del mondo delle information technologies e delle intelligenze artificiali.

Siamo partiti da episodi reali costruendo poi orizzonti che offrono alla considerazione di chi legge dei contesti da valutare e sui quali interrogarsi.

Il lavoro

Il lavoro è una dimensione tipica dell’essere umano, connessa alla sua propria specificità e strettamente interconnessa e interdipendente dalla cultura e dalle relazioni sociali dell’uomo.

Oggi una nuova rivoluzione sembra poter trasformare tutto il quadro di riferimento.

Se la nascita dell’agricoltura e degli allevamenti ha dato forma alle comunità umane e ai loro utensili spingendo la fatica, il labor, in determinate forme sociali strutturate con attrezzi specifici; se la rivoluzione industriale ha trasformato gli utensili in macchine, elementi che usavano prevalentemente energia non umana per realizzare compiti anche complessi ma avevano bisogno delle abilità cognitive umane; oggi le macchine divengono macchine sapiens.

L’avvento di robot e delle intelligenze artificiali ha il potere di essere rivoluzionario. Secondo alcuni, questo fenomeno può mettere in crisi il concetto stesso di lavoro e di necessità dell’uomo nel processo produttivo o nelle professioni.

L’evoluzione tecnologica dell’informazione e del mondo, compreso come una serie di dati, si concretizza nelle intelligenze artificiali (AI) e nei robot: siamo in grado di costruire macchine che possono prendere decisioni autonome e coesistere con l’uomo. Si pensi alle macchine a guida autonoma che Uber, il noto servizio di trasporto automobilistico privato, già utilizza in alcune città come Pittsburgh, o a sistemi di radio chirurgia come il Cyberknife, o ai robot destinati al lavoro a fianco all’uomo nei processi produttivi in fabbrica.

Le AI, queste nuove tecnologie, sono pervasive. Stanno insinuandosi in ogni ambito della nostra esistenza, tanto nei sistemi di produzione, incarnandosi in robot, quanto nei sistemi di gestione sostituendo i server e gli analisti. Ma anche nella vita quotidiana i sistemi di AI sono pervasivi.

Gli smartphone di ultima generazione sono tutti venduti con un assistente dotato di intelligenza artificiale, Cortana, Siri o Google Hello – per citare solo i principali –, che trasforma il telefono da un hub di servizi e applicazioni a un vero e proprio partner che interagisce in maniera cognitiva con l’utente. Sono in fase di sviluppo sistemi di intelligenza artificiale, i bot, che saranno disponibili come partner virtuali da interrogare via voce o in chat, in grado di fornire servizi e prestazioni che prima erano esclusiva di particolari professioni: avvocati, medici e psicologi sono sempre più efficientemente sostituibili da bot dotati intelligenza artificiale.

Il mondo del lavoro conosce oggi una nuova frontiera: le interazioni e la coesistenza tra uomini e intelligenze artificiali.

La medicina e la cura della salute

La produzione di dati personali è oggi semplificata dal fatto che ognuno possiede dei devices sempre connessi: gli smartphone. Però i dati prodotti grazie alla diffusione sempre più pervasiva dei wearable e di sensori di vario tipo sta aumentando e sta invadendo anche l’ambito dei dati sanitari. Pensare di utilizzare questi dati per scopi medici e pensare di usarli con algoritmi di machine learning o bot di AI sembra molto promettente.

Il tracking degli smartphone dà ai medici una nuova capacità di controllo remoto dei pazienti. Da poco è stata realizzata una tecnologia per smartphone che avvisa il medico, mediante utilizzo di software di AI, quando i pazienti sono in vista di guai sanitari. Al Forsyth Medical Center di Winston-Salem, North Carolina, gli infermieri possono essere sempre presenti nella vita di alcuni pazienti affetti da diabete, anche quando sono molto distanti dall’ospedale. Se un paziente specifico comincia a sentirsi fiacco o a effettuare chiamate lunghe alla propria mamma, un box verde che lo rappresenta su un display on-line diventa prima giallo e poi rosso. Presto un infermiere lo chiamerà per vedere se sta ancora prendendo i suoi farmaci.

Questo nuovo modo di tenere sotto controllo i pazienti è uno dei numerosi tentativi di sviluppo di applicazioni per smartphone. L’applicazione su cui ci soffermiamo è chiamata Ginger.io ed è in fase di test presso alcuni ospedali negli Stati Uniti. Una volta installata sugli smartphone dei pazienti, l’applicazione registra in maniera automatica e invisibile i dati di quello che i pazienti fanno e dove vanno. Ginger.io è alla ricerca di segnali che indichino cambiamenti nella vita dei pazienti. Perché è importante?

I pazienti con patologie croniche come il diabete potrebbero trarre vantaggio da un monitoraggio totalizzante che informi i medici, ad esempio, su quando hanno smesso di prendere le loro medicine. La ditta che produce Ginger.io è una start-up nata nei MIT Media Lab nel 2011 da un gruppo che studia modi per applicare algoritmi informatici ai dati di telefonia mobile per conoscere la salute degli individui e di intere popolazioni (Big Data from Cheap Phones). Il lavoro di data mining ha dimostrato che i cambiamenti nel modo in cui le persone utilizzano i loro telefoni, e dove si muovono, possono riflettere l’insorgenza di un raffreddore, la presenza di ansia o di stress.

Anmol Madan, co-fondatore e CEO di Ginger.io, sostiene che la ricerca ha suggerito un nuovo modo economico per automatizzare il monitoraggio di persone con patologie come il diabete o le malattie mentali. Chi è affetto da queste patologie generalmente è in cura mediante l’assunzione di farmaci mentre risiede a casa. L’applicazione Ginger.io non diagnostica direttamente i pazienti, ma avverte che il comportamento di una persona è cambiato in un modo che è collegato a quello che i medici chiamano “non conforme” con un determinato farmaco o un tipo di trattamento. Ginger.io silenziosamente fa il logging dei cambiamenti cosicché il medico o l’infermiere possano ottenere un senso sul cambiamento dello stato di vita del paziente e, se necessario, aiutarlo.

Ginger.io è disponibile sia per Android sia per i dispositivi Apple, ma può essere attivato solo da un ospedale o da un’azienda sanitaria. Una volta installato, Ginger.io richiede alcuni giorni per registrare i modelli normali di vita di una persona. Raccoglie i dati di movimento dagli accelerometri del telefono, prende nota dei posti visitati, registra i tempi, la durata e i destinatari delle telefonate e registra i modelli dei messaggi di testo. Dopodiché, gli algoritmi consentono di notare e far emergere eventuali deviazioni significative dai pattern standard e di avvisare il personale ospedaliero delle anomalie.

Uno degli ospedali e aziende sanitarie scelti per il test di Ginger.io è il Novant Healt, che gestisce il Forsyth Medical Center e altri 13 centri medici in tutta la Carolina e Virginia. Matthew Gymer, direttore del dipartimento per l’innovazione di Novant, ha raccontato che il suo gruppo si è interessato a Ginger.io perché voleva un “sistema di preallarme” che fosse in grado di diminuire la frequenza con la quale i pazienti devono visitare i suoi ospedali. Gymer si è rifiutato di dire quanti pazienti sono coinvolti nel test di Novant, ma il CEO di Ginger.io sostiene che le prove del loro sistema di solito iniziano con qualche centinaio di pazienti. Otto mesi dopo i primi contatti con la start-up, Ginger.io è stato installato sugli smartphone di alcuni pazienti affetti da diabete. È ancora troppo presto per quantificare i risultati in termini di benefici alla salute e al costo sanitario. Ma Gymer riporta che i pazienti coinvolti “amano l’app perché hanno un accesso più rapido e immediato al personale sanitario” e che Novant prevede di ampliare il test a pazienti con problemi cardiaci e mal di schiena cronico.

Nel test di Novant, gli infermieri devono rispondere agli avvisi generati dalla app, ma l’azienda sviluppatrice sta lavorando su come automatizzare l’interazione con i pazienti. Per le persone affette dal morbo di Crohn (una malattia che provoca l’infiammazione del tratto gastrointestinale) un messaggio automatico potrebbe chiedere al paziente informazioni sulla condizione del mal di stomaco: potrebbe essere un modo efficace per intercettare e trattare le persone sull’orlo di un flare-up (uno stato infiammatorio improvviso che produce diarrea, ulcere, perdita di peso, anemia, rotture della pelle nei pressi dell’ano ecc.). L’azienda sta sperimentando anche altre risposte automatiche, insolite rispetto ai metodi della medicina tradizionale, come l’invio di una foto divertente o di un messaggio di un amico del paziente che suggerisca di chiamare i medici.

L’AI nella sanità potrebbe favorire l’organizzazione dei percorsi per i pazienti o i piani di trattamento e fornire ai medici tutte le informazioni necessarie per prendere la decisione migliore. Potrebbe alleggerire gli specialisti nelle loro attività quotidiane, così da lasciare più spazio a mansioni specifiche e in cui è richiesta la competenza umana.

L’intelligenza artificiale ha già trovato terreno fertile in diverse aree di assistenza sanitaria che ha rivoluzionato, a partire dalla progettazione di piani di trattamento attraverso l’assistenza in lavori ripetitivi per la gestione o la produzione di farmaci.

Di contro, questi algoritmi hanno “la responsabilità” di decidere chi verrà sottoposto all’attenzione del medico e chi invece no. In altri termini possono arrivare a selezionare chi può avere possibilità di ricevere cure e chi invece verrà escluso da questo.

Le biotecnologie applicate all’uomo

Il desiderio di avere un figlio ha incontrato ormai da diversi anni la tecnologia: le tecniche di procreazione artificiale sono la mediazione tecnologica a cui oggi sempre più coppie ricorrono in occidente per aggirare il problema dell’infertilità. La tecnologia medica però è uno strumento che non garantisce le stesse percentuali di successo che possiede se applicate alla trasformazione dei materiali inerti: la vita con tutte le sue variabili resta imprevedibile.

Di fatto le statistiche mostrano come le tecniche di procreazione artificiale, specialmente la fecondazione in vitro (FIV) si attestino su un tasso di successo tra il 20 e il 35%. Se fino a oggi il medico o il tecnico di laboratorio erano gli addetti alla selezione degli embrioni e al loro intuito e “occhio clinico” era affidata questa operazione, oggi si fa strada l’idea di utilizzare un’intelligenza artificiale. Se sono caratteristiche come la ruvidità superficiale e la rigidità dell’embrione a determinare le possibilità di successo nell’impianto, allora una macchina con un software di machine learning può avere più successo di un uomo.

Alcune start-up vogliono iniziare a usare dei dati fotografici (immagini digitali ad alta risoluzione) per “addestrare” la macchina a “capire” e “decidere” sulla qualità degli embrioni. La prassi comune è che dopo l’unione dei gameti, lo spermatozoo e l’ovulo, si tengono in coltura gli embrioni per cinque giorni, cioè fino a quando non si sviluppa una massa di circa cento cellule il cui nome tecnico è blastociste. Solo a questo punto si procede con il trasferimento tubarico dell’embrione.

Qua...

Indice dei contenuti

• Copertina
• Frontespizio
• Colophon
• 1. Introduzione
• 2. Scenari