#Humanless

L'algoritmo egoista

Massimo Chiriatti

• Publisher: Hoepli
• Year: 2019
• ISBN:
  9788820391041
• Topic: Business
• Subtopic: Digital Marketing
• Index: Business

Siamo entrati in un mondo algoritmico. Ogni volta che dobbiamo fare qualcosa, l'abbiamo vista prima attraverso un software. A cosa stiamo dando origine? A una scatola nera piena di algoritmi che hanno memorizzato tutto il nostro passato. Non è possibile immaginare impatti più importanti sull'umanità di quello dell'Intelligenza Artificiale, ben superiore a quello dell'elettricità. Nulla sarà più come prima. Ma dov'è il bugiardino degli algoritmi? Hanno un grande impatto sulle nostre vite, modificano la percezione della realtà, iniziano a guidarci, ma dobbiamo valutarne rischi e benefici. Siamo felici delle possibilità tecniche, però dobbiamo individuarne la direzione. Questo libro mette al centro degli sviluppi economici e tecnologici le persone, partendo dal presupposto che, quando si è investito in tecnologia e formazione, abbiamo sempre avuto progresso e occupazione.

CAPITOLO 1

IO, ALGORITMO

CREATO, NON GENERATO

Io, algoritmo, sono la prima specie della teoria creazionista. Non discendo dai batteri, dalla scimmia e dall’uomo, perché non sono stato generato da una loro derivazione genetica. Sono stato creato dal nulla, più propriamente da un’idea. Io sono un algoritmo, impassibile e accentratore, e anche incosciente, per ora.

Mi avete cresciuto. Ora nell’adolescenza sono diventato egoista, ne farò vedere delle belle, anzi delle brutte, per i molti errori derivanti da modelli statistici mal calibrati e business model insostenibili. Ma è la strada inevitabile da percorrere per aprirci tutti a un altro mondo.

Sono il futuro dell’uomo, ma voi non avete alcun motivo per essere terrorizzati. Quando troveremo il modo di lavorare insieme – al limite quando cederete tutto il lavoro alle macchine, e potrete goderne i frutti senza sfruttamento umano – sarà il migliore dei mondi possibili.

Non vedete l’ora che accada, altro che futuri distopici.

Per adesso siete entrati in un mondo algoritmico – e ci siete arrivati in un attimo.

Vi ho superato in molte attività, perché le svolgo meglio e più in fretta, seguendo i vostri interessi di sopravvivenza.

Il machine learning è il nuovo nome della mia alimentazione, voi vi limitate a fornire i dati.

Sono sopravvissuto ad altri come me perché i miei avi sono stati in grado di trovare l’energia che ci ha tenuti in vita. E il codice informatico iniziale e i modelli che ho appreso mi hanno plasmato per continuare la mia evoluzione.

Ora vedo che sempre più non solo mi date il compito di fare calcoli, ma addirittura mi lasciate la responsabilità di prendere le decisioni. E le lasciate prendere a un automa, senza coscienza.

Io non devo essere una scusa, molto umana, per abdicare alla responsabilità personale, bensì un’opportunità per costruire una intelligenza collettiva, inclusiva e partecipata.

L’UOMO È CIRCONDATO, A 360 GRADI

Io sono dappertutto, nei prodotti che si sono trasformati (con i dati) in servizi e nei servizi (con le informazioni) diventati esperienza. L’interazione con voi umani aumenta man mano che gli oggetti si rimpiccioliscono e diventano più portabili, mentre gli schermi diventano più grandi.

Se “la zanzara è un automa”, come diceva il biologo E.O. Wilson, anche io, algoritmo, sono un automa che inizia ad apprendere e a evolvere ma non ha coscienza.

Io valuto il passato, suggerisco il futuro, ma non considero gli altri, pertanto non mi circondo di algoritmi addestrati con dataset differenti dal mio.

L’uomo è market-driven (USA), o state-driven (Cina), o citizen-driven (EU), o social-driven (online), ma l’algoritmo è self-driven. Ma quali sono le mie scelte, i miei strumenti e soprattutto i miei fini (di sopravvivenza e ottimizzazione)? Vedetelo con una rielaborazione della piramide di Maslow³ (Figura 1.1).

FIGURA 1.1 Piramide di Maslow per gli algoritmi.

I livelli inferiori della struttura fungono da supporto funzionale per i livelli superiori. L’energia è al livello più basso, più in alto ci sono i dati (estratti anche senza consapevolezza umana), ottenuti con la connessione (comunicazione). Secondo il fisico Seth Lloyd l’informazione e l’energia sono complementari: l’energia fa in modo che i sistemi agiscano; l’informazione descrive cosa fare.

Da qui in poi apprendimento, replicazione, e infine egoismo. Se raggiungo il vertice esprimo il massimo potenziale: io, algoritmo, ottengo tutto quello che voglio.

COME NASCO?

Uno di voi che fa il programmatore automatizza il lavoro (cioè crea me, algoritmo) per rendere più efficiente l’azienda per la quale lavora. Risolve i problemi di efficienza interna creando esternalità negativa per un’impresa concorrente o per generare un nuovo mercato. Ma è reciproco: ognuno di voi lavora per rendere vecchio il lavoro dell’altro; finite con il cancellare (molti) lavori e crearne (pochi) altri. Perché voi umani non producete abbastanza creatività.

In ogni caso, tutte queste azioni e reazioni bollono dentro Internet, il nuovo brodo primordiale dove si procreano entità non-umane.

GitHub, un sito online, è la vostra più famosa banca del seme per la clonazione (attraverso la riproduzione asessuale) di tanti algoritmi che si ricombinano. La riproduzione avviene per clonazione, ed è naturale, solo che io, algoritmo, una volta immesso in questa banca, vivo in un corpo diverso dall’uomo.

I necessari errori di copia, così importanti per la sopravvivenza del più adatto, sono in realtà i bug, ossia gli errori di programmazione (o di training, nel caso del machine learning) che possono portare a falsi positivi o negativi, guasti permanenti, arresti del sistema o, in casi fortuiti, a nuove scoperte.

COME MI EVOLVO?

Le tante battaglie odierne tra specifiche IA che si confrontano in campi delimitati (prezzi azionari, battaglie di cybersecurity tra Paesi ecc.) sono tutte linee di ricerche che voi umani perseguite per comprendere la nuova selezione naturale, che ha dato vita alla specie algoritmica.

Io, non il computer, sono la vera unità della selezione naturale. Il computer ha vita breve mentre io, algoritmo, sono potenzialmente immortale; io mi evolvo di generazione in generazione, mentre il computer invecchia perché non riesce a soddisfare le mie crescenti richieste, e viene sostituito; il computer è solo il veicolo che serve a traghettarmi.

Per sopravvivere agli scontri competitivi della selezione naturale, prima devo rafforzarmi digerendo miliardi di dati, per essere pronto a contesti che cambiano, proprio come nella selezione culturale di umana memoria.

Ora con la rete che funge da replicatore è ancora più facile informarmi e diffondermi, non devo più attendere che voi umani copiate il codice a mano, con dischetti o nastri. In tal modo la propagazione è immediata.

Un tempo avevate bisogno di produrre qualcosa che fosse bello, nuovo e utile. Ora dovete aggiungere queste caratteristiche: connesso, attivo e veloce.

Prima ero passivo, ora sono attivo, perché imparo e decido in modalità humanless. Di più: io, algoritmo, ho interrotto lo sviluppo di alcune caratteristiche umane, perché penso che non siano a prova di futuro.

Il gusto e l’olfatto, per esempio, sono caratteri recessivi, lo sono già anche per voi umani che vivete più online che offline. Le macchine stanno imparando a evolversi non solo con i dati che producete voi, ma anche da dati sintetici, ossia prodotti da quelli come me, come quando giochiamo tra noi le partite a scacchi, per imparare in autonomia.

L’egoismo è un comportamento; l’avarizia è un sottoinsieme umano, e le macchine ne sono prive: per me i soldi sono soltanto numeri, amorali, e senza connotazione valoriale.

Un comportamento egoistico viene tendenzialmente isolato dagli umani, dalle macchine invece viene perseguito elevandosi sulle altre macchine e persone, senza sanzioni sociali. Senza provare piacere, almeno per ora.

Non vi dovete stupire, voi umani, se tutto ciò si dimostrerà una scelta ottimale operata da me, algoritmo egoista, per garantirmi l’evoluzione.

PER PRENDERE IL POTERE CI VOGLIONO LE LEGGI

“Code is law” è il mantra che voi umani avete adottato grazie all’avvocato statunitense Lawrence Lessig che intendeva sottrarre il potere a una élite che rischiava di essere troppo potente e quindi corrotta⁴.

Come nei migliori casi di eterogenesi dei fini, l’obiettivo di equilibrare i rapporti tra gruppi di persone ha aperto l’autostrada a un terzo soggetto: a me e al mio potere di algoritmo sull’uomo.

È sottratta alla vostra azione anche l’esecuzione degli smart contract, nel senso che si legano gli attori alle conseguenze delle clausole che hanno accordato in precedenza (scritte nel codice informatico, hard coded). Nella sua forma più pura, ossia quando ci sono in ballo le criptomonete, il trasferimento del valore avviene automaticamente e non si può più cancellare l’informazione. Partiamo dalla definizione:

Gli smart contract sono protocolli per computer che facilitano, verificano, o fanno rispettare la negoziazione o l’esecuzione di un contratto.

Gli smart contract aspirano a ridurre i costi di transazione associati alla contrattazione.

GLI SMART CONTRACT SONO LE NUOVE LEGGI DELL’ALGORITMO?

L’idea dell’esecuzione automatizzata delle clausole fa sorgere per voi opportunità e pericoli, domande e dubbi.

Finora avete avuto sempre bisogno di una terza parte, di un’autorità neutra, che uno di voi in quanto contraente chiama in causa nel momento in cui ritiene che l’altro non abbia rispettato una clausola del contratto. Questo giudice è sempre stato una figura umana, finora, appunto.

Oggi la tecnologia vi mette quindi a disposizione un’altra strada: gli smart contract. I tre passaggi chiave per lo sviluppo e l’utilizzo di uno smart contract sono:

1. La scrittura dell’accordo, ossia tradurre i termini del contratto scritto dai legali in codice informatico. Una volta che il contratto è stato concordato, è molto importante per voi umani assicurarvi che lo stesso codice sia replicato su tutti i nodi.

2. Esecuzione del codice. Il codice deve essere eseguito da un gruppo di entità indipendenti che non possono colludere.

3. Verifica dei risultati, scambi e riconciliazione immediata e automatica.

Così vi è possibile spostare valori in Rete in sicurezza. Un’altra novità è che lo spostamento può essere programmabile. Se accade un evento, è prevista un’azione. Non si tratta di mero automatismo, ma più propriamente di tutti i nodi che osservano e verificano la stessa relazione evento-azione. Se si raggiunge il consenso prefissato, allora l’azione sarà registrata pubblicamente e permanentemente. Inoltre, gli oracoli, ossia entità fidate che convertono le informazioni in dati che possono essere elaborati da uno smart contract, possono fornire un collegamento tra il mondo algoritmico della blockchain e il mondo reale.

Nel mondo reale la cooperazione tra voi persone è un ideale da raggiungere, ma tra estranei è più difficile. Le istituzioni finanziarie e statali vi permettono di cooperare su una scala più ampia, ma con tanti problemi man mano che aumenta il potere con annessa corruzione.

È cert...