L’Amazon Echo come mappa anatomica del lavoro umano, dei dati e delle risorse planetarie
Di Kate Crawford 1 e Vladan Joler 2
(2018)
Liberamente tradotto in italiano dall’articolo originale https://anatomyof.ai/ con l’utilizzo di Deepl e revisioni umane. Le note sono cliccabili!
I
Un cilindro si trova in una stanza. È impassibile, liscio, semplice e piccolo. È alto 14,8 cm, con un’unica luce circolare blu-verde che si sviluppa intorno al bordo superiore. Attende in silenzio. Una donna entra nella stanza, con un bambino addormentato in braccio, e si rivolge al cilindro.
“Alexa, accendi le luci della sala”.
Il cilindro prende vita. “OK”. La stanza si illumina. La donna fa un lieve cenno di assenso e porta il bambino al piano di sopra.
Questa è un’interazione con il dispositivo Echo di Amazon. 3 Un breve comando e una risposta sono la forma più comune di interazione con questo dispositivo di intelligenza artificiale a comando vocale. Ma in questo fugace momento di interazione, viene richiamata una vasta matrice di capacità: filiere intrecciate di estrazione di risorse, lavoro umano ed elaborazione algoritmica attraverso reti di estrazione, logistica, distribuzione, previsione e ottimizzazione. La scala di questo sistema è quasi al di là dell’umana immaginazione. Come possiamo iniziare a vederla, a coglierne l’immensità e la complessità come forma connessa? Iniziamo con uno schema: una vista esplosa di un sistema planetario attraverso tre fasi di nascita, vita e morte, accompagnata da un saggio in 21 parti. L’insieme diventa una mappa anatomica di un singolo sistema di intelligenza artificiale.
II
La scena della donna che parla con Alexa è tratta da un video promozionale del 2017 che pubblicizza l’ultima versione dell’Amazon Echo. Il video inizia con “Salutate il nuovissimo Echo” e spiega che l’Echo si connetterà ad Alexa (l’agente di intelligenza artificiale) per “riprodurre musica, chiamare amici e familiari, controllare dispositivi domestici intelligenti e molto altro”. Il dispositivo contiene sette microfoni direzionali, in modo che l’utente possa essere ascoltato in ogni momento anche durante la riproduzione di musica. Il dispositivo è disponibile in diversi stili, come il grigio antracite o il classico beige, pensati per “mimetizzarsi o risaltare”. Ma anche le opzioni di design più brillanti mantengono una sorta di anonimato: nulla avverte il proprietario della vasta rete che sottende e guida le sue capacità interattive. Il video promozionale afferma semplicemente che la gamma di cose che si possono chiedere ad Alexa è in continua espansione. “Poiché Alexa è nel cloud, diventa sempre più intelligente e aggiunge nuove funzioni”.
Come avviene questo? Alexa è una voce disincarnata che costituisce l’interfaccia di interazione uomo-AI per una serie straordinariamente complessa di livelli di elaborazione delle informazioni. Questi livelli sono alimentati da correnti costanti: il flusso di voci umane che vengono tradotte in domande testuali, utilizzate per interrogare database di potenziali risposte, e il corrispondente riflusso delle risposte di Alexa. Per ogni risposta fornita da Alexa, la sua efficacia viene dedotta da ciò che accade successivamente:
Viene riproposta la stessa domanda? (L’utente si è sentito ascoltato?)
La domanda è stata riformulata? (L’utente ha ritenuto che la domanda è stata compresa?)
C’è stata un’azione dopo la domanda? (L’interazione ha portato a una reazione controllata? Ad esempio l’accensione di una luce, l’acquisto di un prodotto, la riproduzione di un brano)
Con ogni interazione, Alexa si allena a sentire meglio, a interpretare in modo più preciso, a innescare azioni che corrispondono più accuratamente ai comandi dell’utente e a costruire un modello più completo delle sue preferenze, abitudini e desideri. Cosa è necessario per rendere tutto questo possibile? In parole povere: ogni piccolo attimo di comodità – che si tratti di rispondere a una domanda, accendere una luce o suonare una canzone – richiede una vasta rete planetaria, alimentata dall’estrazione di materiali non rinnovabili, manodopera e dati. L’entità delle risorse richieste è di gran lunga superiore all’energia e alla manodopera necessarie a un essere umano per far funzionare un elettrodomestico o premere un interruttore. Una rendicontazione completa di questi costi è quasi impossibile, ma è sempre più importante coglierne l’entità e la portata se vogliamo comprendere e governare le infrastrutture tecniche che attraversano le nostre vite.
III
Il Salar, la più grande superficie pianeggiante del mondo, si trova nel sud-ovest della Bolivia, a un’altitudine di 3.656 metri sul livello del mare. Si tratta di un altopiano ricoperto da alcuni metri di crosta salina eccezionalmente ricca di litio, che contiene dal 50% al 70% delle riserve mondiali di litio. 4 Il Salar, insieme alle vicine regioni di Atacama in Cile e Argentina, sono i principali siti di estrazione del litio. Questo metallo morbido e argenteo viene attualmente utilizzato per alimentare dispositivi portatili e connessi, come materiale fondamentale per la produzione di batterie agli ioni di litio. È conosciuto come “oro grigio”. Le batterie degli smartphone, ad esempio, contengono solitamente almeno otto grammi di questo materiale. 5 Ogni automobile Tesla ha bisogno di circa sette chilogrammi di litio per il suo pacco batterie. 6 Tutte queste batterie hanno una durata limitata e una volta esaurite vengono gettate via come rifiuti. Amazon ricorda agli utenti che non è possibile aprire e riparare il proprio Echo, perché questo invaliderebbe la garanzia. Amazon Echo è alimentato a corrente e dispone anche di una batteria mobile di supporto. Anche questa ha una durata limitata e deve essere gettata via come rifiuto.
Secondo le leggende Aymara sulla creazione della Bolivia, le montagne vulcaniche dell’altopiano andino sono state create da una tragedia. 7 Molto tempo fa, quando i vulcani erano vivi e vagavano liberamente per le pianure, Tunupa – l’unico vulcano femmina – diede alla luce un bambino. Colpiti dalla gelosia, i vulcani maschi le rubarono il bambino e lo esiliarono in un luogo lontano. Gli dei punirono i vulcani immobilizzandoli tutti sulla Terra. Addolorata per il bambino che non poteva più raggiungere, Tunupa pianse intensamente. Le sue lacrime e il latte materno si unirono per creare un gigantesco lago salato: il Salar de Uyuni. Come osservano Liam Young e Kate Davies, “il vostro smartphone funziona con le lacrime e il latte materno di un vulcano”. Questo paesaggio è collegato a qualsiasi luogo del pianeta attraverso i telefoni che abbiamo in tasca; è legato a ciascuno di noi da fili invisibili di commercio, scienza, politica e potere”. 8
IV
Il nostro diagramma esploso combina e visualizza tre processi estrattivi centrali e necessari per far funzionare un sistema di intelligenza artificiale su larga scala: risorse materiali, lavoro umano e dati. Consideriamo questi tre elementi nel tempo, rappresentati attraverso una descrizione visiva della nascita, della vita e della morte di una singola unità Amazon Echo. È necessario andare oltre la semplice analisi del rapporto tra un singolo essere umano, i suoi dati e una singola azienda del settore tecnologico, per affrontare la scala veramente planetaria dell’estrazione. Vincent Mosco ha mostrato come la metafora eterea della “nuvola”(il cloud) per la gestione e l’elaborazione dei dati in remoto sia in completa contraddizione con la realtà fisica dell’estrazione di minerali dalla crosta terrestre e dell’espropriazione delle popolazioni umane che ne sostengono l’esistenza. 9 Sandro Mezzadra e Brett Nielson usano il termine “estrattivismo” per indicare la relazione tra le diverse forme di operazioni estrattive nel capitalismo contemporaneo, che vediamo ripetersi nel contesto dell’industria dell’IA. 10 Esistono profonde interconnessioni tra il letterale dissotterramento dei materiali dalla terra e dalla biosfera e la cattura dei dati e la monetizzazione delle pratiche umane di comunicazione e socialità nell’IA. Mezzadra e Nielson notano che il lavoro è al centro di questa relazione estrattiva che si è ripetuta nel corso della storia: dal modo in cui l’imperialismo europeo ha utilizzato il lavoro degli schiavi, alle squadre di lavoro forzato nelle piantagioni di caucciù in Malesia, alle popolazioni indigene della Bolivia spinte a estrarre l’argento che è stato utilizzato nella prima moneta globale. Pensare all’estrazione richiede di pensare al lavoro, alle risorse e ai dati contemporaneamente. Ciò rappresenta una sfida per la comprensione critica e pubblica dell’intelligenza artificiale: è difficile “vedere” uno qualsiasi di questi processi singolarmente, figuriamoci nel loro insieme. Da qui la necessità di una visualizzazione in grado di riunire in un’unica mappa questi processi collegati ma dispersi a livello globale.
V
Se si legge la nostra mappa da sinistra a destra, la storia inizia e finisce con la Terra e i processi geologici del tempo remoto. Ma se la leggiamo dall’alto verso il basso, vediamo la storia che inizia e finisce con un essere umano. In alto c’è l’agente umano che interroga l’Echo e fornisce ad Amazon i preziosi dati di addestramento delle domande e delle risposte verbali che può utilizzare per perfezionare ulteriormente i suoi sistemi di intelligenza artificiale a comando vocale. Nella parte inferiore della mappa si trova un altro tipo di risorsa umana: la storia della conoscenza e della capacità umana, utilizzata anch’essa per addestrare e ottimizzare i sistemi di intelligenza artificiale. Questa è una differenza fondamentale tra i sistemi di intelligenza artificiale e altre forme di tecnologia di consumo: essi si basano sull’ingestione, l’analisi e l’ottimizzazione di grandi quantità di immagini, testi e video generati dall’uomo.
VI
Quando un essere umano interagisce con un Echo, o con un altro dispositivo di intelligenza artificiale a comando vocale, agisce come molto più di un semplice consumatore finale di un prodotto. È difficile collocare l’utente umano di un sistema di IA in un’unica categoria: merita piuttosto di essere considerato come un caso ibrido. Così come la chimera greca era un animale mitologico in parte leone, in parte capra, in parte serpente e in parte mostro, l’utente di Eco è contemporaneamente un consumatore, una risorsa, un lavoratore e un prodotto. Questa identità multipla ricorre per gli utenti umani in molti sistemi tecnologici. Nel caso specifico di Amazon Echo, l’utente ha acquistato un dispositivo di consumo per il quale riceve una serie di comodi vantaggi. Ma è anche una risorsa, poiché i suoi comandi vocali vengono raccolti, analizzati e conservati per costruire un corpus sempre più ampio di voci e istruzioni umane. E costituiscono un lavoro, in quanto svolgono continuamente il prezioso servizio di contribuire a meccanismi di feedback sull’accuratezza, l’utilità e la qualità complessiva delle risposte di Alexa. In sostanza, contribuiscono ad addestrare le reti neurali all’interno dello stack infrastrutturale di Amazon.
VII
Tutto ciò che va oltre le limitate interfacce fisiche e digitali del dispositivo stesso è fuori dal controllo dell’utente. Il dispositivo si presenta come una superficie essenziale, senza la possibilità di apertura, di riparazione o di modifica del suo funzionamento. L’oggetto in sé è una semplicissima forma di plastica che racchiude un insieme di sensori: la sua vera potenza e complessità risiede altrove, lontano dalla vista. L’Echo non è altro che un “orecchio” in casa: un agente di ascolto disincarnato che non mostra mai le sue profonde connessioni con i sistemi remoti.
Nel 1673, il polimatico gesuita Athanasius Kircher inventò la statua citofonica, la “statua parlante”. Kircher fu uno straordinario studioso e inventore interdisciplinare. Nella sua vita pubblicò quaranta opere di rilievo nei campi della medicina, della geologia, della religione comparata e della musica. Inventò il primo orologio magnetico, molti dei primi automi e il megafono. La sua statua parlante era un sistema di ascolto molto primitivo: essenzialmente un microfono ricavato da un enorme tubo a spirale, che poteva trasmettere le conversazioni da una piazza pubblica e salire attraverso il condotto, per poi essere convogliato attraverso la bocca di una statua posta nelle stanze private di un aristocratico. Come scrisse Kircher:
“Questa statua deve essere collocata in un determinato luogo, in modo che la sezione finale del tubo a spirale corrisponda esattamente all’apertura della bocca. In questo modo sarà perfetta, e in grado di emettere chiaramente qualsiasi tipo di suono: infatti la statua sarà in grado di parlare continuamente, pronunciando una voce umana o animale: riderà o sogghignerà; sembrerà piangere o gemere davvero; a volte con grande stupore soffierà con forza. Se l’apertura del tubo a forma di spirale si trova in corrispondenza di uno spazio pubblico aperto, tutte le parole umane pronunciate, concentrate nel condotto, verrebbero riprodotte attraverso la bocca della statua”. 11
Il sistema di ascolto poteva origliare le conversazioni quotidiane della piazza e trasmetterle agli oligarchi italiani del XVII secolo. La statua parlante di Kircher era una prima forma di estrazione di informazioni per le élite: le persone che parlavano per strada non avevano alcuna indicazione del fatto che le loro conversazioni venissero incanalate verso coloro che avrebbero sfruttato quella conoscenza per il proprio potere, intrattenimento e ricchezza. Le persone all’interno delle case degli aristocratici non avrebbero avuto idea di come una statua magica parlasse e trasmettesse ogni sorta di informazione. Lo scopo era quello di oscurare il funzionamento del sistema: una statua elegante era tutto ciò che potevano vedere. I sistemi di ascolto, anche in questa fase iniziale, avevano a che fare con il potere, la classe e la segretezza. Ma l’infrastruttura del sistema di Kircher era estremamente costosa e disponibile solo per pochi. Rimane quindi la domanda: quali sono le implicazioni in termini di risorse per la costruzione di tali sistemi? Questo ci porta alla materialità dell’infrastruttura sottostante.
VIII
Nel suo libro A Geology of Media, Jussi Parikka suggerisce di provare a pensare ai media non dal punto di vista di Marshall McLuhan – in cui i media sono estensioni dei sensi umani 12 – ma piuttosto come un’estensione della Terra. 13 Le tecnologie mediali dovrebbero essere comprese nel contesto di un processo geologico, dai processi di creazione e trasformazione al movimento degli elementi naturali da cui i media sono costruiti. Riflettere sui media e sulla tecnologia come processi geologici ci permette di considerare il grave impoverimento delle risorse non rinnovabili necessarie per alimentare le tecnologie del momento. Ogni oggetto della rete estesa di un sistema di intelligenza artificiale, dai router di rete alle batterie e ai microfoni, è costruito utilizzando elementi che hanno richiesto miliardi di anni per essere prodotti. Guardando dalla prospettiva del tempo profondo, stiamo estraendo la storia della Terra per servire una frazione di un istante di tempo tecnologico, al fine di costruire dispositivi che spesso sono progettati per essere utilizzati per non più di qualche anno. Ad esempio, la Consumer Technology Association rileva che la vita media degli smartphone è di 4,7 anni. 14 Questo ciclo di obsolescenza alimenta l’acquisto di un maggior numero di dispositivi, fa aumentare i profitti e incentiva l’uso di pratiche di estrazione non sostenibili. Dopo un lento processo di sviluppo degli elementi, questi elementi e materiali attraversano un periodo straordinariamente rapido di scavo, fusione, miscelazione e trasporto logistico, attraversando migliaia di chilometri nella loro trasformazione. I processi geologici segnano sia l’inizio che la fine di questo periodo, dall’estrazione del minerale alla deposizione del materiale in una discarica elettronica. Per questo motivo, la nostra mappa inizia e finisce con la crosta terrestre. Tuttavia, tutte le trasformazioni e i movimenti che raffiguriamo sono solo un abbozzo anatomico: al di sotto di queste connessioni si trovano molti altri strati frattali di catene di approvvigionamento, sfruttamento delle risorse umane e naturali, concentrazioni di potere aziendale e geopolitico e costante consumo di energia.
IX
Tracciare le connessioni tra risorse, lavoro ed estrazione di dati ci riporta inevitabilmente ai modelli tradizionali di sfruttamento. Ma come viene generato il valore attraverso questi sistemi? Un utile strumento concettuale si trova nel lavoro di Christian Fuchs e di altri autori che esaminano e definiscono il lavoro digitale. Il concetto di lavoro digitale, inizialmente collegato a diverse forme di lavoro non materiale, precede la vita di dispositivi e sistemi complessi come l’intelligenza artificiale. Il lavoro digitale – il lavoro di costruzione e manutenzione dello stack di sistemi digitali – è tutt’altro che effimero o virtuale, ma è profondamente incarnato in diverse attività. 15 La portata è vastissima: dal lavoro forzato nelle miniere di estrazione dei materiali che costituiscono la base fisica delle tecnologie dell’informazione, al lavoro rigorosamente controllato e a volte pericoloso di fabbricazione e assemblaggio di hardware nelle fabbriche cinesi; dai cosiddetti lavoratori cognitivi sfruttati in outsourcing nei paesi in via di sviluppo che classificano gli insiemi di dati per l’addestramento dell’intelligenza artificiale, fino ai lavoratori fisici invisibili che si occupano di ripulire le discariche di rifiuti tossici. Questi processi creano nuovi accumuli di ricchezza e potere, che si concentrano in uno strato sociale molto sottile.
X
Questo triangolo di estrazione e produzione di valore rappresenta uno degli elementi fondamentali della nostra mappa, dalla nascita in un processo geologico, attraverso la vita come prodotto di consumo dell’intelligenza artificiale, fino alla morte in una discarica elettronica. Come nell’opera di Fuchs, i nostri triangoli non sono isolati, ma collegati tra loro nel processo di produzione. Formano un flusso ciclico in cui il prodotto del lavoro si trasforma in una risorsa, che si trasforma in un prodotto, che si trasforma in una risorsa e così via. Ogni triangolo rappresenta una fase del processo produttivo. Sebbene questo appaia sulla mappa come un percorso lineare di trasformazione, una metafora visiva diversa rappresenta meglio la complessità dell’estrattivismo attuale: la struttura frattale nota come triangolo di Sierpinski.
Una visualizzazione lineare non ci permette di mostrare che ogni fase successiva della produzione e dello sfruttamento contiene le fasi precedenti. Se guardiamo al sistema di produzione e sfruttamento attraverso una struttura visiva frattale, il triangolo più piccolo rappresenterebbe le risorse naturali e i mezzi di lavoro, cioè il minatore come lavoro e il minerale come prodotto. Il triangolo successivo più grande racchiude la lavorazione dei metalli, mentre quello successivo rappresenterebbe il processo di produzione dei componenti e così via. Il triangolo finale della nostra mappa, la produzione stessa dell’unità Amazon Echo, comprende tutti questi livelli di sfruttamento, dal basso fino al vertice di Amazon Inc, un ruolo ricoperto da Jeff Bezos come amministratore delegato di Amazon. Come un faraone dell’antico Egitto, egli si trova in cima alla più grande piramide di estrazione del valore dell’IA.
XI
Per tornare all’elemento di base di questa visualizzazione – una variazione del triangolo di produzione di Marx – ogni triangolo crea un surplus di valore per generare profitti. Se osserviamo la classifica del reddito medio per ogni attività impiegata nel processo di produzione di un dispositivo, mostrata sul lato sinistro della nostra mappa, notiamo la drammatica differenza di reddito percepito. Secondo una ricerca di Amnesty International, durante l’estrazione del cobalto, utilizzato anche per le batterie al litio di 16 brand multinazionali, i lavoratori sono pagati l’equivalente di un dollaro USA al giorno per lavorare in condizioni di pericolo per la vita e la salute, e spesso sono stati sottoposti a violenze, estorsioni e intimidazioni. 16 Amnesty ha documentato miniere in cui lavorano bambini di appena 7 anni. Al contrario, l’amministratore delegato di Amazon Jeff Bezos, in cima alla nostra piramide frattale, ha guadagnato in media 275 milioni di dollari al giorno nei primi cinque mesi del 2018, secondo il Bloomberg Billionaires Index. 17 Un bambino che lavora in una miniera del Congo avrebbe bisogno di più di 700.000 anni di lavoro ininterrotto per guadagnare la stessa cifra di un singolo giorno di guadagno di Bezos.
Molti dei triangoli mostrati su questa mappa nascondono storie diverse di sfruttamento del lavoro e condizioni di impiego disumane. Il prezzo ecologico della trasformazione degli elementi e delle disuguaglianze di reddito è solo uno dei possibili modi di rappresentare una profonda disuguaglianza sistemica. Abbiamo studiato diverse forme di “scatole nere” intese come processi algoritmici, 18 ma questa mappa evidenzia un’altra forma di opacità: i processi stessi di creazione, formazione e funzionamento di un dispositivo come Amazon Echo sono essi stessi una sorta di scatola nera, molto difficile da esaminare e tracciare in toto a causa dei molteplici strati di appaltatori, distributori e partner logistici a livello mondiale. Come scrive Mark Graham, “il capitalismo contemporaneo nasconde ai consumatori le storie e le geografie della maggior parte delle merci. I consumatori sono di solito in grado di vedere le merci solo nel qui e ora del tempo e dello spazio, e raramente hanno la possibilità di guardare all’indietro attraverso le catene di produzione per acquisire conoscenze sui luoghi di produzione, trasformazione e distribuzione”. 19
Un esempio della difficoltà di indagare e tracciare il processo della catena di produzione contemporanea è quello di Intel che ha impiegato più di quattro anni per comprendere la sua filiera di approvvigionamento abbastanza bene da assicurarsi che nessun tantalio proveniente dal Congo fosse presente nei suoi microprocessori. In qualità di produttore di chip a semiconduttori, Intel fornisce processori ad Apple. Per farlo, Intel dispone di una propria filiera multilivello di oltre 19.000 fornitori in più di 100 Paesi che forniscono materiali per i processi di produzione, strumenti e macchinari per le fabbriche e servizi di logistica e imballaggio. 20 Il fatto che un’azienda leader nel settore tecnologico abbia impiegato più di quattro anni solo per comprendere la propria catena di approvvigionamento rivela quanto questo processo possa essere difficile da comprendere dall’interno, per non parlare dei ricercatori, dei giornalisti e degli accademici all’esterno. Anche l’azienda tecnologica olandese Philips ha dichiarato di essere al lavoro per rendere la propria catena di approvvigionamento “conflict-free“. Philips, ad esempio, ha decine di migliaia di fornitori diversi, ognuno dei quali fornisce componenti diversi per i propri processi produttivi. 21 Questi fornitori sono a loro volta collegati a decine di migliaia di produttori di componenti che acquistano i materiali da centinaia di raffinerie che acquistano gli ingredienti da diverse fonderie, che si riforniscono da un numero imprecisato di commercianti che hanno a che fare direttamente con operazioni minerarie sia legali che illegali. Nel libro The Elements of Power, David S. Abraham descrive le reti invisibili dei commercianti di metalli rari nelle catene di approvvigionamento dell’elettronica globale: “La strada per portare i metalli rari dalla miniera al vostro computer portatile passa attraverso una rete oscura di commercianti, trasformatori e produttori di componenti. I commercianti sono gli intermediari che non si limitano a comprare e vendere metalli rari: essi contribuiscono a controllare le informazioni e sono il legame nascosto che aiuta a orientarsi nella rete tra le industrie metallurgiche e i componenti dei nostri computer portatili”. 22 Secondo l’azienda produttrice di computer Dell, le complessità della supply chain dei metalli pongono sfide quasi insormontabili. 23 L’estrazione di questi minerali avviene molto prima dell’assemblaggio del prodotto finale, rendendo estremamente difficile rintracciare l’origine dei minerali. Inoltre, molti minerali vengono fusi insieme a metalli riciclati, e a quel punto diventa praticamente impossibile risalire alla loro origine. Il tentativo di catturare l’intera catena di approvvigionamento è quindi un compito davvero gargantuesco che rivela tutta la complessità della produzione globale di prodotti tecnologici del XXI secolo.
XII
Le catene di approvvigionamento sono spesso stratificate l’una sull’altra, in una rete tentacolare. Il programma di fornitori di Apple rivela che ci sono decine di migliaia di singoli componenti incorporati nei suoi dispositivi, a loro volta forniti da centinaia di aziende diverse. Affinché ciascuno di questi componenti arrivi alla catena di montaggio finale, dove sarà assemblato dagli operai degli stabilimenti Foxconn, è necessario trasferire fisicamente i diversi componenti da oltre 750 siti di fornitori in 30 Paesi diversi. 24 Si tratta di una complessa catena di approvvigionamento all’interno di una catena di approvvigionamento, un frattale zoomato di decine di migliaia di fornitori, milioni di chilometri di materiali spediti e centinaia di migliaia di lavoratori inclusi nel processo ancor prima che il prodotto venga assemblato sulla linea.
Visualizzando questo processo come un’unica rete globale, pancontinentale, attraverso la quale scorrono materiali, componenti e prodotti, vediamo un’analogia con la rete informatica globale. Dove c’è un singolo pacchetto Internet che viaggia verso un Amazon Echo, qui possiamo immaginare un singolo container. 25 Lo spettacolo mozzafiato della logistica e della produzione globale non sarebbe stato possibile senza l’invenzione di questo semplice oggetto metallico standardizzato. I container standard hanno permesso l’esplosione dell’industria navale moderna, che ha reso possibile modellare il pianeta come un’unica, enorme fabbrica. Nel 2017, la capacità delle navi portacontainer nel commercio marittimo ha raggiunto quasi 250.000.000 di tonnellate di portata lorda, dominate da gigantesche compagnie di navigazione come la danese Maersk, la svizzera Mediterranean Shipping Company e la francese CMA CGM Group, ognuna delle quali possiede centinaia di navi portacontainer. 26 Per queste imprese, il trasporto merci è un modo relativamente economico di attraversare il sistema vascolare della fabbrica globale, ma nasconde costi esterni molto più grandi.
In questi ultimi anni, le navi da trasporto producono il 3,1% delle emissioni annue globali di CO2, più dell’intera Germania. 27 Per ridurre al minimo i costi interni, la maggior parte delle compagnie di trasporto container utilizza carburante di qualità molto bassa in quantità enormi, il che comporta un aumento della quantità di zolfo nell’aria, oltre ad altre sostanze tossiche. È stato stimato che una sola nave portacontainer può emettere una quantità di inquinamento pari a quella di 50 milioni di automobili e che ogni anno 60.000 morti in tutto il mondo sono attribuite indirettamente a problemi di inquinamento legati all’industria delle navi da carico. 28 Anche fonti amiche dell’industria, come il World Shipping Council, ammettono che ogni anno migliaia di container vanno persi sul fondo dell’oceano o alla deriva. 29 Alcuni trasportano sostanze tossiche che si disperdono negli oceani. In genere, i lavoratori trascorrono dai 9 ai 10 mesi in mare, spesso con lunghi turni di lavoro e senza accesso a comunicazioni esterne. I lavoratori delle Filippine rappresentano più di un terzo della forza lavoro del trasporto marittimo globale. 30 I costi più gravi della logistica globale ricadono sull’atmosfera, sull’ecosistema oceanico con tutto ciò che contiene e sui lavoratori a bassissimo salario.
XIII
La crescente complessità e miniaturizzazione della nostra tecnologia dipende da un processo che curiosamente riecheggia le speranze della prima alchimia medievale. Se gli alchimisti medievali miravano a trasformare i metalli di base in metalli “nobili”, oggi i ricercatori utilizzano i metalli delle terre rare per migliorare le prestazioni di altri minerali. Esistono 17 elementi appartenenti alle terre rare, che sono incorporati nei computer portatili e negli smartphone, rendendoli più piccoli e leggeri. Sono presenti nei display a colori, negli altoparlanti, negli obiettivi delle fotocamere, nei sistemi GPS, nelle batterie ricaricabili, nei dischi rigidi e in molti altri componenti. Sono elementi chiave nei sistemi di comunicazione, dai cavi in fibra ottica all’amplificazione del segnali nelle torri di comunicazione mobile, fino alla tecnologia GPS e satellitare. Ma la configurazione e gli utilizzi precisi di questi minerali sono difficili da accertare. Così come gli alchimisti medievali nascondevano le loro ricerche dietro cifrari e simbolismi criptici, i processi contemporanei di utilizzo dei minerali nei dispositivi sono protetti da accordi di riservatezza e segreti commerciali.
Le eccezionali caratteristiche elettroniche, ottiche e magnetiche degli elementi delle terre rare non possono essere eguagliate da nessun altro metallo o sostituto sintetico finora scoperto. Pur essendo chiamati “metalli delle terre rare”, alcuni sono relativamente abbondanti nella crosta terrestre, ma l’estrazione è costosa e altamente inquinante. David Abraham descrive l’estrazione di disprosio e terbio, utilizzati in una molteplicità di dispositivi high-tech, a Jianxi, in Cina. Scrive: “Solo lo 0,2% dell’argilla estratta contiene i preziosi elementi delle terre rare. Ciò significa che il 99,8% della terra rimossa nell’estrazione delle terre rare viene scartata come rifiuto, che viene riversato nelle colline e nei corsi d’acqua”, creando nuovi inquinanti come l’ammonio. 31 Per raffinare una tonnellata di terre rare, “la Società Cinese delle Terre Rare stima che il processo produca 75.000 litri di acqua acida e una tonnellata di residui radioattivi”. 32 Le attività di estrazione e raffinazione, del resto, consumano un’enorme quantità di acqua e generano grandi quantità di emissioni di CO2. Nel 2009, la Cina ha prodotto il 95% della fornitura mondiale di terre rare e si stima che la miniera nota come Bayan Obo contenga il 70% delle riserve mondiali. 33
XIV
Un’immagine satellitare della minuscola isola indonesiana di Bangka racconta il tributo umano e ambientale della produzione di semiconduttori. Su questa minuscola isola, i minatori, per lo più “informali”, si trovano su pontili di fortuna, usano pali di bambù per raschiare il fondale marino e poi si immergono sott’acqua per aspirare lo stagno dalla superficie attraverso tubi giganti simulando degli aspiratori. Come riporta un’inchiesta del Guardian, “l’estrazione dello stagno è un commercio lucrativo ma distruttivo che ha sfregiato il paesaggio dell’isola, raso al suolo le sue fattorie e le sue foreste, ucciso gli stock ittici e le barriere coralline e intaccato il turismo sulle sue graziose spiagge ornate di palme”. I danni si vedono meglio dall’alto, dove sacche di foresta lussureggiante si stringono in mezzo a enormi distese di terra arancione e brulla. Quando non è dominato dalle miniere, il paesaggio è costellato di tombe, molte delle quali contengono i corpi dei minatori che sono morti nel corso dei secoli scavando per trovare lo stagno”. 34 Due piccole isole, Bangka e Belitung, producono il 90% dello stagno indonesiano e l’Indonesia è il secondo esportatore mondiale di questo metallo. La società nazionale indonesiana dello stagno, PT Timah, rifornisce direttamente aziende come Samsung e i produttori di saldature Chernan e Shenmao, che a loro volta riforniscono Sony, LG e Foxconn. 35
XV
Nei centri di distribuzione Amazon, vaste raccolte di prodotti sono disposte in ordine computazionale su milioni di scaffali. La posizione di ogni articolo in questo spazio è determinata con precisione da complesse funzioni matematiche che elaborano le informazioni sugli ordini e creano relazioni tra i prodotti. L’obiettivo è ottimizzare i movimenti dei robot e degli esseri umani che collaborano in questi magazzini. Con l’aiuto di un bracciale elettronico, il lavoratore umano viene guidato in magazzini grandi come hangar di aerei, pieni di oggetti disposti secondo un ordine algoritmico opaco. 36
Nascosto tra le migliaia di altri brevetti pubblicamente disponibili di proprietà di Amazon, il brevetto statunitense numero 9.280.157 rappresenta una straordinaria illustrazione dell’alienazione dei lavoratori, un momento cruciale nel rapporto tra uomini e macchine. 37 Il brevetto raffigura una gabbia metallica destinata al lavoratore, dotata di diversi componenti cibernetici, che può essere spostata in un magazzino dallo stesso sistema motorizzato che sposta gli scaffali pieni di merce. In questo caso, il lavoratore diventa parte di un balletto macchinico, tenuto in piedi in una gabbia che detta e vincola il suo movimento.
Come abbiamo visto più volte nella ricerca per la nostra mappa, i futuri distopici sono costruiti su regimi distopici del passato e del presente distribuiti in modo diseguale, sparsi in una serie di catene di produzione per i moderni dispositivi tecnici. I pochi che si trovano in cima alla piramide frattale dell’estrazione di valore vivono in una straordinaria ricchezza e comodità. Ma la maggior parte delle piramidi è fatta di tunnel bui delle miniere, di laghi di rifiuti radioattivi, di container navali dismessi e di dormitori delle fabbriche aziendali.
Brevetto Amazon numero 20150066283 A1
XVI
Alla fine del XIX secolo, un particolare albero del Sud-Est asiatico chiamato palaquium gutta divenne il fulcro di un boom tecnologico. Questi alberi, che si trovano principalmente in Malesia, producono un lattice naturale bianco lattiginoso chiamato guttaperca. Dopo che lo scienziato inglese Michael Faraday pubblicò nel 1848 uno studio sull’uso di questo materiale come isolante elettrico, la guttaperca divenne rapidamente il beniamino del mondo dell’ingegneria. Fu vista come la soluzione al problema dell’ isolamento dei cavi telegrafici in modo che potessero resistere alle condizioni dei fondali oceanici. Con la crescita del business sottomarino globale, aumentò anche la domanda di tronchi di palaquium gutta. Lo storico John Tully descrive come i lavoratori locali malesi, cinesi e dayak venissero pagati poco per il pericoloso lavoro di abbattimento degli alberi e la lenta raccolta del lattice. 38 Il lattice veniva lavorato e poi venduto attraverso i mercati commerciali di Singapore al mercato britannico, dove veniva trasformato, tra le altre cose, in lunghe guaine per cavi sottomarini.
Una palaquium gutta matura poteva rendere circa 300 grammi di lattice. Ma nel 1857, il primo cavo transatlantico era lungo circa 3000 km e pesava 2000 tonnellate, il che richiedeva circa 250 tonnellate di guttaperca. Per produrre una sola tonnellata di questo materiale erano necessari circa 900.000 tronchi d’albero. Le giungle della Malesia e di Singapore vennero spogliate e all’inizio degli anni Ottanta del XIX secolo la palaquium gutta era scomparsa. In un ultimo tentativo di salvare la propria catena di approvvigionamento, nel 1883 gli inglesi promossero un divieto per fermare la raccolta del lattice, ma l’albero era già estinto. 39
Il disastro ambientale vittoriano della guttaperca, dalle prime origini della società dell’informazione globale, mostra come le relazioni tra la tecnologia e la sua materialità, gli ambienti e le diverse forme di sfruttamento siano imbrigliate. Proprio come i vittoriani hanno provocato un disastro ecologico per i loro primi cavi, così l’estrazione di terre rare e le catene di approvvigionamento globali mettono ulteriormente a rischio il delicato equilibrio ecologico della nostra epoca. Dai materiali utilizzati per costruire la tecnologia che consente la società contemporanea in rete, all’energia necessaria per trasmettere, analizzare e immagazzinare i dati che scorrono attraverso l’enorme infrastruttura, fino alla materialità dell’infrastruttura: queste profonde connessioni e i loro costi hanno una storia molto più lunga e significativa di quanto non sia solitamente rappresentato nell’immaginario aziendale dell’IA. 40
XVII
I sistemi di intelligenza artificiale su larga scala consumano enormi quantità di energia. Eppure i dettagli materiali di questi costi rimangono vaghi nell’immaginario comune. Rimane difficile ottenere informazioni precise sulla quantità di energia consumata dai servizi di cloud computing. Un rapporto di Greenpeace afferma che: “Uno dei maggiori ostacoli alla trasparenza del settore è rappresentato da Amazon Web Services (AWS). La più grande azienda di cloud computing al mondo rimane quasi del tutto non trasparente sull’impronta energetica delle sue enormi operazioni. Tra i fornitori globali di cloud, solo AWS si rifiuta ancora di rendere pubblici i dettagli di base sulle prestazioni energetiche e sull’impatto ambientale associato alle sue operazioni”. 41
Come agenti umani, siamo visibili in quasi tutte le interazioni con le piattaforme tecnologiche. Siamo sempre tracciati, quantificati, analizzati e mercificati. Ma in contrasto con la visibilità degli utenti, i dettagli precisi sulle fasi di nascita, vita e morte dei dispositivi in rete sono oscurati. Con i dispositivi emergenti, come l’Echo, che si affidano a un’infrastruttura AI centralizzata e lontana dalla vista, ancora più dettagli cadono nell’ombra.
Mentre i consumatori si abituano a un piccolo dispositivo hardware nel loro salotto, o a un’app per smartphone, o a un’auto semi-autonoma, il vero lavoro viene svolto all’interno di sistemi di apprendimento automatico che sono generalmente lontani dall’utente e totalmente invisibili a quest’ultimo. In molti casi, la trasparenza non servirebbe a molto: senza forme di effettiva scelta e di responsabilizzazione delle aziende, la semplice trasparenza non sposterà il peso delle attuali asimmetrie di potere. 42
I risultati dei sistemi di apprendimento automatico sono prevalentemente non rendicontabili e ingovernabili, mentre gli input sono enigmatici. A un osservatore casuale, sembra che costruire sistemi basati sull’IA o sull’apprendimento automatico non sia mai stato così facile come oggi. La disponibilità di strumenti open-source per farlo, in combinazione con la potenza di calcolo affittabile attraverso superpotenze del cloud come Amazon (AWS), Microsoft (Azure) o Google (Google Cloud), sta facendo nascere la falsa idea della “democraticizzazione” dell’IA. Mentre gli strumenti di apprendimento automatico “off the shelf”, come TensorFlow, stanno diventando più accessibili dal punto di vista della creazione del proprio sistema, le logiche sottostanti a tali sistemi e i set di dati per il loro addestramento sono accessibili e controllati da pochissime entità. Nella dinamica di raccolta dei set di dati attraverso piattaforme come Facebook, gli utenti alimentano e addestrano le reti neurali con dati comportamentali, voce, immagini e video taggati o dati medici. In un’epoca di estrattivismo, il valore reale di questi dati è controllato e sfruttato da pochissimi soggetti al vertice della piramide.
XVIII
Quando si utilizzano enormi insiemi di dati per addestrare i sistemi di intelligenza artificiale, le singole immagini e i video coinvolti vengono comunemente etichettati e contrassegnati. 43 Ci sarebbe molto da dire sul modo in cui questo processo di etichettatura abroga e cristallizza i significati e, inoltre, sul modo in cui questo processo è determinato da clickworkers che vengono pagati frazioni di centesimo per questo lavoro digitale a cottimo.
Nel 1770, l’inventore ungherese Wolfgang von Kempelen costruì una macchina per giocare a scacchi nota come Turco Meccanico. Il suo obiettivo, in parte, era quello di impressionare l’imperatrice Maria Teresa d’Austria. Questo dispositivo era in grado di giocare a scacchi contro un avversario umano ed ebbe un successo spettacolare vincendo la maggior parte delle partite giocate durante le sue dimostrazioni in Europa e nelle Americhe per quasi nove decenni. Ma il Turco Meccanico era un’illusione che permetteva a un maestro di scacchi umano di nascondersi all’interno della macchina e di farla funzionare. Circa 160 anni più tardi, Amazon.com ha battezzato con lo stesso nome la sua piattaforma di crowdsourcing basata su micropagamenti. Secondo Ayhan Aytes, la motivazione iniziale di Amazon per costruire Mechanical Turk è emersa dopo il fallimento dei suoi programmi di intelligenza artificiale nel compito di trovare pagine duplicate di prodotti sul suo sito web di vendita al dettaglio. 44 Dopo una serie di tentativi inutili e costosi, gli ingegneri del progetto si sono rivolti agli esseri umani per lavorare dietro ai computer all’interno di un sistema ottimizzato basato sul web. 45 Il laboratorio digitale Amazon Mechanical Turk emula i sistemi di intelligenza artificiale controllando, valutando e correggendo i processi di apprendimento automatico con la forza del cervello umano. Con Amazon Mechanical Turk, agli utenti può sembrare che un’applicazione utilizzi un’intelligenza artificiale avanzata per svolgere dei compiti. Ma è più vicina a una forma di “artificiale intelligenza artificiale”, guidata da una forza lavoro remota, dispersa e mal pagata che aiuta i clienti a raggiungere i loro obiettivi aziendali. Come osservato da Aytes, “in entrambi i casi [sia il Turco Meccanico del 1770 che la versione contemporanea del servizio di Amazon] le prestazioni dei lavoratori che animano l’artificio sono oscurate dallo spettacolo della macchina”. 46
Questo tipo di lavoro invisibile e nascosto, in outsourcing o in crowdsourcing, celato dietro le interfacce e mimetizzato all’interno dei processi algoritmici, è ormai comune, in particolare nel processo di etichettatura di migliaia di ore di archivi digitali per alimentare le reti neurali. A volte questo lavoro è interamente non retribuito, come nel caso del reCAPTCHA di Google. In un paradosso che molti di noi hanno sperimentato, per dimostrare di non essere un agente artificiale, si è costretti ad addestrare gratuitamente il sistema AI di riconoscimento delle immagini di Google, selezionando più caselle che contengono numeri civici, o automobili, o case.
Come vediamo ripetersi in tutto il sistema, le forme contemporanee di intelligenza artificiale non sono poi così artificiali. Possiamo parlare del duro lavoro fisico dei lavoratori delle miniere e del lavoro ripetitivo delle catene di montaggio, del lavoro cibernetico nei centri di distribuzione e delle fabbriche cognitive piene di programmatori in outsourcing in tutto il mondo, del lavoro in crowdsourcing poco pagato dei lavoratori di Mechanical Turk o del lavoro immateriale non retribuito degli utenti. A ogni livello, la tecnologia contemporanea è profondamente radicata nello sfruttamento dei corpi umani e si regge su di esso.
XIX
Nel suo racconto di un solo paragrafo “Il rigore della scienza”, Jorge Luis Borges ci presenta un impero immaginario in cui la scienza cartografica è diventata così sviluppata e precisa da richiedere una mappa della stessa scala dell’impero stesso. 47
“… In quell’impero, l’Arte della Cartografia raggiunse una tale Perfezione che la mappa di una sola provincia occupava tutta una Città e la mappa dell’Impero tutta una Provincia. Col tempo codeste Mappe Smisurate non soddisfecero e i Collegi dei Cartografi eressero una mappa dell’Impero che uguagliava in grandezza l’Impero e coincideva puntualmente con esso. Meno Dedite allo studio della cartografia, le Generazioni Successive compresero che quella vasta Mappa era inutile e non senza Empietà la abbandonarono all’Inclemenze del Sole e degl’Inverni. Nei deserti dell’Ovest rimangono lacere rovine della mappa, abitate da Animali e Mendichi; in tutto il paese non è altra reliquia delle Discipline Geografiche.”
Gli attuali approcci al machine learning sono caratterizzati dall’aspirazione a mappare il mondo, una quantificazione completa dei regimi visivi, uditivi e di riconoscimento della realtà. Dal modello cosmologico dell’universo al mondo delle emozioni umane interpretate attraverso i più piccoli movimenti muscolari del volto umano, tutto diventa oggetto di quantificazione. Jean-François Lyotard ha introdotto l’espressione “affinità all’infinito” per descrivere come l’arte contemporanea, la tecno-scienza e il capitalismo condividano la stessa aspirazione a spingere i confini verso un orizzonte potenzialmente infinito. 48 La seconda metà del XIX secolo, con la sua attenzione alla costruzione di infrastrutture e alla transizione disomogenea verso la società industrializzata, ha generato un’enorme ricchezza per il piccolo numero di magnati industriali che hanno monopolizzato lo sfruttamento delle risorse naturali e i processi produttivi.
Il nuovo orizzonte sconfinato è l’estrazione dei dati, il machine learning e la riorganizzazione delle informazioni attraverso sistemi di intelligenza artificiale che combinano l’elaborazione umana e quella macchinica. I territori sono dominati da poche mega-aziende globali, che stanno creando nuove infrastrutture e meccanismi per l’accumulo di capitale e lo sfruttamento delle risorse umane e planetarie.
Questa sete irrefrenabile di nuove risorse e ambiti di sfruttamento cognitivo ha spinto la ricerca di strati sempre più profondi di dati che possono essere utilizzati per quantificare la psiche umana, conscia e inconscia, privata e pubblica, idiosincratica e generale. In questo modo, abbiamo assistito all’emergere di molteplici economie cognitive: l’economia dell’attenzione, 49 l’economia della sorveglianza, l’economia della reputazione 50 e l’economia delle emozioni, nonché la quantificazione e la mercificazione della fiducia e delle certezze attraverso le criptovalute.
Il processo di quantificazione si estende sempre più al mondo affettivo, cognitivo e fisico dell’uomo. Esistono set di addestramento per il rilevamento delle emozioni, per la somiglianza familiare, per seguire l’invecchiamento di un individuo e per le azioni umane come sedersi, salutare, alzare un bicchiere o piangere. Ogni forma di dati anagrafici – compresi quelli forensi, biometrici, sociometrici e psicometrici – viene acquisita e registrata in database per l’addestramento delle IA. Questa quantificazione spesso si basa su dati molto limitati, come il dataset AVA, che mostra principalmente le donne nella categoria “giocare con i bambini” e gli uomini nella categoria “prendere a calci una persona”. Gli insiemi di addestramento per i sistemi di IA pretendono di raggiungere la natura a grana fine della vita quotidiana, ma ripetono i modelli sociali più stereotipati e circoscritti, reinscrivendo una visione normativa del passato umano e proiettandola nel futuro umano.
XX
“La “recinzione” della biodiversità e della conoscenza è il passo finale di una serie di recinzioni [enclosures N.d.T] iniziate con l’avvento del colonialismo. La terra e le foreste sono state le prime risorse a essere “racchiuse” e convertite da beni comuni a merci. In seguito, le risorse idriche sono state “racchiuse” attraverso dighe, estrazione di acque sotterranee e schemi di privatizzazione. Ora è il turno della biodiversità e della conoscenza di essere “racchiuse” attraverso i diritti di proprietà intellettuale (DPI)”, spiega Vandana Shiva. 51 Secondo le parole di Shiva, “la distruzione dei beni comuni è stata essenziale per la rivoluzione industriale, per fornire un approvvigionamento di risorse naturali come materia prima all’industria. Un sistema di sussistenza può essere condiviso, non può essere posseduto come proprietà privata o sfruttato per profitto privato. I beni comuni, pertanto, dovevano per forza essere privatizzati e la base di sostentamento delle persone in questi beni comuni doveva essere espropriata, per alimentare il motore del progresso industriale e dell’accumulazione di capitale”. 52
Mentre Shiva si riferisce alla recinzione della natura attraverso i diritti di proprietà intellettuale, lo stesso processo si sta verificando con il machine learning – ovvero un intensificarsi della quantificazione della natura. La nuova corsa all’oro nel contesto dell’intelligenza artificiale consiste nel racchiudere diversi campi del sapere, del sentire e dell’agire umano, al fine di catturare e privatizzare tali campi. Quando nel novembre 2015 DeepMind Technologies Ltd. ha avuto accesso alle cartelle cliniche di 1,6 milioni di pazienti identificabili dell’ospedale Royal Free, abbiamo assistito a una particolare forma di privatizzazione: l’estrazione dal valore della conoscenza. 53 Un dataset può ancora essere di proprietà pubblica, ma il meta-valore dei dati – il modello creato da essi – è di proprietà privata. Sebbene ci siano molte buone ragioni per cercare di migliorare la salute pubblica, c’è un rischio reale se ciò avviene a costo di una privatizzazione occulta dei servizi medici pubblici. Si tratta di un futuro in cui la manodopera esperta locale del settore pubblico viene incrementata e talvolta sostituita da sistemi di intelligenza artificiale aziendali, centralizzati e privati, che utilizzano i dati pubblici per generare enormi ricchezze per pochi.
XXI
In questo momento del XXI secolo, assistiamo a una nuova forma di estrattivismo che è ampiamente in atto: una forma che raggiunge gli angoli più remoti della biosfera e gli strati più profondi dell’essere cognitivo e affettivo dell’uomo. Molte delle assunzioni sulla vita umana fatte dai sistemi di apprendimento automatico sono ristrette, normative e cariche di errori. Tuttavia, questi sistemi stanno iscrivendo e costruendo tali presupposti in un nuovo mondo e saranno sempre più determinanti nel modo in cui vengono distribuite le opportunità, la ricchezza e la conoscenza.
Lo stack necessario per interagire con un Amazon Echo va ben oltre lo “stack tecnico” multilivello della modellazione dei dati, dell’hardware, dei server e delle reti. Lo stack completo si spinge molto più in là, nel capitale, nel lavoro e nella natura, e richiede un’enorme quantità di ciascuno di essi. I veri costi di questi sistemi – sociali, ambientali, economici e politici – rimangono nascosti e potrebbero rimanere tali per qualche tempo.
Offriamo questa mappa e questo saggio come un modo per iniziare a vedere attraverso una gamma più ampia di estrazioni sistemiche. La scala richiesta per costruire sistemi di intelligenza artificiale è troppo complessa, troppo offuscata dalle leggi sulla proprietà intellettuale e troppo impantanata nella complessità logistica per essere compresa appieno in questo momento. Eppure vi attingete ogni volta che impartite un semplice comando vocale a un piccolo cilindro nel vostro salotto: “Alexa, che ore sono?”.
E così il ciclo continua.
Note
1 – Kate Crawford è Distinguished Research Professor presso la New York University, Principal Researcher presso Microsoft Research New York e co-fondatrice e co-direttrice dell’AI Now Institute della NYU.
2 – Vladan Joler è professore all’Accademia delle Arti dell’Università di Novi Sad e fondatore della Fondazione SHARE. Dirige SHARE Lab, un laboratorio di ricerca e di indagine sui dati per esplorare i diversi aspetti tecnici e sociali della trasparenza algoritmica, dello sfruttamento del lavoro digitale, delle infrastrutture invisibili e delle scatole nere tecnologiche.
3 – Campagna pubblicitaria di Amazon, “All-New Amazon Echo”, 27 settembre 2017, https://www.youtube.com/watch?v=IyvZ41XjUjY.
4 – Emily Achtenberg, “Bolivia Bets on State-Run Lithium Industry”, NACLA, 15 novembre 2010, https://nacla.org/news/bolivia-bets-state-run-lithium-industry.
5 – Christine Negroni, “How to Determine the Power Rating of Your Gadget’s Batteries”, The New York Times, 22 dicembre 2017, https://www.nytimes.com/2016/12/26/business/lithium-ion-battery-airline-safety.html.
6 – Jessica Shankleman et al., “We’re Going to Need More Lithium”, Bloomberg, 7 settembre 2017, https://www.bloomberg.com/graphics/2017-lithium-battery-future/.
7 – Nicola Clark e Simon Wallis, “Flamingos, Salt Lakes and Volcanoes: Hunting for Evidence of Past Climate Change on the High Altiplano of Bolivia”, Geology Today 33, no. 3 (1 maggio 2017): 104, https://doi.org/10.1111/gto.12186.
8 – Kate Davies e Liam Young, Tales from the Dark Side of the City: The Breastmilk of the Volcano Bolivia and the Atacama Desert Expedition (Londra: Unknown Fields, 2016).
9 – Vincent Mosco, To the Cloud: Big Data in a Turbulent World (Boulder: Paradigm, 2014).
10 – Sandro Mezzadra e Brett Neilson, “On the Multiple Frontiers of Extraction: Excavating Contemporary Capitalism”, Cultural Studies 31, no. 2-3 (4 maggio 2017): 185, https://doi.org/10.1080/09502386.2017.1303425.
11 – Lamberto Tronchin, “La ‘Phonurgia Nova’ di Athanasius Kircher: Il meraviglioso mondo sonoro del XVII secolo”, Proceedings of Meetings on Acoustics 4, no. 1 (29 giugno 2008), 4: 015002, https://doi.org/10.1121/1.2992053.
12 – Marshall McLuhan, Understanding Media: The Extensions of Man (New York: Signet Books, 1964).
13 – Jussi Parikka, A Geology of Media (Minneapolis: University Of Minnesota Press, 2015), vii-viii.
14 – Chris Ely, “The Life Expectancy of Electronics”, Consumer Technology Association, 16 settembre 2014, https://www.cta.tech/News/Blog/Articles/2014/September/The-Life-Expectancy-of-Electronics.aspx.
15 – Christian Fuchs, Digital Labor and Karl Marx (Londra: Routledge, 2014).
16 – “This Is What We Die For” (Questo è ciò per cui moriamo): Human Rights Abuses in the Democratic Republic of the Congo Power the Global Trade in Cobalt” (Londra: Amnesty International, 2016), https://www.amnesty.org/download/Documents/AFR6231832016ENGLISH.PDF. Per una descrizione antropologica di questi processi estrattivi, si veda: Jeffrey W. Mantz, “Economie improvvisate: Coltan Production in the Eastern Congo”, Social Anthropology 16, no. 1 (1 febbraio 2008): 34–50, https://doi.org/10.1111/j.1469-8676.2008.00035.x.
17 – Julia Glum, “Lo stipendio mediano dei dipendenti di Amazon è di 28.000 dollari. Jeff Bezos guadagna di più in 10 secondi”, Time, 2 maggio 2018, http://time.com/money/5262923/amazon-employee-median-salary-jeff-bezos/.
18 – Frank Pasquale, The Black Box Society: The Secret Algorithms That Control Money and Information (Cambridge, MA: Harvard University Press, 2016).
19 – Mark Graham e Håvard Haarstad, ” Transparency and Development: Ethical Consumption through Web 2.0 and the Internet of Things”, Information Technologies & International Development 7, no. 1 (10 marzo 2011): 1.
20 – “Intel’s Efforts to Achieve a ‘Conflict Free’ Supply Chain” (Santa Clara, CA: Intel Corporation, maggio 2018), https://www.intel.com/content/www/us/en/corporate-responsibility/conflict-minerals-white-paper.html.
21 – “Stiamo lavorando per rendere la nostra catena di approvvigionamento ‘senza conflitti'”, Philips, 2018, https://www.philips.com/a-w/about/company/suppliers/supplier-sustainability/our-programs/conflict-minerals.html.
22 – David S. Abraham, The Elements of Power: Gadgets, Guns, and the Struggle for a Sustainable Future in the Rare Metal Age, Reprint edition (Yale University Press, 2017), 89.
23 – “Responsible Minerals Sourcing”, Dell, 2018, http://www.dell.com/learn/us/en/uscorp1/conflict-minerals?s=corp.
24 – “Apple Supplier Responsibility 2018 Progress Report” (Cupertino CA: Apple, 2018), https://www.apple.com/supplier-responsibility/pdf/Apple_SR_2018_Progress_Report.pdf.
25 – Alexander Klose, The Container Principle: How a Box Changes the Way We Think, trans. Charles Marcum II (Cambridge, MA: The MIT Press, 2015).
26 – “Review of Maritime Transport 2017” (New York e Ginevra: Nazioni Unite, 2017), http://unctad.org/en/PublicationsLibrary/rmt2017_en.pdf.
27 – Zoë Schlanger, “If Shipping Were a Country, It Would Be the Sixth-Biggest Greenhouse Gas Emitter”, Quartz, 17 aprile 2018.
28 – John Vidal, “Health Risks of Shipping Pollution Have Been ‘Underestimated'”, The Guardian, 9 aprile 2009, sec. Environment, http://www.theguardian.com/environment/2009/apr/09/shipping-pollution.
29 – “Containers Lost At Sea – 2017 Update” (World Shipping Council, 10 luglio 2017), http://www.worldshipping.org/industry-issues/safety/Containers_Lost_at_Sea_-_2017_Update_FINAL_July_10.pdf.
30 – Rose George, Ninety Percent of Everything: Inside Shipping, the Invisible Industry That Puts Clothes on Your Back, Gas in Your Car, and Food on Your Plate (New York: Metropolitan Books, 2013), 22. Analogamente alla nostra abitudine di trascurare la materialità delle infrastrutture internet e della tecnologia informatica, l’industria navale è raramente rappresentata nella cultura popolare. Rose George chiama questa condizione “cecità da mare” (2013, 4).
31 – id., 175.
32 – Ibidem, Ib 176.
33 – Chris Lo, “Il falso monopolio: la Cina e il commercio delle terre rare”, Mining Technology, 19 agosto 2015, https://www.mining-technology.com/features/featurethe-false-monopoly-china-and-the-rare-earths-trade-4646712/.
34 – Kate Hodal, “Death Metal: Tin Mining in Indonesia”, The Guardian, 23 novembre 2012, http://www.theguardian.com/environment/2012/nov/23/tin-mining-indonesia-bangka.
35 – Cam Simpson, “The Deadly Tin Inside Your Smartphone”, Bloomberg, 24 agosto 2012, https://www.bloomberg.com/news/articles/2012-08-23/the-deadly-tin-inside-your-smartphone.
36 – Marcus Wohlsen, “A Rare Peek Inside Amazon’s Massive Wish-Fulfilling Machine”, Wired, 16 giugno 2014, https://www.wired.com/2014/06/inside-amazon-warehouse/.
37 – Wurman, Peter R. et al., System and Method for Transporting Personnel Within an Active Workspace, US 9,280,157 B2 (Reno, NV, depositato il 4 settembre 2013 e rilasciato l’8 marzo 2016), http://pdfpiw.uspto.gov/.piw?Docid=09280157.
38 – John Tully, ” A Victorian Ecological Disaster: Imperialism, the Telegraph, and Gutta-Percha”, Journal of World History 20, no. 4 (23 dicembre 2009): 559–79, https://doi.org/10.1353/jwh.0.0088.
39 – Ibidem, 574.
40 – Si veda Nicole Starosielski, The Undersea Network (Durham: Duke University Press Books, 2015).
41 – Gary Cook, “Clicking Clean: Who Is Winning the Race to Build a Green Internet?” (Washington, DC: Greenpeace, gennaio 2017), 30, https://storage.googleapis.com/p4-production-content/international/wp-content/uploads/2017/01/35f0ac1a-clickclean2016-hires.pdf.
42 – Mike Ananny e Kate Crawford, ” Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability”, New Media & Society 20.3 (2018): 973-989.
43 – Olga Russakovsky et al., “ImageNet Large Scale Visual Recognition Challenge”, International Journal of Computer Vision 115, no. 3 (1 dicembre 2015): 216, https://doi.org/10.1007/s11263-015-0816-y.
44 – Ayhan Aytes, “”Return of the Crowds: Mechanical Turk and Neoliberal States of Exception”, in Digital Labor: The Internet as Playground and Factory, a cura di Trebor Scholz. Trebor Scholz (Londra: Routledge, 2012), 80.
45 Jason Pontin, “Artificial Intelligence, With Help From the Humans”, The New York Times, 25 marzo 2007, sec. Business Day, https://www.nytimes.com/2007/03/25/business/yourmoney/25Stream.html.
46 – Aytes, “Return of the Crowds”, 81.
47 – Jeorge Luis Borges, L’artefice Ed. Mondadori i Meridiani vol. 1, pg. 1253
48 – Jean Francois Lyotard, “Presentare l’impresentabile: The Sublime”, Artforum, aprile 1982.
49 – Yves Citton, The Ecology of Attention (Cambridge, UK: Polity, 2017).
50 – Shoshana Zuboff, “Big Other: Surveillance Capitalism and the Prospects of an Information Civilization”, Journal of Information Technology 30, no. 1 (1 marzo 2015): 75-89, https://doi.org/10.1057/jit.2015.5.
51 – Vandana Shiva, The Enclosure and Recovery of The Commons: Biodiversity, Indigenous Knowledge, and Intellectual Property Rights (Research Foundation for Science, Technology, and Ecology, 1997).
52 – Vandana Shiva, Protect or Plunder: Understanding Intellectual Property Rights (New York: Zed Books, 2001).
53 – Alex Hern, “Royal Free ha violato la legge britannica sui dati in un accordo con DeepMind di Google per 1,6 milioni di pazienti”, The Guardian, 3 luglio 2017, sez. Tecnologia, http://www.theguardian.com/technology/2017/jul/03/google-deepmind-16m-patient-royal-free-deal-data-protection-act.