Come smontare gli imperi del tech

Come possiamo comprendere il potere pervasivo della tecnologia e il ruolo che esercita nelle nostre vite in questa fase storica? È la domanda di partenza di Vladan Joler e Kate Crawford, ricercatori e artisti ospiti alla Fondazione Prada Osservatorio a Milano con la loro mostra Calculating Empires: a genealogy of technology and power, 1500-2025, appena inaugurata e aperta fino al prossimo 29 gennaio. Gli imperi del calcolo che hanno stabilito questo potere pervasivo sono naturalmente i colossi come Meta o Amazon e le imprese tech dedicate al machine learning e all’intelligenza artificiale, visti non più come aziende globali ma appunto come imperi, entità transnazionali che hanno, come la finanza, acquisito un’influenza visibile e invisibile che supera quella dei governi dei singoli paesi. La domanda conseguente a quella che si pongono Joler e Crawford potrebbe essere: come si possono cominciare a comprendere la natura, l’estensione e le componenti di questi imperi? La loro risposta è la mappa, lo strumento con cui gli uomini da sempre provano a conoscere, e soprattutto far conoscere ai propri simili, un territorio inesplorato. Solo che questo impero è complesso, vasto quanto il mondo, e l’impresa rischia di scivolare nel paradosso della mappa in quel racconto di Borges, così vasta, minuziosa e totale da assumere le dimensioni del mondo stesso.

intelligenza artificiale fondazione prada mostra

L’unica speranza di capire qualcosa di quei mondi è l’approssimazione incrementale, avvicinarsi sempre di più a quella complessità, ed è ciò che fanno i due ricercatori nel lavoro centrale di tutta la mostra, una stanza tappezzata con enormi mappe che analizzano in diagrammi il più possibile semplificati le tante aree coinvolte negli imperi del calcolo. Dall’approvvigionamento di materie prime per far funzionare i dispositivi tecnologici che usiamo ogni giorno o che servono alle aziende specializzate (cobalto, silicio, rame e molti altri) alle politiche sulle invenzioni, le proprietà intellettuali e i brevetti. Dalla produzione industriale di immagini (la fotografia, il cinema) alla produzione personale (le macchine fotografiche di massa, la videocamera nello smartphone) fino alla riproduzione automatica (l’intelligenza artificiale di Dall-E o Midjourney). Non manca una parte importante, quella sul lavoro umano necessario alla costruzione di questi imperi, dalla manodopera squalificata e sottopagata nel settore degli approvvigionamenti di materiali fino al proprietario di un colosso del tech che guadagna N volte il salario dell’ultimo dei minatori di rame o zinco.

intelligenza artificiale fondazione prada mostra

È una realtà così complessa che di fatto questa mappa, o una mostra, non bastano, tanto è vero che lo stesso Vladan Joler ha pubblicato da poco anche in Italia una raccolta dei suoi saggi più importanti con la piccola casa editrice bresciana Krisis Publishing. Black Box Cartography. A critical cartography of the internet and beyond (l’edizione è comunque in lingua inglese) è il titolo di un oggetto editoriale, più che di un semplice libro. La casa editrice presenta ai lettori una scatola nera, come da titolo, nella quale si trova una raccolta di saggi di Joler in collaborazione con altri ricercatori (tra cui la stessa Kate Crawford) che fa da spiegazione verbale a una serie di mappe allegate e ripiegate, simili a quelle della Map Room alla Fondazione Prada. Mappe e saggi che raccontano le varie indagini di Joler e dei suoi colleghi svolte dal 2016 al 2020: un’indagine sulla fabbrica di algoritmi di Facebook, uno studio dell’estrattivismo, ovvero lo sfruttamento di varie forme di lavoro e intelligenza, operato dall’intelligenza artificiale sugli umani e infine l’anatomia di un sistema di intelligenza artificiale, completata proprio con Kate Crawford e presente anche in mostra. L’IA presa in considerazione, smontata metaforicamente nel saggio e letteralmente nella mostra alla Fondazione Prada è quella di Amazon Echo, nata come estensione dell’assistente vocale Alexa. In mostra si vede proprio un esploso assonometrico di un Amazon Echo sotto teca, smontato cioè in tutte le sue componenti. Qui Joler e Crawford esplicitano la metafora che regge la mostra, il libro di Krisis Publishing e tutta la loro ricerca: la black box, la scatola nera misteriosa e apparentemente impenetrabile con cui le nuove tecnologie ci si presentano, sia sotto forma di oggetto (lo smartphone, il pc, Alexa) sia di funzione (l’intelligenza artificiale, il machine learning, lo stesso Facebook). L’hardware e il software della tecnologia, secondo i due ricercatori, ci appaiono sotto forma di scatole nere che riusciamo a penetrare solo in parte, perché le aziende produttrici agiscono con processi opachi o propriamente segreti, celando le loro azioni dietro la cortina di fumo dei brevetti, le proprietà intellettuali e i segreti d’industria. Ma, come scrivono Joler e Crawford nel libro, “questo crea una certa difficoltà per la comprensione critica e collettiva dell’intelligenza artificiale: è difficile vedere questi processi individualmente, figuriamoci collettivamente. Da qui il bisogno di una visualizzazione che possa portare questi processi connessi, ma dispersi globalmente, su una singola mappa” (la traduzione dall’inglese è mia, nessun chatbot è stato utilizzato nella stesura di questo articolo).

La mappa diventa quindi un modo per smontare la scatola nera e cominciare a guardarci dentro, cominciare a capirci qualcosa tutti, non soltanto gli esperti e i ricercatori. Solo in questo modo, con una conoscenza collettiva, si possono comprendere i meccanismi pervasivi, ma anche di sfruttamento degli umani da parte delle imprese del tech. Quella di Joler e Crawford è, naturalmente, una presa di posizione politica. “L’utente di Echo”, scrivono sempre in Black Box Cartography, “è allo stesso tempo un consumatore, una risorsa, un lavoratore e un prodotto”, e lo stesso si può dire dell’utente di Facebook o degli altri social network, che nella condivisione dei suoi dati, dei suoi pensieri e delle sue emozioni non è più semplicemente un utente/consumatore, ma fornisce gratuitamente delle risorse, il suo lavoro di elaborazione e condivisione di idee e diventa infine il prodotto da vendere agli inserzionisti pubblicitari sui social. C’è già una lunga letteratura a riguardo, e almeno a grandi linee il sistema di sfruttamento del lavoro immateriale e gratuito degli utenti dei social è diventato di dominio pubblico.

intelligenza artificiale fondazione prada mostra

Uno dei più grossi meriti del libro di Joler, che scrive saggi anche con lo SHARE Lab da lui fondato e con Matteo Pasquinelli, filosofo e teorico dei media, è quello di demistificare la scatola nera, smontare la macchina che presumiamo insondabile e rivelare come funzionano davvero le tecnologie coinvolte nell’intelligenza artificiale, per spogliarla dell’aura di magia che le abbiamo creato intorno e rivelarla nella sua prosaicità, nei suoi meccanismi intimi. Anche se le conoscenze sono parziali, perché c’è sempre quella cortina di fumo con cui le aziende tech nascondono i loro processi, qualcosa si sa. Joler e Pasquinelli scrivono ad esempio nel saggio del 2020 The Nooscope Manifested. AI as instrument of knowledge extractivism: “anche se l’IA corporativa descrive il suo potere con il linguaggio della magia nera e dell’intelligenza sovraumana, le tecniche di oggi sono ancora a uno stadio sperimentale. L’IA si trova adesso allo stesso stadio in cui si trovava il motore a vapore il giorno della sua invenzione, prima che le leggi della termodinamica necessarie a spiegare e controllare il suo funzionamento fossero scoperte” (a tradurre sempre io, niente ChatGPT). E ancora: “l’algoritmo non è comparso all’improvviso”, è stato il frutto di anni di ricerche scientifiche sulla computazione e il calcolo. Ecco perché la mostra sull’alleanza tra potere e tecnologia parte dalle invenzioni, le scoperte e le politiche del 1500, e perché Joler e Crawford insistono sul passato e sulla storia: l’intelligenza artificiale, l’automazione delle funzioni e dei lavori umani sono semplicemente l’intensificazione di un processo tecno-politico che è cominciato proprio nel 1500, con le nuove rotte commerciali e le occupazioni coloniali, si è sviluppato con le rivoluzioni industriali ed è poi diventato quello che conosciamo oggi, con i poteri transnazionali della finanza e della tecnologia. Le mappe storiche dei due ricercatori, complesse quasi quanto l’impero che analizzano, sono un tentativo di rinnovare una conoscenza critica, o anche antagonista, che vada di pari passo con gli sviluppi della tecnologia e del potere.

intelligenza artificiale fondazione prada mostra

Il potere conoscitivo attribuito alla macchina, che nominiamo sempre come se fosse un’entità divina e terribile come il monolito di Kubrick (la prima scatola nera, ora che ci penso) non è altro che la previsione statistica sui dati che noi stessi le abbiamo fornito, consapevolmente o meno. Nella loro analisi lucida, ma in fondo tranquillizzante, Joler e Pasquinelli scrivono: “il machine learning sembra più artigianato che matematica esatta. L’IA è ancora una storia di trucchi ed espedienti più che di intuizioni mistiche”, proprio perché è un modello matematico di previsione e semplificazione della realtà. “L’automazione è un mito, perché le macchine, inclusa l’IA, hanno ancora bisogno dell’aiuto degli uomini”. L’IA, chissà per quanto ancora, è una versione semplificata e standardizzata di noi umani, e per adesso riflette e potenzia tutto quello che di umano le diamo come nutrimento: la capacità di calcolo ma anche i pregiudizi, la conoscenza ma anche l’ignoranza. L’IA, come tutta la tecnologia, siamo noi.