L’intelligenza artificiale produce allucinazioni collettive e disinformazione, secondo Crawford e Joler
Nell’Osservatorio Prada la mappatura in immagini degli intrecci secolari tra potere e tecnologia formulano prospettive preoccupanti sul presente dominato dall’AI e sul futuro che ci attende
Kate Crawford è una delle massime studiose internazionali dell’intelligenza artificiale. Vladan Joler è un ricercatore e artista, docente universitario di New Media. Insieme, i due hanno sviluppato «Anatomy of an AI System», progetto pluripremiato, entrato nelle collezioni permanenti del MoMA di New York e del V&A di Londra. Dal 23 novembre al 29 gennaio 2024, ancora insieme, Crawford e Joler presentano all’Osservatorio Prada di Milano la mostra «Calculating Empires: A Genealogy of Technology and Power, 1500-2025», un lavoro in cui mappano gli intrecci secolari tra potere e tecnologia, traducendo la loro indagine, che verte sul passato, sul presente dominato dall’AI e sul futuro che ci attende, in immagini spettacolari in cui convergono ricerca e design, scienza e arte. I risultati? Preoccupanti. Doppiamente preoccupanti perché a diffonderli sono loro, che conoscono così a fondo la materia.
Joler mette infatti in guardia sul fatto che «i sistemi dell’AI hanno già dimostrato la loro capacità di concentrare il potere e produrre “allucinazioni collettive” e disinformazione su larga scala, mettendo in discussione la percezione di una realtà condivisa», oltre che sul dato, non meno drammatico, dell’impatto dell’AI generativa «sulle nostre ecologie, necessitando di immense quantità di energia, acqua e minerali». In mostra traducono in immagini tali riflessioni nell’inedita «Calculating Empires Map Room», un ambiente oscuro che ospita due mappe, una sui temi della comunicazione e della computazione, l’altra sugli elementi di controllo e classificazione: una misurazione degli imperi e dei loro effetti sulla storia umana lungo gli ultimi 500 anni.
L’intensa esperienza della «Calculating Empires Map Room» è preceduta dal citato «Anatomy of an AI System», diagramma esploso sul caso di studio della voce assistita del dispositivo (che si avvale dell’intelligenza artificiale) Amazon Echo, in cui si evidenziano i processi «estrattivi» indispensabili allo sviluppo dell’AI, dalle risorse materiali alla manodopera umana, ai dati. Da un lato, l’estrazione delle risorse della Terra, dall’altro l’estrapolazione, non così diversa, dei dati della comunicazione umana, della cultura, delle connessioni.
Senza dimenticare la dispersione dei rifiuti elettronici (tossici) sul terreno. Con questi, è esposto un lavoro del 2016 suggerito all’artista Simon Denny proprio da «Anatomy of an AI System». Titolo: «Amazon worker cage patent drawing as virtual King Island Brown Thornbill cage (US 9,280,157 B2: “System and method for transporting personnel within an active workspace”». Tema: il brevetto Amazon di una gabbia che controlla gli operai nei magazzini di logistica: scenario orwelliano ma reale, com’è stato più volte denunciato. In chiusura, una wunderkammer che esibisce libri, dispositivi ed ephemera dal Cinquecento ad oggi, e una piccola biblioteca dove leggere sulla vecchia, cara carta. E riflettere.
