Italian Tech

Intervista

Cory Doctorow e la teoria della enshittification: perché la tecnologia non può che peggiorare

di Bruno Ruffilli
Cory Doctorow e la teoria della enshittification: perché la tecnologia non può che peggiorare
Il giornalista e romanziere canadese-britannico alla Biennale Tecnologia di Torino: "Bisogna ripristinare la concorrenza e smantellare i monopoli delle grandi aziende tech"
Aggiornato 6 minuti di lettura

L’immagine si ferma, la voce scompare. Cory Doctorow è gentile e riprende il filo del discorso, bisogna ripetere qualche domanda, poi scattano i 40 minuti, la call finisce e tocca ricominciare da capo. Un link per mail e siamo di nuovo su Zoom. Diventata popolare con la pandemia, era una piattaforma per videochiamate semplice da usare, gratuita, affidabile, oggi è un esempio di quella che Doctorow chiama “enshittification”. Non esiste una traduzione italiana passabile, chi propone “merdificazione”, chi “andare in merda”, ma il fenomeno nella sua evoluzione è chiaro: “All’inizio l'azienda si comporta bene con i suoi utenti finali e così li lega ai suoi servizi. Poi inizia a peggiorare l’esperienza per gli utenti e dare la preferenza ai clienti commerciali. Una volta che si è assicurata anche la loro fedeltà, comincia a soddisfare solo gli interessi dei suoi azionisti, lasciando quello che serve perché utenti e clienti commerciali rimangano legati a servizi di cui non possono più fare a meno”, spiega Doctorow. Di questo, e molto altro, il giornalista e romanziere canadese-britannico ha parlato nella sua lezione alla Biennale Tecnologia di Torino, introdotto da Juan Carlos De Martin.  

Dalla sua descrizione sembra che l’enshittification riguardi gran parte delle piatteforme tech di oggi, da X (Twittter) in giù. Come mai?
“Ogni azienda cerca di ridurre i costi e aumentare i profitti. La via più breve è pagare meno i dipendenti, aumentare i prezzi e peggiorare la qualità dei prodotti. Facendo di tutto perché non siano interoperabili, ossia compatibili con quelli di altri". 

Ma perché non c’è più concorrenza?
“Perché abbiamo smesso di applicare le leggi antitrust. L'avvento del neoliberismo e la crescita della tecnologia hanno coinciso con una riduzione delle restrizioni competitive, e il web oggi è composto da cinque grandi siti pieni di schermate di testi provenienti dagli altri quattro. La mancanza di vera concorrenza fa sì che anche la regolamentazione sia inefficace: aziende così ricche e influenti sono troppo grandi per fallire o per essere perseguite legalmente”.

I politici non intervengono, i consumatori non hanno voce in capitolo, gli azionisti pensano solo al profitto. I lavoratori possono fare qualcosa?
“La retorica della Silicon Valley ha vissuto per decenni sulla figura del lavoratore spinto dalla vocazione, l’eroe della rivoluzione tecnologica, che aiuta il capo a far nascere una nuova era digitale, e per questo dorme sotto la scrivania, salta il funerale della madre, non va alle partite di calcio dei suoi figli. Queste figure avevano un certo potere sul prodotto finale, proprio in virtù della loro abnegazione. Ma i lavoratori tech non hanno sindacati: Google ha licenziato 12.000 impiegati qualificati solo otto mesi dopo aver ricomprato azioni per 80 miliardi di dollari, una cifra con cui avrebbe pagato i loro stipendi per 27 anni. E in totale, nel 2023, i licenziati sono stati 260.000, quindi il potere di contrattazione dei lavoratori oggi è inesistente”.  

Non c’è speranza allora?
“Con la presenza di imprese globali, emerge la possibilità di collaborazione su scala mondiale non solo tra i regolatori, ma anche tra i lavoratori. Quest'anno è entrata in vigore in Germania una legge sulla Supply Chain, che dispone sanzioni per le aziende tedesche che adottano pratiche antisindacali  in qualsiasi parte del mondo. È un insolito vantaggio del globalismo: la capacità di formare una coalizione globale contro le stesse imprese che promuovono il globalismo”. 

GDPR, AI Act, Digital Market Act: il ruolo dell’Europa nel mondo digitale è solo normativo?
"Dopo un circolo vizioso che dura da quarant’anni, dobbiamo invertire il senso di marcia: se aumentiamo la concorrenza tra aziende, crescerà il potere dei lavoratori, e sarà più facile che emergano nuove tecnologie. Non sto dicendo che DMA e DSA possano risolvere tutto, non credo che siano perfetti. Contro i grandi del tech sono in corso azioni antitrust negli Stati Uniti, in Giappone, in Corea del Sud e nel Regno Unito, ma se l'Europa non riesce a imporle, nessun altro Paese ci riuscirà. Se però l'Europa ci riuscirà, dimostrerà che si può fare, e gli altri Paesi seguiranno”. 

L'Europa sta cercando di regolamentare anche l'intelligenza artificiale. Cosa ne pensa?
“Ci si preoccupa molto per possibili pericoli correlati all’intelligenza artificiale, ma abbiamo già problemi concreti, con algoritmi usati per decidere se concedere un mutuo oppure no, per selezionare i curricula, per moderare i contenuti, per stabilire chi debba ricevere assistenza sociale. Sono tutti casi di violazione del GDPR e di molte altre leggi, quindi l’IA è già illegale. Non mi sorprende che l'industria dell'IA sia interessata, in modo subdolo, a regolamentazioni generali che riguardano danni ipotetici, perché non è lì che guadagnano. Non abbiamo bisogno di una nuova regolamentazione, dovremmo semplicemente perseguire gli utilizzi illeciti oggi, ma allora gli investimenti nel settore dell'IA crollerebbero, perché se non è permesso usarla in modi che violano il GDPR e altre normative fondamentali europee, quasi tutte le opportunità di mercato scompaiono”.

Il New York Times ha citato in giudizio OpenAI perché ha usato i suoi articoli per allenare un modello di AI: chi ha ragione? 
“L'addestramento dell'intelligenza artificiale può essere suddiviso in vari passaggi. Inizialmente, c'è il processo di scraping, ovvero la copia temporanea di un'opera presa da internet. Secondo la legge statunitense sul copyright, questo è legale. La fase successiva, l'analisi matematica dell'opera, è anch'essa legale. Creare un modello da questa analisi è parimenti legittimo. Quindi, i problemi legali emergono non nella creazione del modello, ma nell'uso che ne viene fatto. Ad esempio, utilizzare un modello per creare un’immagine di Mickey Mouse senza l'autorizzazione di Disney è illegale. Potremmo pensare di modificare la legge attuale sul copyright, ma questo potrebbe danneggiare altre attività essenziali, penso all’internet archive che tiene traccia delle varie versioni di un sito, utile in caso di questioni giudiziarie o di studio, ad esempio. O alle analisi matematiche utili in campi come la linguistica computazionale. Ancora: Apple ha offerto 50 milioni di dollari al New York Times per addestrare la sua AI con i loro articoli; ma nessuna legge sul diritto d’autore potrà impedire che poi il giornale per cui scrivo mi licenzi e utilizzi il sistema di Cupertino o un altro”.

Cosa pensa delle immagini di nazisti neri e cinesi generati dall’AI: un eccesso di correttezza politica o un semplice errore?
"Quando ho visto quelle immagini, ho pensato che fossero davvero stupide. Qual è l’idea? Che per mostrare com'erano i nazisti smettiamo di usare le foto della Seconda Guerra Mondiale e iniziamo a chiedere all'IA di mostrarci com'erano i nazisti? Perché dovremmo farlo, quando i tedeschi hanno scattato molte foto di loro stessi mentre facevano cose orribili. Ma perché tanta attenzione per queste immagini generate dall’AI? Qual è il mercato per le foto sintetiche dei nazisti rispetto a quelle reali? Come farà Google a rientrare dei suoi investimenti?  D'altra parte, questo episodio solleva un velo sulla vacuità anche delle affermazioni delle grandi aziende a sostegno delle cause sociali. L’idea è semplice: se se il mondo è governato da 150 ragazzi bianchi, dobbiamo assicurarci che metà di loro siano donne o persone di colore. E da persona di sinistra, rifiuto questa visione. Queste aziende si impegnano per la diversità nei ranghi esecutivi, ma continuano a esternalizzare le lavorazioni più pericolose al sud globale. Quindi, Google continuerà a procurarsi il fango di coltan per i suoi telefoni Pixel in zone di conflitto in Africa e questo farà sì che esisteranno ancora bambini-soldato, massacri e corruzione che danneggiano milioni e milioni e milioni di persone nere. Ma a Mountain View potranno dire: nel nostro CdA di otto persone, quattro sono neri, quindi non siamo razzisti. Quello che conta davvero è il trattamento dei lavoratori nei ranghi più bassi. Prendiamo Amazon: il maggior numero di lavoratori neri è nei magazzini, è lì che dovrebbero essere migliorate le condizioni di impiego. Ma Amazon non lo farà mai, e intanto dirà di aver assunto centinaia di lavoratori neri negli uffici, per sviare l’attenzione. E così il problema del razzismo nell’AI non sono le immagini di nazisti neri o cinesi, quelle sono solo stupide, e comunque si possono migliorare. Il razzismo che mi preoccupa, semmai, sono le decine di migliaia di lavoratori kenioti traumatizzati che ogni giorno etichettano dati per addestrare modelli di intelligenza artificiale: dovrebbero guadagnare un salario dignitoso ed essere liberati da compiti così grotteschi, la loro salute dovrebbe essere tutelata e il loro impiego dovrebbe essere protetto. Questo è il vero problema razzista con l'AI."

Crede che ci sia una differenza nella cultura delle nuove generazioni tecnologiche nella Silicon Valley? Per esempio, tra Mark Zuckerberg e Steve Jobs esiste un approccio diverso alla tecnologia?
“No, non credo ci sia una differenza. Jobs, era molto spietato, trattava male i suoi dipendenti. Spesso prendeva decisioni che danneggiavano i suoi clienti ma che favorivano lui o le sue idee. E si considerava infallibile fino all'ultimo giorno, ha scelto di bere succhi di frutta anziché affidarsi alla scienza. Quindi, quando Mark Zuckerberg dice di allevare personalmente le sue mucche e di nutrirle con ananas delle Hawaii, è lo stesso tipo di comportamento. Jobs aveva i dolcevita di Issey Miyake, Zuckerberg ha le magliette su misura da 800 dollari, è la stessa assurdità”.

Diamo da anni per scontato l'impatto di Twitter sulla Primavera Araba, o il ruolo di Facebook nella Brexit, senza prove scientifiche concrete. Nella sua duplice veste di narratore e giornalista, dove finisce il racconto e dove inizia l’analisi dei fatti? 
“Attribuiamo troppo valore alle dichiarazioni promozionali delle aziende, che si vantano di poter influenzare il nostro comportamento nel materiale di marketing, destinato agli inserzionisti: con i big data possono vendere qualsiasi cosa a chiunque. Sposando questa narrazione, come giornalisti facciamo il loro gioco. Lo stesso quando critichiamo le aziende di AI per il rischio di creare un'intelligenza superiore: queste ipotesi alimentano solo il valore delle loro azioni. E quando denunciamo i social media per aver sviluppato tecnologie di controllo mentale, anche questo fa aumentare il loro valore. Dovremmo invece concentrarci sulla realtà concreta, il fatto che queste società sono dei monopoli e che molte persone sono vulnerabili a messaggi complottisti perché chi dovrebbe proteggerle non lo fa. La verità è che la grande cospirazione esiste: è quella dei ricchi che hanno accumulato altre ricchezze, corrotto le istituzioni, devastato il nostro pianeta ed eroso i diritti dei lavoratori”.

La sua carriera è iniziata con un blog, BoingBoing. Ora ne ha un altro, Pluralistic, che aggiorna ogni giorno. Quindi l’era del blog non è finita come sentiamo ripetere spesso?

“Le piattaforme di social media hanno cercato di assorbire il blogging. Inizialmente, ci hanno offerto un grande flusso di traffico e poi ce lo hanno tolto, cercando di farci pagare per averlo di nuovo. O ci hanno semplicemente distrutti, in un modo o nell'altro. Siamo stati ingenui a cascarci; avremmo dovuto prevederlo: se ti metti alla mercé di un'azienda, non avrà mai pietà di te, e lo vediamo, ad esempio, con Twitch TV e Discord.Perciò molti stanno tornando a piattaforme come Substack, non tanto per l'etica dei gestori, che rimane piuttosto discutibile, ma perché è più facile andarsene e portare tutto con sé: gli iscritti al sito, le loro campagne, i benefici ottenuti dalle piattaforme. Ma un blog rimane il modo migliore per costruire una carriera online stabile: anche se si perde l’amplificazione del messaggio che arriva da una piattaforma, ci si guadagna l'autonomia di non essere alla mercé di nessuno”.

 

 

 

Leggi anche

© Riproduzione riservata