Dune, jihad butleriano e Unabomber: breve storia di un’idea radicale, il rifiuto della tecnologia.
da Quants numero 6, ottobre 2023
«Per il progresso non c’è cura», John Von Neumann.
Diventato adulto nella generazione dei remake cinematografici, ho davvero conosciuto l’universo di Dune tramite il primo film di Denis Villeneuve del 2021. Avevo sì visto da ragazzo la stramba versione di Lynch, ma come molti non l’ho capita, dimenticandola. In attesa del nuovo capitolo, infettato da quell’hype che è la vera cifra del nostro rapporto con lo Zeitgeist culturale, ho finalmente recuperato il libro originale: Dune, scritto da Frank Herbert, anno domini 1965.
È bene ricordarlo per gli smemorati: Dune è una delle narrazioni fantascientifiche più seminali del Novecento. Ha offerto ispirazione a miriadi di romanzi, videogiochi, film. Non si ha Guerre Stellari senza Dune. Il primo libro – che divenne trilogia, poi saga, poi controverso rizoma di sequel, spinoff e prequel, via via meno interessanti, via via scritti da un Herbert meno ispirato, poi da parenti e collaboratori – anticipa temi che di lì a qualche decennio sarebbero diventati fondamentali: il collasso ecologico, il rapporto fra individuo e collettività, la paura dell’intelligenza artificiale.
Fra le mille invenzioni incredibili del primo libro, una può forse passare inosservata, ma rimane un elemento fondamentale del worldbuilding. In Dune, infatti, non esistono computer: di conseguenza, non esistono intelligenze artificiali. In un passato remoto rispetto agli eventi del libro, è avvenuto il cosiddetto “jihad butleriano“, la rivolta umana contro l’intelligenza artificiale. È il motivo per cui in Dune non abbiamo computer elettronici, ma computer umani come i “mentat”, uomini mezzo mistici mezzo fogli excel (in una scena del film, Thufir Hawat rivolta gli occhi calcolando in un secondo quanto sia costato all’imperatore inviare i suoi emissari al Duca Atreides). È anche, a ritroso, il motivo per cui la spezia è così importante: presente solo sul deserto di Arrakis, secersa da Shalai Hulud – il grande verme delle sabbie – è l’unica sostanza in grado di permettere ai navigatori il viaggio interstellare, ampliandone i sensi per “vedere” un percorso sicuro attraverso lo spazio-tempo.
La fantascienza, già nel 1965, aveva accarezzato più volte l’idea di una lotta contro le intelligenze artificiali, così sfruttata nei decenni successivi, da Terminator a Matrix. Herbert d’altronde lo esplicita direttamente: “butleriano”, infatti, è omaggio a Erewhon, scritto da Samuel Butler, anno domini 1872.
Erewhon è un romanzo satirico, una staffilata alla società vittoriana che ricorda molto I viaggi di Gulliver di Swift, scritto un secolo prima: in Erewhon (“nowhere” al contrario) i malati vengono messi in prigione e processati, le vittime sono considerate immorali, le scuole dell’Irragionevolezza insegnano la lingua ipotetica. Butler, “militante eterodosso”, fu un moralista inglese famoso per lanciare strali contro i suoi numerosi nemici. Spirito iconoclasta ed eclettico, si occupò di ortodossia cristiana, di arte italiana, tradusse sia l’Iliade che l’Odissea e scrisse un romanzo autobiografico dal titolo perfetto, Così muore la carne. Contemporaneo di Darwin, fu prima affascinato dalla teoria dell’evoluzione per poi esserne – a ragione – terrorizzato.
L’evoluzione darwiniana fu – ed è tuttora – una pietra di scandalo dall’impatto culturale incalcolabile: sostituiva il Dio orologiaio con una forza acefala di creazione e distruzione, una forza cieca, senza un obiettivo né un senso se non se stessa. Senza una “mente” organizzatrice che la dirigesse. Gli umani discendevano dalle scimmie, le scimmie da mammiferi più antichi ed elementari, via via fino a organismi pluricellulari, e poi unicellulari, fino alla materia inorganica. Già i contemporanei di Darwin capirono il portato antireligioso di quella teoria: dato abbastanza tempo, la selezione naturale è un meccanismo che porta la materia ad essere cosciente.
Ma non solo: l’evoluzione è un processo inesorabile, una forza che agisce su ogni cosa. In un mondo di macchine a vapore, Butler intuì formidabilmente che la tecnologia era soggetta alla stessa forza. Scrisse un articolo nel 1863 – la prima edizione de L’origine delle specie è del novembre 1859 – intitolato Darwin tra le macchine:
«Giorno dopo giorno, però, le macchine stanno guadagnando potere su di noi; giorno dopo giorno stiamo diventando sempre più servili nei loro confronti; sempre più persone vengono costrette quotidianamente a servirle come schiavi, sempre più persone dedicano le energie di tutta la loro vita allo sviluppo della vita meccanica. Il risultato finale è semplicemente una questione di tempo: ma che arriverà il momento in cui le macchine avranno la vera supremazia sul mondo e sui suoi abitanti è qualcosa che nessuna persona dotata di una mente veramente filosofica può mettere in discussione nemmeno per un momento».
Butler tornerà sulla questione due anni dopo, sotto forma narrativa, appunto in Erewhon, in tre capitoletti che descrivono le ragioni della rivolta luddista – intitolati Il libro delle macchine.
Nel paese di Erewhon, le macchine furono distrutte perché un pensatore di genio aveva intuito che ogni macchina porta in sé il germe di una macchina più potente. La tecnologia è soggetta al meccanismo evolutivo come la natura, ma in maniera molto più veloce. Ne consegue necessariamente che, dato abbastanza tempo, le macchine sarebbero diventate abbastanza intelligenti. Butler, osservatore lucidissimo del proprio tempo, conosceva molto bene come funziona tra chi il potere lo possiede e chi no, siano essi uomini, animali o persino piante: i capitoli successivi al Libro delle macchine trattavano proprio questi temi. Sapeva bene che il risveglio cosciente delle macchine avrebbe voluto dire dominio delle macchine. La soluzione che propose in Erewhon fu tanto logica quanto radicale: distruggere la tecnologia, tutta insieme.
In Dune non esistono computer: di conseguenza, non esistono intelligenze artificiali. In un passato remoto rispetto agli eventi del libro, è avvenuto il cosiddetto “jihad butleriano“, la rivolta umana contro l’intelligenza artificiale. È il motivo per cui in Dune non abbiamo computer elettronici, ma computer umani.
***
Per una di quelle coincidenze che Jung avrebbe chiamato sincronicità, nel 1965, lo stesso anno di Dune, Erewhon arriva ai lettori italiani tramite la traduzione di Adelphi, all’epoca neonata casa editrice. Uscì fra i primissimi libri pubblicati, nella collana dei “Classici” disegnata da Enzo Mari – elegante sovracoperta bianca, minimale cofanetto nero.
Non è azzardato ipotizzare che Erewhon fosse una lettura di Bobi Bazlen, il leggendario consulente editoriale, cofondatore di Adelphi con Luciano Foà. È probabile che Bazlen avesse amato l’immaginazione e l’ironia swiftiana dell’autore, ma soprattutto che avesse anche ritrovato nei capitoli folgoranti del Libro delle macchine una vera primavoltità, come amava chiamarla: la prima volta che un’idea viene espressa in un libro. Tutto ciò che diventerà per noi un tropo narrativo usato e abusato, un tema fondamentale e ricorrente almeno dalla seconda parte del Novecento, era stato trattato per la prima volta in questo libretto un secolo prima.
***
L’idea principale è dunque semplice: la tecnologia è soggetta all’evoluzione; questa evoluzione è molto più veloce; la tecnologia diventerà “cosciente”; le macchine ci domineranno. Nel tempo vari autori l’hanno guardata da angoli diversi, come nella favola indiana dell’elefante e dei ciechi. Tra i moltissimi, Kevin Kelly, Ray Kurzweil e un matematico geniale e intellettuale mancato, “best known for other works” – come venne citato in un paper accademico: Ted Kaczynski, meglio conosciuto come Unabomber.
Ted Kaczynski è morto recentemente, il 10 giugno 2023, a 81 anni, di cui ventisette passati in prigione. Ha ucciso, spedendo bombe via posta, tre persone e ne ha ferite ventitré, in un periodo lungo diciott’anni. Bambino prodigio, aveva un formidabile talento per la matematica: studiò a Harvard sotto Quine, e fu soggetto ai famigerati – e illegali – esperimenti psicologici della CIA sotto il programma MKULTRA: duecento ore di brutali forme di tortura mentale e manipolazione verbale. Non è dato sapere quanto questi esperimenti contribuirono agli eventi che seguirono. Dopo il dottorato e una breve esperienza di insegnamento, Kaczynski si sfilò improvvisamente dalla carriera accademica per ritirarsi in una capanna di legno di undici metri quadri nelle foreste del Montana, senza elettricità né acqua corrente. Da lì, per diciott’anni, combatté solitario la propria guerra contro la società.
Unabomber è stato oggetto della più grande caccia all’uomo dell’età moderna, e per un breve periodo anche lo scrittore William T. Vollmann fu sospettato. Per fortuna di tutti, Unabomber aveva ambizioni intellettuali e nel 1995 riuscì a far pubblicare dal New York Times e dal Washington Post il suo manifesto, intitolato La Società Industriale e il Suo Futuro. La pubblicazione del manifesto sarebbe stata cruciale per la sua cattura: il fratello riconobbe il suo stile, e lo consegnò alla polizia.
«La Rivoluzione Industriale e le sue conseguenze sono state una catastrofe per la razza umana»: così inizia quello che è conosciuto da tutti come “il manifesto di Unabomber”, un logicissimo delirio di 35000 parole, un monologo solo in apparenza “inattaccabile”.
Il testo tocca moltissimi temi, ma il nucleo è: la tecnologia non è un insieme di strumenti, ma una rete, un organismo che evolve. La società tecnologica sta già distruggendo la natura e rovinando l’uomo, lo allontana da una vita più naturale, quindi autentica. La società schiavizza l’individuo, sostituisce i suoi desideri con surrogati inutili. La tecnologia è alla base di tutto questo: asservisce gli umani, li fa lavorare per sé. «Il progresso tecnologico è incompatibile con la libertà». Per questo va fermato. Se Butler proiettava nel futuro alcuni segni che già vedeva nella propria epoca, Kaczynski ha già visto abbastanza:
«Il sistema non esiste e non può esistere per soddisfare i bisogni umani. Viceversa, è il comportamento umano a dover essere modificato per adeguarsi ai bisogni del sistema. Questo non ha niente a che vedere con qualsivoglia ideologia politica o sociale che possa pretendere di guidare il sistema tecnologico. La responsabilità sta nella tecnologia, perché il sistema è guidato non da un’ideologia ma da una necessità tecnica».
In Erewhon (“nowhere” al contrario) i malati vengono messi in prigione e processati, le vittime sono considerate immorali, le scuole dell’Irragionevolezza insegnano la lingua ipotetica.
Se vi sembra un classico discorso da villain è perché di fatto lo è: il manifesto di Unabomber si è infilato ovunque dalla cultura mainstream alle ideologie di ogni gruppo anarcoide, di ogni grado di radicalità e sfumatura di rosso, di verde e di nero. Un testo leggendario, suo malgrado, diventato canone per varie frange radicali, dagli anarco-primitivisti agli ecoterroristi, adorato – più o meno ironicamente – sia a destra che a sinistra. Nume tutelare degli incel di mezzo mondo, memato all’inverosimile, per moltissimi uomini arrabbiati è come la famosa pillola rossa di Matrix che apre gli occhi sulla realtà: invece che redpilled, diventiamo tedpilled.
Al di là però di ogni ironia o postironia, non è facile affrontare Kaczynski come intellettuale: il manifesto è lunghissimo, mescola continuamente tesi condivisibili a semplificazioni inaccettabili, intrecciando il tutto con pregiudizi misantropi, sessisti, razzisti. Senza contare che è impossibile ignorare, oltre la teoria, la praxis del suo autore.
Fra le persone che ci ha provato, c’è stato Kevin Kelly, uno dei fondatori di Wired, giornalista e scrittore che sin dagli anni Novanta è stato araldo e alfiere dell’era digitale. Forte dell’impossibilità di essere accusato di luddismo terrorista, Kelly ha descritto nei suoi libri (dai titoli programmatici: Out of control, Quello che vuole la tecnologia, L’inevitabile) l’organicità della tecnologia, la sua simbioticità con gli esseri umani. Per Kelly esiste solo il technium: l’insieme di tutte le tecniche, tutte le arti, tutte le culture degli esseri umani. Tutto ciò che naturale non è, tutto insieme, tutto legato: per Kelly, la tecnologia è connaturata all’essere umano, esattamente come lo sono l’arte, la letteratura, la musica. E come l’essere umano, la tecnologia ha fame.
«La tecnologia segue le sue priorità, è egoista. Il technium, a differenza di ciò che pensa la maggior parte delle persone, non è fatto da un insieme di dispositivi e gadget da acquistare. Le parole di Kaczynski, il famigerato Unabomber, riflettono le argomentazioni di Winner e anche le mie, quando dico che la tecnologia è un sistema dinamico e olistico. Non è mero hardware, quanto piuttosto una sorta di organismo. Non è inerte né passivo, tutt’altro: il technium va alla ricerca di risorse da sfruttare per poter espandere se stesso. Non è neanche il risultato della somma delle azioni umane, perché a tutti gli effetti il technium trascende le azioni e i desideri umani. Su questi aspetti credo che Kaczynski avesse visto giusto».
Kelly, dal lato degli integrati, riconosce all’apocalittico Kaczynski di aver capito molto meglio di altri la natura ineluttabile della tecnologia. Il progresso tecnologico, in un certo senso, è inevitabile, perché insito nel nostro cervello. Un cervello, fra tutti gli animali, desiderante.
Nessuno però ritorna davvero completamente a uno stato di natura, se non a parole. Kaczynski stesso elaborava ordigni tecnologici per la sua strategia ecoterroristica. Anche avesse usato frecce avvelenate, rimane una sottile ma irriducibile contraddizione: qualche tecnologia verrà sempre ritenuta desiderabile, buona e giusta. Kelly ha gioco facile nel notare come né il purista Kaczynski né i suoi meno coerenti emuli rinuncino davvero ai frutti della società industriale: lui si nutriva sì di caccia, ma spesso prendeva la bicicletta e pure l’auto per fare la spesa al supermercato, comprando cibo, strumenti e persino il materiale per i suoi ordigni. Possedeva scarponi da neve, stivali, maglie, cibo in scatola, esplosivo, materassi, secchi e recipienti di plastica, tutte cose che avrebbe potuto costruirsi da sé, ma che non fece.
In ogni utopia antitecnologica, curiosamente, la società decide sempre di “fermarsi” a un progresso che però non è mai zero. Il fatto che Kaczynski dormisse in un letto – che, per quanto semplice, è un preciso oggetto tecnologico – mi ha sempre ricordato il meraviglioso e ingenuo «neocristianesimo a sfondo disattivistico e copulatorio» di Luciano Bianciardi, descritto ne La vita agra.
«Occorre che la gente impari a non muoversi, a non collaborare, a non produrre, a non farsi nascere bisogni nuovi, e anzi rinunciare a quelli che ha. La rinunzia sarà graduale, iniziando coi meccanismi, che saranno aboliti tutti, dai più complicati ai più semplici, dal calcolatore elettronico allo schiaccianoci. Tutto ciò che ruota, articola, scivola, incastra, ingrana e sollecita sarà abbandonato. Poi eviteremo tutte le materie sintetiche, iniziando con la cosiddetta plastica. Quindi sarà la volta dei metalli, delle leghe pesanti e leggere giù giù fino al semplice ferro. Né scamperà la carta. Eliminata carta e metallo non sarà più possibile la moneta, e con essa l’economia di mercato, per fare posto a un’economia di tipo nuovo, non del baratto, ma del donativo. […] Saranno scomparse le attività quartarie […] quindi le attività terziarie, e poi le secondarie. Le attività del primo tipo – coltivazione della terra – andranno man mano restringendosi, perché camperemo principalmente di frutti spontanei. […] Saremo vegetariani, e ciascuno avrà gli arredi essenziali al vivere comodo, e cioè un letto».
Dopo il dottorato e una breve esperienza di insegnamento, Kaczynski si sfilò improvvisamente dalla carriera accademica per ritirarsi in una capanna di legno di undici metri quadri nelle foreste del Montana, senza elettricità né acqua corrente. Da lì, per diciott’anni, combatté solitario la propria guerra contro la società.
***
Ray Kurzweil è un imprenditore e inventore americano. Ha fatto i suoi milioni come pioniere di varie forme di intelligenze artificiali che ora non ci paiono più tali: software per il riconoscimento del parlato, dello scritto (OCR), lettura automatica (text-to-speech). Negli anni, si è affermato come futurista: proprio perché la tecnologia evolve, possiamo tentare di predire se non come, almeno quando. Per Kurzweil la tecnologia segue una “legge dei ritorni acceleranti”, cioè ha un andamento esponenziale, non lineare. Noi esseri umani tendiamo a pensare linearmente, non capiamo gli esponenziali (anche se, post pandemia, sarebbe bene aver imparato qualcosa). Ogni progresso ne permette altri, più veloci e numerosi. Ogni innovazione ne porta altra, accelerando. Per questo motivo tendiamo a sovrastimare l’innovazione nel breve termine, ma a sottostimarla fortemente nel lungo termine. La posizione di Kurzweil è dunque transumanista, quindi l’esatto opposto del pessimismo di Kaczynski: le macchine non ci domineranno, ma noi ci fonderemo con loro, l’intelligenza artificiale ci aiuterà a connetterci con e a colonizzare l’universo.
La quarta di copertina di Erewhon fu scritta da Roberto Calasso, per lunghi decenni direttore di Adelphi, erede di Bazlen e Foà. È la prima delle Cento lettere a uno sconosciuto, la raccolta di risvolti scritti dall’autore-editore. Calasso critica le tesi tecnodeterministe di Kelly ne L’impronta dell’editore, mentre ne L’innominabile attuale se la prende con il transumanesimo di Kurzweil. Non è dato sapere cosa pensasse di Kaczynski.
