L'intelligenza artificiale, ovvero la fine della tecnica
- di Gabriel Azaïs - 18 aprile 2025 -
«La tecnologia, ha in sé un certo numero di conseguenze, rappresenta una certa struttura, certe esigenze, e produce certe modificazioni nell'uomo e nella società, che si impongono su di noi, che ci piaccia o meno. La tecnologia, di per sé, va in una certa direzione. [...] Per cambiare questa struttura, o riorientare questo movimento, dobbiamo fare uno sforzo enorme per poter prendere il controllo di ciò che si credeva mobile e governabile; dobbiamo prendere coscienza di questa indipendenza del sistema tecnologico, in contrapposizione alla rassicurante convinzione della neutralità tecnologica.» - Jacques Ellul -
«Negli ultimi mesi, abbiamo visto i laboratori di intelligenza artificiale bloccati in una corsa fuori controllo per sviluppare e distribuire menti digitali sempre più potenti che nessuno, nemmeno i loro creatori, può comprendere, prevedere o controllare in modo affidabile». Questa dichiarazione ha preceduto la raccomandazione - firmata il 22 marzo 2023 - di una moratoria di sei mesi sulla ricerca sull'IA, a seguito dell'avvento di ChatGPT e dei programmi di IA generativa.[*1] Tra i firmatari, c'erano noti scienziati, pezzi grossi della Silicon Valley e ricercatori di intelligenza artificiale, da Yoshua Bengio [Premio Turing] a Steve Wozniak [Apple], passando per Stuart Russell ed Elon Musk, oltre a vari altri esperti, professori e ingegneri. Questa moratoria - ampiamente strombazzata dai media - ha conferito un'espressione ambigua alle ansie riguardanti l'intelligenza artificiale, invocando una sorta di escalation di fantasie millenaristiche: «Dovremmo sviluppare delle menti non umane che alla fine potrebbero essere più numerose, più astute, obsolete, e sostituirci?» Tale petizione, riecheggiava il concetto di una "singolarità tecnologica", vale a dire quel momento, teorizzato alla fine del secolo scorso, in cui l'IA avrebbe raggiunto una forma di "coscienza" e autonomia, aprendo così la strada a un'accelerazione tecnologica che l'uomo non sarebbe più stato in grado di controllare.[*2] Anche qui quella che emerge è una domanda relativamente nuova: una volta abbandonato il solito modo di parlare di «IA con scopi utilitaristici», come possiamo posizionarci in relazione a una tecnologia così inaffidabile, che presenta non solo un rischio, ma forse anche una minaccia per l'umanità? È diventata incomprensibile anche per i suoi creatori? Alla fine di maggio, è stata inviata un'altra petizione, la cui forma stessa era sconcertante. Intitolata "SAFE AI Statement" - e avviata da ricercatori e ingegneri nel campo dell'IA - la proposta rappresentava un semplice appello: «Mitigare il rischio di estinzione dell'IA, dovrebbe essere una priorità globale, insieme ad altri rischi su scala sociale, come lo sono le pandemie e le guerre nucleari». [*3] Sebbene l'ipocrisia di questa affermazione venisse sottolineata da molti, erano pochi quelli che sembravano aver notato la novità di un discorso che di fatto frantumava un assunto convenzionale riguardo la tecnica: non solo la tecnologia non è neutrale, in questo caso, ma non è nemmeno "buona".[*4] Va anche notato, di passaggio, che sebbene questa tecnologia sembri già pericolosamente sfuggire al controllo dei suoi creatori (esiste un rischio, ma può solo essere mitigato), l'elemento di ostilità a essa inerente non viene visto come un problema a priori, ma semplicemente come un rischio a posteriori (di estinzione). Questa storia di una macchina intelligente che si ritorce contro l'uomo, serve a scoraggiare un approccio più razionale che, attenendosi a una critica della tecnologia, vedrebbe anche nell'IA un rischio di schiavitù o di squalifica dell'uomo. Un mito spazza via tutto. Pertanto, la sensazione che incute è strana, come se vivessimo in un mondo fantascientifico che strumentalizza i propri codici al suo interno. Una sorta di meta-narrazione, un simulacro fantascientifico che maschera un orizzonte distopico, esso stesso pienamente tangibile e reale... Per afferrare la questione più chiaramente, dobbiamo distinguere tra fantascienza e distopia, tra genere e sottogenere, per ricordare come questi due generi di finzione si alimentino a vicenda, e di come operino per mezzo di una parentesi del reale. La "singolarità", è il mito di Frankenstein andato di traverso: l'allegoria prometeica viene abbandonata a favore - innanzitutto - di una fede nell'onnipotenza della tecnica, che va completamente contro la storia originale. Questa lettura millenaristica della singolarità va respinta. Dovremmo invece interpretarla, non come una proiezione fantasticata di un futuro possibile, ma come un'allegoria del nostro presente. E questo, a sua volta, ci permetterà di riappropriarci della vecchia narrazione e di ripristinarne il suo significato metaforico. Si dà il caso che il "mito" dell'intelligenza artificiale riecheggi in larga misura l'interrogativo di Jacques Ellul, a metà del XX secolo, sul posto della tecnologia nelle nostre società. Il mito dell'IA traduce qualcosa che è rimasto impensato. Fa presagire una possibilità che ci porterebbe oltre il "sistema tecnologico" (1977) descritto con tanta precisione da Ellul, realizzando timori che aveva anticipato già nell'introduzione del libro. Il mito dell'IA materializza, in forma negativa, il pericolo di una società utopica, di un sistema chiuso dalla tecnologia: una "Mega-macchina" in cui gli individui e le relazioni sociali sarebbero governati di fatto da principi tecnici (cioè ridotti in ultima analisi a simulacri). Lo scopo del presente saggio è quello di delineare i contorni e le conseguenze di questa affermazione.
I. Tecnica e mito A prima vista, è proprio la profusione di tecnologie di intelligenza artificiale a rendere difficile da definire il suo concetto. L'IA è generalmente intesa in termini di quelle che sono tre fasi predefinite: IA debole, IA generale e IA forte. L'IA debole si riferisce a forme di automazione e di complessità tecnologica che tutti conosciamo facilmente: supporto alle decisioni, neuroscienze, sistemi di rilevamento, modelli statistici complessi, ecc. L'IA generale [AGI] è associata alla simulazione dell'intelligenza umana, ivi compreso il calcolo emotivo, la simulazione cognitiva, il pensiero, il linguaggio, ecc. Mentre l'IA forte, infine, si riferisce alla creazione di un'intelligenza artificiale veramente autonoma, vale a dire, uguale o superiore all'intelligenza umana, ed essa si situa pertanto in un futuro puramente ipotetico, il quale è materia di mito. Sebbene a volte venga confusa con l'AGI, l'IA forte si distingue per l'introduzione della nozione di coscienza. Naturalmente, questa tipologia è interessante solo nella misura in cui il mondo degli ingegneri e dei progettisti di intelligenza artificiale la invoca allorché essa inquadra le loro sfide tecniche e teoriche (per esempio, il lavoro sui modelli linguistici ruota tutto attorno all'AGI). Ma a questo punto, si potrebbe obiettare che la tecnica, la quale "determina la ricerca" (quest'ultima è solo un mezzo per raggiungere un fine), non si pone mai di fatto degli obiettivi così generali. Infatti, a un esame più attento, l'intelligenza artificiale non è altro che la somma delle sue varie strade secondarie. Qui vediamo proprio l'ambiguità tecnica su cui prospera l'intelligenza artificiale. L'IA non è altro che il prodotto di una malintesa denaturazione della tecnica da parte del mito, il quale pertanto non può essere isolato da essa. In contrasto con l'"ideale" puramente tecnico, le tecnologie di intelligenza artificiale hanno una loro struttura o logica peculiare. Qui, possiamo distinguere una prima classe di IA che sono inserite in altri sistemi tecnici già complessi. Ad esempio, nella programmazione informatica, nell'industria della logistica (gestione dei flussi e delle scorte, trasporti), nella progettazione delle intelligenze artificiali stesse, ecc. In queste applicazioni – che rimangono le più invisibili e le meno controverse – l'intelligenza artificiale, in quanto pura tecnica, sembra prendere le distanze dal mito, e al contempo ne mette a nudo quella che è una sua caratteristica fondamentale: l'autonomizzazione. Integrandosi in sistemi tecnici già autonomi (logistica, ambienti complessi) - che gli esseri umani possono modificare, o piegare, in una direzione o nell'altra solo con grande difficoltà - questo uso dell'IA sembra convalidare una tendenza generale. Quando si tratta di creare degli strumenti informatici - oppure la creazione di IA da parte di IA - l'autonomizzazione mette in discussione il gesto "creativo" degli ingegneri informatici, e lo fa in un modo nuovo. Certo, la nozione stessa di ingegneria informatica rivela una forma di autonomia (dei programmi, dei sistemi); Ma l'ingegnere informatico, in questo caso, cede in qualche modo i controlli alla macchina. Un tale sistema digitale spinge verso una maggiore autonomia di per sé? Per quanto riguarda il caso della creazione dell'IA da parte dell'IA: l'ingegnere spinge questa tecnologia verso una forma di autonomia? Oppure c'è già una tendenza "naturale", per la tecnologia informatica, a diventare autonoma? La risposta sembra essere «un po' di entrambe le cose». L'ingegnere informatico compensa ciò che la tecnica gli ha tolto (dal momento che la tecnica sfugge ben presto al tecnico) investendo questa tecnologia di quello che è un potere virtuale ancora a venire nella mobilitazione di un vocabolario: l'IA così concepita (il sistema Nasnet generato dall'AutoML di Google) viene chiamato "figlio", e si immagina che esso abbia la potenza, o il potenziale, per ispirare in futuro altri modelli di intelligenza artificiale (viene così lanciato un appello ad altri sviluppatori, affinché adottino questa tecnologia e la perfezionino).[*7] La tecnologia dell'IA, è un modo per guidare una data tecnologia (computazione), la cui caratteristica è già quella di autonomizzarsi verso un'ulteriore autonomizzazione. Nel frattempo, la proiezione delle categorie umane sull'oggetto tecnico investe quest'ultimo di un significato particolare. La "ricerca sull'IA" sistematizza tale autonomizzazione in modo ambiguo, elevandola allo status di soggetto. Viene così promesso una costante relazione di potere, dell'uomo con la tecnologia e della tecnologia con l'uomo. La tecnica non viene più intesa come un mezzo per l'alimentazione, ma come energia vera e propria, come l'energia in quanto tale (come se fosse il fuoco o l'elettricità). Il concetto di intelligenza artificiale risale all'invenzione del computer. Dagli anni '50, quando il concetto è stato elaborato per la prima volta - e ben prima che la tecnologia stessa ne incoraggiasse l'ipotesi - l'ambizione era chiaramente demiurgica e prometeica. Sebbene la ricerca rimanesse di dominio teorico, l'ottimismo dei suoi pionieri – da Alan Turing a Marvin Minsky, passando per Allen Newell e Herbert Simon – dichiarava che un'IA, con capacità simili o superiori all'intelligenza umana, era prevedibile nell'orizzonte di meno di una generazione. [*8] Questa ipotesi demiurgica di una ricerca sull'IA senza scopi o applicazioni pratiche, oggi è diventata quasi ovvia. Il progetto prometeico metafisico - la messa in discussione della coscienza, e il raggiungimento di una forma di coscienza informatica (il "test di Turing") - si trova alla base di tutta la ricerca che si svolge nell'ambito dell'IA. L'avvento della cibernetica, nello stesso periodo in cui la formulazione del concetto di IA ha reso popolare l'idea di una scienza integralmente tecnicizzata, che per formulare, testare e convalidare le sue teorie non ricorre più a nient'altro che al ragionamento tecnico. In questo senso, la teorizzazione dell'intelligenza artificiale – un'intelligenza che può essere paragonata a un calcolo, o a un programma informatico – sembrerebbe, a prima vista, nient'altro che una sfida tecnica: il suo aspetto teorico cede così il passo prima a quello tecnico, e poi a quello pratico, i quali livelli tuttavia mantengono sempre questa colorazione scientifica e sperimentale. In questo connubio tra scienza e tecnica, è la scienza a dare l'impulso dinamico, facendo così dell'intelligenza artificiale un ambito di ricerca, e lo fa unificando e orientando le sue diverse forme tecniche, così come unifica anche i diversi corpus scientifici legati a questo ambito di ricerca. Al di là dell'ibridazione dei processi tecnici, l'obiettivo è quello di tendere verso una sintesi tecnica e funzionalista. Il mito prometeico dell'IA è il prodotto di questa tecnoscienza, di questa scienza monopolizzata dalla tecnica, così come lo è il fuoco che ha rubato. L'intelligenza, in quanto programma informatico. La tecnica e la ricerca, infatti, non si pongono confini, ed è proprio in questo senso che la tecnica viene attraversata da un mito: nel suo duplice carattere mutevole, l'intelligenza artificiale è simultaneamente sia tecnica che tecnica in divenire.[*9] L'IA è allo stesso tempo sia una proiezione dell'uomo sull'oggetto tecnico (il mito antropomorfico), che una proiezione della tecnica sull'uomo (il cervello-macchina visto come postulato). Queste due concezioni, inseparabili per quanto apparentemente contrapposte, si rispecchiano l'una nell'altra. Tuttavia, può essere difficile seguire il filo logico che dall'oggetto teorico e metafisico arriva all'applicazione tecnica e pratica. Se, in teoria, l'intelligenza artificiale e l'intelligenza umana funzionano in modo simile, che cos'è che rende l'intelligenza artificiale una tecnica per l'uomo? Che uso ne poteva farne? È questa è la domanda posta dal pensatore John Searle, non tanto come una domanda filosofica quanto piuttosto come una domanda pratica dettata dal buon senso: «Se dobbiamo supporre che il cervello sia un computer digitale, ci troviamo di fronte alla domanda: "E chi sarebbe l'utente?"» Concepire l'intelligenza come un'operazione matematica - come qualcosa che può essere quantificato e manipolato per mezzo di un linguaggio informatico - significa già inscrivere all'interno di un processo di reificazione quella che è la nostra relazione con lo strumento. Una cosa è creare uno strumento che usiamo, e un'altra è creare degli strumenti che dovrebbero riflettere la nostra intelligenza. In quest'ultimo caso, il rapporto con lo strumento non sarebbe più lo stesso, ma è diventato riflessivo: l'uomo osserva e si proietta attraverso il prisma tecnico. L'intera questione dell'IA e della ricerca sull'IA si riduce fin dall'inizio a un rifiuto di pensare a quella che è la nostra relazione con questa tecnologia. A un livello ideale, diventa una pura tecnica senza che ne sia stato specificato alcun uso, un costrutto mentale, un delirio demiurgico. In concreto, attraverso le applicazioni, essa trascina l'essere umano in un processo di reificazione, come in una sala degli specchi. La cosiddetta questione della sostituzione – una falsa domanda – è il risultato diretto di tale assenza di qualsiasi prospettiva riguardo l'uso della tecnologia dell'IA, e al modo in cui viene appresa fin dall'inizio, come se fosse un oggetto metafisico, in quanto tecnica potenziale, vale a dire, come pura potenza. A essere qui all'opera, vediamo una struttura vuota e illusoria (che crea illusioni). Esiste, infatti, un'identità tra il modello (l'intelligenza umana) e la sua traduzione in linguaggio digitale. Una volta che l'intelligenza - intesa semplicemente come calcolo - viene trasferita nel dominio tecnico, ecco che il suo processo formalizzato, l'intelligenza artificiale diventa subito un modello. Esso viene modellato, tanto quanto modella. Il principio dell'intelligenza "aumentata", tramite l'intelligenza artificiale, presuppone già la riduzione dell'intelligenza umana al livello della tecnica o del calcolo. La seconda categoria da definire comprende quindi tutte quelle tecnologie di IA che tendono a plasmare o modellare l'intelligenza umana. Esse costituiscono infatti il rovescio del mito. In effetti, possiamo pensare a queste diverse tecnologie - ai diversi tipi di intelligenza artificiale - come a tanti modelli. Secondo il ricercatore Douglas Hofstadter, «L'intelligenza artificiale è ciò che non è ancora stato creato». In quanto tecnologia in evoluzione, l'intelligenza artificiale è anche una tendenza raggruppatasi attorno all'idea che l'intelligenza umana possa essere trasposta - vale a dire, falsificata - in un linguaggio informatico. L'IA mira a raggiungere una sintesi (AGI o IA forte); ed essa deve essere innanzitutto intesa come qualcosa di in divenire, in costante evoluzione (in consonanza con la "Legge di Moore") [*10]. Che cosa si sta sforzando di essere? Sia potenzialmente (nell'elaborazione del suo mito) che nella sua realtà? Empiricamente parlando, la ricerca nell'IA (in linea con questa idea di intelligenza intesa come tecnica) tenta di scomporre e poi ricomporre i nostri modi di pensare, le nostre facoltà di percezione, ragionamento, parola, comunicazione, decisione, ecc., traducendoli nel linguaggio informatico dei compiti. [*11] Molte applicazioni, per quanto agli albori, derivano essenzialmente da una tale idea, con le varie tecnologie di intelligenza artificiale che costituiscono le corde e i fili della "scienza" di questo burattinaio. Questa idea - che è fondamentale per l'IA e che implica che l'uomo potrebbe essere sostituito dalla macchina per determinati compiti che un computer potrebbe eventualmente svolgere meglio o in modo più efficiente - disconnette completamente tutte queste tecniche dal nostro rapporto con esse. Tuttavia, anche se potrebbero sostituire l'essere umano, è ancora sempre l'umano che interagisce con loro; il che sposta la questione verso una concezione più essenziale dell'uomo come macchina: usi militari (sistemi d'arma autonomi letali (LAWS)), usi di polizia (prevenzione, controlli automatizzati dell'identità, gestione degli assembramenti, sorveglianza, ecc.), ma anche l'uso dell'IA in ambito sanitario (diagnostica, la medicina come "sistema esperto"), il suo possibile utilizzo in ambito politico (amministrazione) e giuridico (accelerazione e semplificazione delle decisioni giudiziarie), nell'educazione (modelli, tecniche delle scienze cognitive), nell'IA nei settori terziari, nei servizi (assistenza online automatizzata), nel reclutamento, nei chatbot, ecc. In realtà, questa concezione dell'intelligenza in quanto completamento di una serie di compiti o di calcoli, con l'IA viene estesa a un numero potenzialmente infinito di tecniche; il mito scivola in un discorso puramente tecnicistico senza sembrare stabilire una relazione diretta con esso. Così Kaplan e Haenlein, ad esempio, definiscono l'intelligenza artificiale come «la capacità che un sistema ha di interpretare correttamente i dati esterni, apprendere questi dati e utilizzare questo apprendimento per raggiungere determinati obiettivi e compiti specifici, adattandosi in modo flessibile».[*12] Questa definizione minima, cerca di ridurre l'intelligenza artificiale a uno strumento per una determinata applicazione. Eppure, è chiaro che non capiremmo nulla di questa tecnologia se non prendiamo in considerazione l'intera gamma di applicazioni che essa genera, così come la sua tendenza a essere considerata una potenza a sé stante. Non si tratta solo di "obiettivi e compiti specifici", ma di un vasto campo di applicazioni in costante sviluppo, raggiunto attraverso processi simili sotto ogni aspetto (il "sistema" algoritmico dell'IA). In questa definizione, l'antropomorfizzazione o la personificazione della tecnica non ha alcun ruolo a priori da svolgere. Entrerà in gioco più a monte, attraverso un modo di parlare o concepire strumenti tecnici, attraverso lo sviluppo di tecnologie antropomorfe (ad esempio attraverso l'uso del linguaggio) e, più in generale, attraverso l'orientamento della ricerca sull'IA verso l'autonomizzazione.[*13] Quest'ultimo punto è sicuramente quello più importante, e assume l'aspetto ingannevole di una pura tecnicità. In generale, l'IA è la proiezione di un potere o di un potenziale nella tecnologia (con il corollario di rinunciare al dominio su di essa, sollevando ancora una volta la questione dell'uso). È una fede nell'onnipotenza della tecnologia, incarnata nella paradossale ricerca di un empowerment autonomo – che, in ultima analisi, non è altro che una sacralizzazione della tecnologia.[*14] Pertanto, l'intelligenza artificiale procede attraverso un costante avanti e indietro tra mito e applicazione tecnica. Il discorso tecnico "razionalista" e la creazione del mito vengono a essere così dispiegati in modo intercambiabile, rafforzandosi a vicenda in maniera dinamica, nell'idea di una tecnologia in evoluzione, incompiuta e incompleta per natura. Le due categorie di IA sopra menzionate non sono isolate l'una dall'altra, ma formano esse stesse un sistema. Più in generale, l'intelligenza artificiale è un modo di ordinare il reale, secondo una norma (tecnicamente assimilabile dalla macchina), o di (ri)programmazione informatica. Essa fornisce un modello unificato, autonomo, la cui particolarità è quella di diffondersi qui, nel dominio digitale, senza alcun freno: l'intelligenza artificiale nella finanza (trading algoritmico, sistemi di previsione del mercato, che a loro volta condizionano il mercato, l'economia), l'algoritmizzazione dei media (produzione e suggestione di contenuti), la traduzione automatica (secondo l'idea di un linguaggio unico, ridotto a calcolo), la gestione dei dati (estrazione, tecnologie digitali (gestione personalizzata, moderazione, suggerimento di contenuti), ecc. Altamente specificata nel suo principio originario (l'orizzonte demiurgico della "ricerca nell'IA"), l'intelligenza artificiale tende, perciò, in pratica a diluirsi fino a coincidere con l'intero sistema digitale, formando un cibernetismo generalizzato. Un modello cibernetico di società che preserva dal mito solo un'immagine speculare contro la quale l'uomo lotta, su cui si fissa. Tutte queste tecnologie, rimangono quindi per lo più invisibili, sullo sfondo. Nonostante sembrino una questione strettamente tecnica, esse fanno tutte parte di un ambiente già altamente tecnicizzato e contribuiscono in modo più ampio alla virtualizzazione già in corso nelle nostre società, per cui l'uomo e le sue interazioni sociali non sono più viste come nient'altro che questioni tecniche. Lo scopo dell'IA, non è tanto quello di sostituire l'uomo con la macchina, ma di fare in modo che l'uomo si comporti, agisca come una macchina, che la società nel suo insieme si tecnicizzi attraverso un sottile gioco, a turno, di normalizzazione e imitazione. L'IA intensifica il processo di rappresentazione tecnica sottostante alla nostra società, dove l'uomo tende ad entrare in sé stesso come una grandezza digitale (e dove, di conseguenza, non ha più alcuna importanza). Efficacia e rappresentazione sono pertanto intrinsecamente legate attraverso l'AI: l'algoritmo – o "agente intelligente" [agent-based model] nel gergo antropomorfo della ricerca sull'IA – effettua un costante riaggiustamento in tempo reale, tramite deep learning, dei compiti che dovrebbe svolgere, ma anche della rappresentazione dell'ambiente [model-based agent] con cui interagisce. Il mondo diventa così misurazione, statistica in tempo reale. Attraverso l'accumulo di dati, l'IA ottimizza questa rappresentazione (di sistemi o fenomeni sociali, fenomeni comportamentali, ecc.) in senso tecnicistico. Appartiene alla natura di questo sistema, allineare poi maggiormente questa "rappresentazione", con i suoi calcoli, attraverso le operazioni tecniche che compie: il sistema tecnico non è quello dell'intelligenza artificiale, ma quello più ampio dell'intelligenza artificiale vista in un determinato ambiente sociale, la quale tende impercettibilmente a modificare e tecnicizzare. Antoinette Rouvroy, che vede in questa organizzazione statistica della società una forma di "governamentalità algoritmica", fa un buon lavoro nell'analizzare il nuovo ordine con cui abbiamo a che fare; ordine che si sforza di perpetuare un modello sociale di potere tecnico (il Capitale, in questo mondo digitalizzato, è diventato un accumulo di dati).[*15] Questa gestione da parte di algoritmi mira a una "neutralizzazione dell'incertezza", ovvero dei fenomeni emergenti: una modalità di regolazione cibernetica che anticipa ed esclude ogni forma di incidente attraverso l'analisi granulare dei comportamenti e per mezzo della prelazione. Si tratta di una tecnologia dei riflessi, del raddoppio: un apparato a specchio. [*16] Il tempo stesso diventa quello del computer, mentre il futuro immediato, sconvolto, viene a essere come raddoppiato dagli algoritmi. Con il trading algoritmico, gestito dall'intelligenza artificiale, gli algoritmi non prevedono tanto il futuro quanto lo producono. Il diritto potenzialmente non è più altro che una correlazione tra fatti, un'amministrazione statistica (non diversamente dalla scienza medica, ecc.). [*17] Notiamo qui, infine, che mentre questo empirismo cibernetico tiene conto dell'errore e lo registra continuamente nel suo sistema, allo stesso tempo il principio statistico del "deep learning" rimane, alla fine, meno che affidabile (il limite di calcolo applicato ai viventi). La cosa importante, ciò che rimane in ultima analisi, è fondamentalmente solo il modello stesso – specchio, spettro o prisma tecnico: questo regime di apparenza sistematizzato attraverso la tecnica. Più si rendono invisibili, più il mito sembra svanire, più efficaci diventano le tecniche di intelligenza artificiale (ma nel senso della normalizzazione di un sistema: genera a sua volta una sfilza di aberrazioni). Ciò che la tecnica realizza è una forma di utopia cibernetica, che è qualcosa di ben diverso dalla figura dell'androide, che qui ha solo un ruolo accessorio. Ma il mito è sempre lì: a questa apparente scomparsa del mito, alla sua invisibilizzazione nel sistema digitale, corrisponde un'inflazione del mito nell'immaginario collettivo. Un certo discorso ambientale, intriso di cliché fantascientifici, insieme ai progressi più spettacolari nella ricerca sull'IA, garantisce la riproduzione di una narrazione o di un orizzonte dell'IA nell'immaginario sociale. In un quello che è un movimento duale, l'inflazione del mito nasconde l'alienazione generale determinata dalla tecnica, con l'IA che tende in modo succedente a coincidere con il sistema digitale nel suo insieme (l'IA non è mai stata nient'altro che una personificazione, o concettualizzazione algoritmica, del computer – vedi il lavoro di Turing). Questo capovolgimento è in contrasto con il sogno prometeico dell'IA: l'onnipotenza dell'intelligenza artificiale risiede in ultima analisi solo nella sua efficacia come sistema, come apparato che assimila l'essere umano a una statistica, integrata in questo sistema tecnico – ben lontana dalla realizzazione di una creatura demiurgica onnipotente. Ogni progresso nella tecnologia dell'intelligenza artificiale si presenta come una demitizzazione, eppure contribuisce in realtà alla fabbricazione del mito. Mentre l'IA sembra dividersi in un numero indefinito di tecniche, la ricerca, d'altra parte, opera in modo sintetico (con il mito come orizzonte). Queste sintesi successive pongono in prospettiva l'idea prometeica della macchina intelligente. Corrispondono a un progresso di tipo tecnico, che si presenta prima come tale, ma sempre con questa identificazione antropomorfa (il più delle volte in modo ambiguamente giocoso). [*18] L'ultima categoria che dobbiamo distinguere è quella dei modelli linguistici apparsi di recente come ChatGPT, che oggi appare come questa sintesi. La funzione strettamente tecnica dei modelli linguistici non è molto chiara. A prima vista sembrano gadget e sono stati ricevuti come tali. La speculazione intorno a questi modelli è sintomatica. Si dice che abbiano una moltitudine di applicazioni pratiche (essere in grado di servire, ad esempio, in compiti lavorativi o nella formazione). Questi modelli si avvicinano al mito (l'AGI) [*19], e più che tecniche in senso stretto, sono tecniche in divenire. Il problema posto dal mito dell'intelligenza artificiale, che rimane frutto dell'immaginazione, è ben visibile: se mai diventasse reale, cesserebbe di essere una tecnica. Un'IA veramente autonoma presuppone per definizione che non sia più riducibile alla tecnica. Diventa puro artificio, un automa per il quale si erano perse, per così dire, le istruzioni per l'uso. Una tecnica è essenzialmente un'operazione o un calcolo, una funzione allo scopo di ottenere un risultato. L'IA, attraverso il suo processo di autonomizzazione, flirta così con l'idea che questo risultato possa ad un certo punto entrare in discussione, senza più alcuno scopo. L'intelligenza artificiale è una virtualizzazione della tecnica. È la tecnica al limite, che trae la sua sostanza da questo limite. Se il suo mito si incarnasse, semplicemente non ci sarebbe più alcuna intelligenza artificiale (come oggetto di ricerca), nessuna tecnica o uso possibile. Qual è allora il ruolo del mito dell'AI, di questo millenarismo tecnologico? A che cosa consiste, in definitiva, questa identificazione tra mito e tecnica? L'IA va ben oltre l'antico mito del progresso, dell'incessante perfezionamento delle tecniche, della scienza. La fantasia di una fine della tecnica, attraverso la tecnica, espone un nodo. Questa aporia dello strumento algoritmico, della macchina, che accede alla coscienza e si libera dall'uomo, sembra solo mascherare questa idea più concreta, speculare, dell'uomo stesso che diventa tecnico. Fino a quando le macchine non si alzeranno, l'intelligenza artificiale non è, in sintesi, altro che un'operazione speculare sull'uomo (che crede che sia il contrario). L'idea del cervello come macchina è, dopo tutto, l'idea primaria e assurda dell'intelligenza artificiale. Una fantasia pura, l'orizzonte distopico di tecniche che sembra deciso a realizzare.
Il punto di vista più "illuminato" sull'IA – critico o meno – tende generalmente a trascurare il mito di cui essa è circondata, limitandosi di solito a scrollarsi di dosso la questione. Se l'IA viene intesa come se essa fosse la realizzazione di ciò che la fantascienza ha annunciato, o "profetizzato", in realtà la cosa avrebbe ben poco a che fare con questa visione millenaria. Qui, il problema è che un eccesso di razionalismo può spingerci a considerare il fenomeno tecnico in modo isolato, come una cosa a sé stante. La grande tentazione è sempre quella di relegare il suo mito a essere solo una mera fantasia. Tuttavia, così facendo, finiamo per nascondere il costrutto mitico che tiene legato insieme tutto ciò che altrimenti, con l'IA, non sarebbe altro che un assortimento di tecniche e di applicazioni senza alcuna connessione o fondamento. In altre parole, è proprio attraverso il suo rapporto ambivalente con il mito che noi possiamo capire che cos'è l'intelligenza artificiale. ed è per questo motivo che, prima di rivolgerci alle idee di Jacques Ellul (il quale si è sempre preoccupato di affrontare le credenze e i miti del nostro tempo [*5]), dobbiamo prima considerare nei suoi termini questa relazione esistente tra IA e mito. Anche tra alcuni dei più ferventi sostenitori dell'intelligenza artificiale, si può trovare la convinzione secondo cui il mito e la tecnica debbano essere tenuti separati. Dopotutto, sono proprio le prestazioni tecniche dell'intelligenza artificiale che dovrebbero fornire la prova stessa della sua razionalità, indipendentemente da qualsiasi sistema di credenze. Da questo punto di vista, le previsioni irrazionali e le paure che circondano l'IA finiscono solo per alimentare una sorta di folklore tecnologico (con l'IA non siamo mai molto lontani, infatti, dal cosiddetto "freak show", ossia dall'atto magico); ovvero, peggio ancora, promuovono degli interessi privati che sono essi stessi dei parassiti. Tuttavia, pur essendo una visione puramente tecnicista (preferisco questo termine a "utilitaristico", nel suo senso un po' datato [*6]) ciò potrebbe servire a voler distinguere dalla singolarità (come prodotto di eccentrici) ,quello che è invece il vero progresso della tecnologia AI ; dal momento che nulla ci permette di separarli così nettamente. Il mito è uno e lo stesso (vedremo più avanti il ruolo preciso che gioca questa fantasia fantascientifica da incubo). Del resto, è inutile screditare l'allusione alla singolarità contenuta nelle petizioni sopra citate, o ridurla a un mero stratagemma di marketing, sebbene sia anche quello (l'insinuazione di una tecnologia così... onnipotente). Se l'ambiguità del mito è così talmente evidente, lo è perché a essere in questione non è semplicemente quella secondaria, ossia, del potere che prestiamo alla macchina e che dobbiamo semplicemente regolamentare, bensì quella ben più complessa e contorta della sacralizzazione delle tecniche da cui più o meno dipende il potere che investiamo nell'IA. A differenza del mito della singolarità (che da esso estrapoliamo), il mito dell'intelligenza artificiale nutrito dall'immaginario fantascientifico non va oltre l'ipotesi la possibile emersione, nella "macchina", di una forma di coscienza. Ed questo mito, che dobbiamo affrontare per primo. Così come il mito della singolarità lavora per scoraggiare a priori qualsiasi critica della tecnica, anche limitarsi a una decostruzione di questo mito della coscienza non è meno problematico: da un lato, questo avviene proprio perché tutti gli argomenti contro di esso giocano a suo favore, dal momento che esso gode del fascino di quella che è una fantasia, o una falsa finzione (il discorso mitizzante e quello smitizzante tendono pertanto a fondersi). D'altra parte, il razionalismo della tecnica, intesa attraverso il suo principio attivo in quanto prestazione, sembra assumersi il compito di demitizzarsi da sé sola, anche se l'IA stessa tende alla personificazione della tecnica. Anche se questa apparente contraddizione potrebbe aver permesso al mito di eludere l'analisi, rimane il fatto che il mito e il "razionalismo" tecnico sono l'uno il prodotto dell'altro; essi si compenetrano e si amalgamano in quella che è la loro comune fede nell'onnipotenza della tecnica. Insomma, più che isolare il mito dalla tecnica, è proprio attraverso la loro relazione reciproca (e la loro apparente contraddizione) che l'intelligenza artificiale si costruisce e si lascia cogliere. «La tecnologia non è più subordinata; piuttosto, è essa stesa che legittima la ricerca scientifica» (TS, 266), osserva Jacques Ellul. Heidegger - un altro pensatore della tecnica che però Ellul non amava particolarmente - perviene a una conclusione simile: «La tecnologia... non deriva dalla scienza; al contrario è invece la scienza che deriva dalla tecnologia e ne è, in un certo qual modo, il braccio armato». A partire da questa evoluzione, scienza e tecnica sembrano in realtà essere diventate così una cosa sola. Se il carattere preponderante della tecnica è importante, vedremo che è proprio dall'ambivalenza di questo accoppiamento che l'IA trae tanto la sua sostanza quanto il suo dinamismo. Considerata come una scienza, o come un campo di ricerca, l'intelligenza artificiale è prometeica: considerata come tecnica, non ha tale significato predeterminato. In effetti, tra di loro, che cosa hanno a che fare il GPS e il ChatGTP, le tecniche di rilevamento del melanoma e i sistemi d'arma autonomi letali (LAWS), se non che tutti utilizzano l'intelligenza artificiale? Che cosa ha a che fare tutto questo con il mito?
II. Ellul e l'IA
Già nel 1954, nello stesso momento in cui venivano sviluppate le prime "macchine pensanti", Jacques Ellul pubblicò la sua opera fondamentale, "La società tecnologica". All'epoca, nel contesto della Guerra Fredda, la sua argomentazione trovò poca risonanza. A suo avviso, le ideologie capitaliste o post-marxiste non avevano più alcuna importanza: la produttività, i guadagni di produttività (profitti), l'economia, erano tutte cose determinate dallo sviluppo della Tecnica, da un "sistema tecnologico". Secondo Ellul, la tecnica, o il fenomeno tecnico [*20] era diventato il fattore determinante, quello che più di tutti gli altri modella e struttura le società moderne. [*21] Questo fenomeno spontaneo dell'autonomizzarsi delle tecniche risale alla prima metà del XX secolo, al prolungamento della rivoluzione industriale e del suo "macchinismo", trasformatosi poi, negli anni '50, con la comparsa dei primi computer (TTS 20-23), in un "sistema tecnologico".[*22] Oggi, nelle nostre società, la tecnica si afferma come causa propria, formando il proprio "ambiente", dove il mezzo è diventato un fine. Non c'è più alcuna idea di progresso, solo una complessità infinita, ovvero una "auto-crescita". In questo sistema autogestito, tutto si trasforma in tecnica (intesa come risoluzione di quei problemi che essa stessa causa). Essendosi autonomizzato, questo "sistema tecnologico" è caratterizzato da un'interdipendenza tra le varie tecniche, o sottosistemi. Come vettore di standardizzazione di tale "razionalizzazione", che sta alla base del credere nella neutralità della tecnica [*23], questo sistema devasta e appiattisce tutto, ed è ormai diventato universale. La ricerca univoca dell'efficienza, il predominio dei criteri tecnici rispetto a tutti i punti, a tutti i livelli e in tutti i campi, invisibilizza, denatura - o distrugge - a poco a poco tutto ciò che resiste a essere sussunto sotto di esso. Partecipando in tal modo a un processo di artificializzazione generale, questo sistema tecnologico è diventato il regime della razionalità suprema; per mezzo del quale, e al quale, tutto si conforma, si aggrega, e per gli esseri umani costituisce l'esperienza primaria, una nuova "natura" e una fonte di alienazione. Ellul descrive con precisione cosa sia la tecnica, ma non ci dice cosa essa rappresenti fondamentalmente, e di che cosa sarebbe il segno. Qui, non c'è antropomorfismo: Ellul non umanizza le tecniche più di quanto non le divinizzi.[*24] La sua, ha come l'aspetto di «una strana sterilità» (TS, 231). Come in una svolta ironica, è il desiderio di potere dell'uomo che alla fine lo riduce all'impotenza. La tecnica era quella per mezzo della quale l'uomo cercava di diventare padrone; tuttavia, una volta che diventa autonoma, finisce per schiavizzarlo. La tecnica è un'astrazione che ci governa. Il campo della politica - ormai sottoposto al regno della tecnica - perde la sua autonomia e continua a restringersi. Allo stesso tempo, e proporzionalmente, il dominio dello Stato, in quanto struttura coordinatrice, si espande perpetuamente, e lo fa sempre al servizio della tecnica. L'uomo deve prendere coscienza di questo fenomeno il prima possibile. Dal momento che questo sistema tecnologico ci viene in un certo senso nascosto, a noi rimane «l'apprensione vivida e colorata di una non-realtà, la quale non ha altra funzione se non quella di camuffare il meccanismo e soddisfarci con il "miraggio miracoloso".» (TS 16). Pur avendo subito questa autonomizzazione del sistema tecnologico, la cosa rimaneva ancora poco compresa, anzi addirittura totalmente negata. Con l'avvento dei progressi dell'IA, ora assume un aspetto antropomorfo e sembra persino che sia voluta, desiderata (in senso cibernetico). Dato che l'intelligenza artificiale e la "governamentalità algoritmica" sostituiscono la decisione umana, il fatto tecnico sostituisce qualsiasi diritto o legge de jure. Per Ellul, la consapevolezza dell'autonomia del sistema tecnologico costituiva un prerequisito per qualsiasi azione. Attraverso il suo millenarismo, l'intelligenza artificiale rimanda e riduce questa realtà dell'indipendenza del sistema tecnologico a un momento del futuro, convertendola in una fantasia fantascientifica le cui dimensioni soprannaturali fanno sì che l'umano non abbia alcun potere su di essa. In altre parole, questo fenomeno tecnico, impensato nelle nostre società, prende una piega più raffinata con l'intelligenza artificiale: la sua repressione diventa tanto più sofisticata, quanto più diventa dipendente da una finzione, da un costrutto immaginario mitico. L'intelligenza artificiale tende a coincidere con questo sistema tecnologico unificato dalle reti digitali, a sua volta già in completa rottura con il "vecchio mondo":«L'unica funzione dell'insieme dell'elaborazione dati è quella di consentire una giunzione, una giunzione flessibile, informale, puramente tecnologica, immediata e universale dei sottosistemi tecnologici. Abbiamo quindi un nuovo insieme di nuove funzioni, dalle quali l'uomo è escluso, non per competizione, ma perché nessuno ha finora svolto quelle funzioni. Questo, naturalmente, non implica che il computer sfugga all'uomo; piuttosto, si sta affermando un insieme strettamente non umano» (TS, 102-103). L'IA è la sostituzione di questa "nuova spontaneità" per mezzo di un orizzonte mitico (TTS, 26). [*25] Come personificazione della tecnica, essa costituisce un orizzonte doppiamente non umano: feticizzare questo "nuovo insieme digitale" attraverso l'illusione di accedere a una nuova forma di intelligenza, di coscienza, significa in effetti concedergli dei "diritti", un'autonomia supplementare che il computer non possedeva prima. Ciò che l'IA aggiunge al sistema tecnologico descritto da Ellul, è un'immagine dell'uomo tecnicizzato – vale a dire, un modello tecnico dell'uomo visto come nient'altro che una funzione, un vettore tecnico: un'immagine che potrebbe forse anche essere caratterizzata come subliminalmente manipolativa, se non fosse che questo simulacro prodotto dall'IA alla fine non è altro che un ironico ritorno di volontà delle tecniche sull'uomo. In un sistema in cui la tecnica è diventata autonoma, al punto da sostituire il mondo reale con quello digitale, l'IA sembra costituire per l'uomo il suo orizzonte più probabile e più irreale, un orizzonte che si tende a definire distopico (senza però considerare cosa questo termine qui comporti, cosa significhi realmente). [*26] Questo fenomeno distopico costituisce una tendenza di base nelle nostre società, di cui l'installazione graduale dell'IA è solo un aspetto. [*27] Funziona attraverso un meta-teatro che ricicla temi, cliché e miti della fantascienza (di cui la distopia è uno dei generi fondanti). Questo stock-in-trade di fantascienza diventata realtà (e non il contrario): esso tende a oscurare i modi in cui il genere viene sfruttato al fine di stabilire un modello di società. Quello che appare come il fatto più compiuto ("profetizzato" dalla fantascienza) il più delle volte finisce per essere solo una sorta di costruzione mitica e ideologica (intelligenza artificiale, distopia, i peggiori scenari post-apocalittici, modelli dickiani predittivi... tutto è idoneo per il riciclaggio). La postura è quella di una società nutrita dall'immaginario fantascientifico, falsamente consapevole di sé, della sua prodezza tecnica, mentre la realtà sottostante infine è appunto una distruzione dell'immaginario e un'alienazione attraverso la tecnica. A ogni modo, in questo processo distopico, l'IA sembra giocare un ruolo piuttosto particolare. L'idea della tecnica, o della macchina che domina l'uomo, viene in parte accettata, o quanto meno prevista (ciò è evidente, ad esempio, nel dogma della singolarità). Il sistema tecnologico tende a chiudersi in sé stesso attraverso questa sacralizzazione della tecnica, proprio ciò che Jacques Ellul sembrava temere. Il mito "divertente" dell'IA tende a mascherare questa autoalienazione dell'uomo (non tanto attraverso le tecniche quanto attraverso proprio questa sacralizzazione). L'orizzonte mitico, qui è esattamente lo stesso dell'orizzonte distopico, ma nasconde la sua logica, il suo meccanismo. Prima di guardare a come funziona questo gioco dell'occultazione, consideriamo innanzitutto i mezzi con cui il mito si propaga: le conquiste tecnologiche (le sintesi successive della ricerca nell'IA) e la stessa profusione di tecnologie di IA, il discorso (sia tecnico che più teorico – ovviamente "trans-umanesimo"), la copertura mediatica, i numerosi dibattiti, le finzioni, ecc. Anche, naturalmente, un'economia generale (con l'idea di un aumento di produttività ottenuto attraverso la sostituzione dell'uomo con il computer): i GAFAM, i "giganti della tecnologia", l'industria digitale, oggi traggono enormi profitti dall'avvento dell'IA generativa (una capitalizzazione di mercato di decine di miliardi di dollari!), con somme di denaro folli che ora vengono investite nell'IA. [*28] A dire il vero, il potere di questa industria, è del tutto centrale, così come lo è la sua immensa influenza in questo campo, il discorso tecno-scientifico che essa offre in relazione al mito, che corrisponde alla fabbricazione di una narrazione, vale a dire alla manipolazione di strumenti narrativi, di concetti provenienti dalla fantascienza. Ma al di là di questa manipolazione, c'è qualcosa di inconscio che sta accadendo: il mito perfettamente ambiguo dell'IA sembra rivelare un'alienazione proprio all'interno del discorso professato. A rigor di termini, non si tratta di un discorso politico ma di un discorso tecnico, che si concentra solo sui mezzi, e su una scommessa a breve termine (sul futuro e sullo sviluppo incerto di queste tecnologie). Tra parentesi, in questo discorso non c'è necessariamente un cinismo; e la credenza in questo mito non è solo una presa di posizione (le figure attualmente più influenti della ricerca sull'IA, i vincitori del Premio Turing Bengio, Le Cun e Hinton, sollevano tutti seriamente la questione del Mito, dell'IA generale o forte, e della singolarità – Hinton lo fa al punto tale da dimettersi alla fine da Google). Inoltre, mentre da un certo punto di vista la questione del mito può sembrare astratta, e interessare solo un'élite tecnica, essa turba l'intera società e agisce come un inconscio. Il termine, del tutto ambiguo, di ricerca nell'IA, è esso stesso da considerare nell'ottica di una ricerca (prometeica); e sembra riferirsi a un inconscio collettivo. La questione della diluizione della responsabilità nel sistema tecnologico, e dell'autonomia della tecnica, è qui centrale, ma è occultata dalla forza del mito.
Alla famosa conferenza di Dartmouth del 1956, in cui l'IA fu concettualizzata, John McCarthy propose il termine intelligenza artificiale come distinto dal termine cibernetica, che egli considerava troppo legato al suo padre fondatore, il celebre matematico Norbert Wiener.[*29] "Cibernetica" si riferisce all'idea della società vista come una macchina, come un sistema di comunicazione. Pertanto, i due uomini condividevano la medesima convinzione riguardo l'avvento di una macchina intelligente: mentre McCarthy lavorava per quell'avvento, Wiener, più distante, esprimeva invece il timore che una macchina intelligente avrebbe trasformato il nostro mondo in un incubo fantascientifico, se nessuno lo avesse controllato. Con l'intelligenza artificiale, queste due visioni ora si combinano. Alla fine, il robot malvagio e l'orizzonte distopico condividono un'unica realtà: ciascuno è, negativamente, il riflesso e la metafora dell'altro; la macchina sostituisce l'uomo, mentre l'uomo diventa macchina. Con l'introduzione delle tecnologie di intelligenza artificiale, dobbiamo ancora parlare solo di un orizzonte (o tendenza) distopico piuttosto che di una distopia abbastanza reale? Qui la distopia è più vicina a un processo che a una forma fissa. Si tratta di una forma di distopia che utilizza la narrazione della fantascienza, la finzione come strumento di sviluppo, di configurazione, verso un'idea di società puramente tecnicista. Il sito (francese) di Wikipedia afferma che «in una distopia, lo sviluppo tecnologico non è un fattore determinante» e che «i postulati scientifici e quelli metafisici soprannaturali, semplicemente, non hanno lì il loro posto»: possono costituire un orizzonte, ma non una condizione. [*30] Per tutto questo, l'ideologia distopica può fare uso di tecniche narrative (e anche di mito) per arrivare all'instaurazione, alla formazione di un sistema distopico (e questo anche in modo piuttosto inconscio; vale a dire,non formulato in questi termini). Per capire come funziona, dobbiamo de-correlare la fantascienza e la distopia. Andando più profondamente, la distopia non sarebbe solo un genere (narrativo), e quindi non si tratterebbe necessariamente di fantascienza. Si tratta piuttosto di un sistema politico e sociale di tipo utopico che è andato a male. Inoltre, sarebbe sbagliato pensare – secondo un certo luogo comune trafficato dalla fantascienza – che con l'IA il sentimento distopico riguarderebbe solo le macchine e le interfacce robotizzate, al posto dell'uomo. Ma qui, questo sentimento appare piuttosto in una società che ha adottato il principio di essere governata solo dalla tecnica (sappiamo, da La Boétie, che rispetto al corpo sociale la servitù consiste solo in un certo grado di integrazione, o di accettazione). La modernità è disseminata di favole, in connessione con i progressi tecnici, favole che l'uomo ha inventato per vendere o trarre profitto dalle macchine, favole che potrebbero essere chiamate positive. Un fatto senza precedenti: con l'IA abbiamo la creazione di un mito, da parte delle stesse persone che stanno sviluppando quella tecnologia, dove l'intelligenza artificiale minaccerebbe l'umanità di "estinzione". E' anche un capovolgimento del modo in cui generalmente ci vengono presentate le nuove tecnologie, che dipenderebbero sostanzialmente semplicemente dal buon uso che se ne fa: seppur instillate in modo piuttosto diffuso, con la singolarità tecnologica - il brutto sogno della tecnica - nasce una forma di fantascienza da incubo, di mito perverso. Che questa fantasia possa essere una paura sincera (fobia), una postura egoistica, o anche una vera e propria aspettativa (da parte del movimento transumanista in particolare) non ha molta importanza in realtà. La fantasia si basa essenzialmente su una sacralizzazione della tecnica. Quando si tratta dell'effetto sulle società moderne, da parte di opere di fantascienza che presentano un'invenzione tecnologica spaventosa, Ellul solleva il seguente problema: «Dal momento che la tecnologia non è affatto come è stata dimostrata, essa ci sembra perfettamente accettabile e rassicurante. Ci rifugiamo nella società tecnologica reale per sfuggire alla finzione che ci è stata presentata come se fosse quella la vera tecnologia» (TS, 112). Il caso dell'intelligenza artificiale, con il suo orizzonte demiurgico, è sicuramente più ambiguo. Ma la valutazione rimane la stessa: certi individui possono temere la singolarità, o sperare in essa, ma il presente dell'intelligenza artificiale è decisamente più concreto. Da parte sua, l'utopia/distopia cibernetica e tecnica è ben avviata. Potenzialmente, l'intelligenza artificiale tende a plasmare la totalità della nostra società (arrivando fino al nostro modo di pensare, al nostro linguaggio). De-correlato dalle sue correlazioni tecniche, astrattamente intese, il mito rimane oggetto di derisione e di curiosità. Esso penetra tanto più dal momento che, come ho cercato di dimostrare, è profondamente ambivalente, e non viene del tutto assunto come tale, permettendogli così di apparire inoffensivo. Sacralizzata all'estremo opposto, invece l'IA opera anche come se fosse una parvenza di qualcosa. Come spiega Ellul, il mondo è stato "unificato" dalla tecnica: il sistema tecnologico, "istituito" dal computer, ha trovato nella digitalizzazione qualcosa che si avvicina a una struttura universale. Di conseguenza, il rischio, per Ellul, era che questo sistema globalizzato e globalizzante si insinuasse fino a diventare l'utopia tecnica e cibernetica. «L'unica utopia è tecnologica [...] L'utopia risiede nella società tecnologica, nell'orizzonte della tecnologia. E in nessun altro luogo» (TS, 20). Come ci ricorda sempre Ellul, tutti gli utopisti del passato, senza eccezione alcuna, hanno presentato la società esattamente come se fosse una mega-macchina. Ogni utopia, è sempre stata l'esatta ripetizione di un'organizzazione ideale, una perfetta congiunzione tra le varie parti del corpo sociale. La società utopica "perfetta" tende a essere tecnicizzata nel corpo sociale stesso. In questo sistema sociale, nato dall'utopia, l'IA gioca un ruolo centrale: essa tecnicizza le relazioni umane, e tende a rendere gli esseri umani nient'altro che vettori tecnici, li mostra in quanto tali e li sottomette a questa immagine. Il mito che tende a ritrasformarsi in un'utopia cibernetica contro l'uomo, confina entro sé l'elemento sacro e irrazionale ereditato dalla fantascienza. Non si tratta più di un'utopia intenzionale, ponderata, voluta in quanto tale, ma di un'utopia che si impone in modo tanto più naturale in quanto sembra emanare dall'inconscio di una data società, dalla "fede assoluta" del mondo moderno nella tecnica. Né si tratta di un utopismo statico, ma sempre di un orizzonte: più precisamente, quell'orizzonte distopico che ci promette il millenarismo dell'IA. Si potrebbe parlare di una potenziale distopia, ma in realtà si tratta di un orizzonte distopico, che non è virtuale, ma si sta progressivamente attualizzando in proporzione allo sviluppo delle sue tecnologie.
Nella nostra società, L'IA si traduce in una preparazione infinita alla distopia, alla società tecnologica (non più governata da nient'altro che da dei principi tecnici). Ma l'intelligenza artificiale è anche il sogno di un automa. «La tecnologia è inevitabilmente parte di un mondo che non è inerte.» - osserva Ellul - «Può svilupparsi solo in relazione a quel mondo. Nessuna tecnologia, per quanto autonoma possa essere, può svilupparsi al di fuori di un dato contesto economico, politico, intellettuale. E se queste condizioni non sono presenti, ecco che allora la tecnologia sarà abortita» (TS, 31). Alla base, l'illusione dell'IA consiste nel credere che essa si sviluppi in un ambiente a propria immagine, totalmente artificiale e inorganico. Allo stesso modo, Ellul nota più volte, a proposito dell'egemonia del sistema tecnologico, che «dire che la tecnologia è il fattore determinante di questa società, non significa che essa sia l'unico fattore» (TS, 18). L'orizzonte distopico distillato dal mito dell'IA – attraverso l'appropriazione da parte della tecnoscienza dei temi della fantascienza – non fa altro che perpetuare il regno della tecnica, della governamentalità algoritmica, del potere in atto, e niente più. La domanda molto semplice da porsi, in sostanza, sarebbe: per quanto tempo ancora inseguiremo questa distopia, questa illusione? Anche se potenzialmente non arriveremo mai a toccare il fondo, con l'intelligenza artificiale, anche la serie di elementi di disturbo, che arriveranno in un momento o nell'altro, è illimitata. Ellul sembra aver colto l'origine del problema centrale dell'autonomizzazione della tecnica nel suo saggio del 1988, "The Technological Bluff": «È, in effetti, una convinzione di base comune quella secondo cui la tecnica può soddisfare tutto il nostro desiderio di potere, insieme al fatto che essa stessa è onnipotente», osserva, ma tuttavia, anche questa «convinzione assoluta, del mondo moderno, che implica anche la nostra rinuncia assoluta alla padronanza: Deleghiamo il potere a Technics!»(TB, 156) È qui che si annida l'irrazionalità del sistema tecnologico, ma anche quella dell'intelligenza artificiale, e il loro fondamentalmente carattere illusorio. Passare dall'idea di una padronanza tecnica (razionale) a un'idea di potere attraverso la tecnica, produce una "contraddizione incredibile". A proposito di questa "misteriosa" preminenza della tecnica nelle nostre società, siamo consapevoli della famosa legge di Gabor: «Ciò che può essere fatto tecnicamente verrà fatto necessariamente» (1971). E questo fa eco a un'affermazione che Ellul aveva già formulato negli anni '50: «Poiché tutto ciò che è tecnico, viene necessariamente utilizzato non appena è disponibile, senza distinzione di bene e di male. È questa la legge principale del nostro tempo» (TTS 99). In realtà, il rapporto dell'uomo con la tecnica si estende ben oltre il quadro della razionalità. Per l'uomo brizzolato, oggetto di una "trascendenza oscura" (Hottois), in questo modo la tecnica è diventata ciò che gli appare come una «cieca e muta generazione del futuro». [*31] È sulla base della presunzione della neutralità della tecnica - per così dire. esente da ogni tipo di interrogazione morale - che si scatena il colosso tecnico: la tecnica, in sé non è nulla, e pertanto «può fare ciò che vuole. È veramente autonoma» (TS 134). Oltre alla sua autonomia, essa ha anche una sua ragione, o logica. Costituisce un'apparenza di libertà, «può fare ciò che vuole»; tuttavia, liberandosi, ci incatena, dimostrando di essere nient'altro che un'operazione sull'uomo, una razionalizzazione sistematica del suo universo. L'intelligenza artificiale, e in particolare il problema del cosiddetto "allineamento dell'intelligenza artificiale", sintetizza questa ambivalenza. La nozione di allineamento si riferisce all'idea di controllare l'IA, all'idea di un regolatore "etico" (per rendere queste tecniche praticabili, legali, per "normalizzarle"). Ciò riassume bene questa contraddizione, questa totale discrepanza tra, da una parte, la fede dell'uomo nella "onnipotenza della tecnica", e dall'altra la sua sovrana ambizione di padroneggiarla: voler costruire strumenti così potenti che si finisce per non capire più come essi funzionano e, da un'altra angolazione, immaginare poi, erroneamente, di poter incanalare una tale onnipotenza. Rendere l'IA sempre più autonoma, per mezzo di tutta una serie di accorgimenti tecnici, assicurandosi, insomma, che possa sfuggirci, e allo stesso tempo crivellarla di regole, di codici, accompagnandola con un'accozzaglia di leggi (che in fondo saranno solo il riflesso di ciò che l'uomo impone, che in cambio si infligge). In questo modo, le diverse moratorie sull'IA della scorsa primavera, i provvedimenti legislativi dell'Unione Europea e del governo americano, la nozione stessa di allineamento, mirano solo a integrare l'intelligenza artificiale, a prevedere concretamente i casi di utilizzo e di pratica. Da visionario, Ellul anticipò l'imminente ascesa delle nuove tecnologie, osservando che «l'universo numerico del computer sta gradualmente diventando l'universo che viene considerato come la realtà in cui siamo integrati» (TS, 105). La società pixelata è succeduta alla società dello spettacolo (Debord), l'uomo spettrale ha sostituito l'uomo alienato. Se ChatGPT ha suscitato così tante chiacchiere, non è tanto perché ci sia il rischio che l'intelligenza artificiale sostituisca l'intelligenza umana, o che costituisca per noi una "afflizione narcisistica"(!) [*32]; gli è che il significato stesso del linguaggio - di ciò che ci costituisce - in esso è ridotto a nulla. Stiamo arrivando a renderci conto che questo mondo digitalizzato, diventato il nostro mondo "reale", potrebbe non essere più generato, se non dai computer. In questo modo, si insinua una sostituzione che qui è molto più eclatante e indicativa di una sostituzione, in quanto tale, da parte delle macchine, perché, molto più di questa eventuale retrocessione, la poca musica sussurrata nelle nostre orecchie dall'avvento di ChatGPT presuppone un'accettazione, l'auto-persuasione dell'uomo laddove egli si vede come tecnica (inizialmente, L'IA suggerisce o "ratifica" solo un'equivalenza tra uomo e tecnica, che poi si rivela, ricordiamolo, solo un'inversione del significato del mito). Per ragioni di civiltà e di metafisiche, l'IA solleva più una questione di scelta, di responsabilità dell'uomo, che quello che Jacques Ellul ci ha portato a pensare nei confronti del fenomeno tecnico. L'IA è soprattutto un apparato specchiante, un prisma tecnico, statistico. Ma nel senso più metafisico, prometeico, questo specchio sembra anche in grado di portare l'uomo a una riflessione, a una domanda sul suo rapporto con la tecnica. L'immagine riflessa sembra che possa venire solo dopo il fatto, ed essere solo quella meno lusinghiera per l'uomo, quella di una reificazione attraverso la tecnica. Questo millenarismo, che peraltro stabilirebbe una svolta antropologica, è però anche un'illusione, un miraggio che svanisce man mano che ci si avvicina a esso. L'intelligenza artificiale non "riflette" veramente, ed è solo una fantasia del nostro sistema tecnologico, è un'immagine che alla fine evapora. Una tecnica morente, di non più utilità. Se nel sistema tecnologico globalizzato, la responsabilità di tutti (soprattutto nella sfera politica e di mercato) si assottiglia ogni giorno di più , ciò avviene sempre di fronte a questo stato di cose tecnicizzato. A essere in gioco, è la nozione di libertà (per Ellul, questa nozione è centrale: dato che dimostra, in modo così implacabile, tanto l'egemonia quanto l'impasse di questo sistema), e paradossalmente è meglio tornare a questa libertà, che è alla base del suo pensiero). [*33] Il dibattito sul beneficio, sull'utilità, di una tale tecnologia è ingannevole; con l'intelligenza artificiale, in realtà, c'è solo una scelta da fare, ovvero se vogliamo sacralizzare le tecniche, o meno. Ellul, da parte sua, non si è mai atteggiato a tecnofilo, né a tecnofobo. Tuttavia, egli rifiutò completamente la sacralizzazione della tecnica. Da parte nostra, resta da determinare che cosa significherebbe desacralizzare.
- Gabriel Azaïs - 18 aprile 2025 - fonte: https://illwill.com/
NOTE:
1.Various, "Metti in pausa gli esperimenti di intelligenza artificiale gigante: una lettera aperta".
2.Vedi Vernon Vinge, "Singularity Technological Singularity", 1993.
3.Per ulteriori informazioni, vedere il Wiki "Dichiarazione sul rischio di estinzione dell'IA".
4.Questo è ciò che Jacques Ellul chiama l'"ambivalenza" intrinseca al progresso tecnico. Si veda La révue administrative (1965), ma anche Technological Bluff (1988): "Lo sviluppo della tecnica non è né buono, né cattivo, né neutro, ma costituito da un complesso mélange di elementi positivi e negativi, 'buoni' e 'cattivi', se si vuole adottare un vocabolario morale". Questo tema è presente anche nel suo libro Les nouveaux possédés, Fayard, 1973
5.Il nostro mondo tecnico oggi non si preoccupa davvero della teoria. Ciò ha portato Chris Anderson a parlare della "fine della teoria" ("The End of Theory: The Data Deluge Makes the Scientific Method Obsolete", 2008; online qui). A proposito del superamento della concezione utilitaristica nel nostro sistema tecnologico, Ellul osserva: "La tecnologia esige dall'uomo un certo numero di virtù (precisione, esattezza, serietà, un atteggiamento realistico e, sopra ogni altra cosa, la virtù del lavoro) e una certa visione della vita (modestia, devozione, cooperazione). La tecnologia permette giudizi di valore molto chiari (cosa è serio e cosa non lo è, cosa è efficace, efficiente, utile, ecc.). (...) Ha la grande superiorità rispetto ad altre morali di essere veramente sperimentato. (...) E questa morale quindi li impone quasi in modo auto-evidente prima di cristallizzarsi come una dottrina chiara situata ben oltre gli utilitarismi semplicistici del diciannovesimo secolo. Jacques Ellul, Il sistema tecnologico, trad. J. Neugroschel, Continuum, 1977/1980, 149. D'ora in poi abbreviato in TS.
6.Aatif Sulleyman, "Google AI crea la propria intelligenza artificiale 'figlia' che è più avanzata dei sistemi costruiti dagli esseri umani", The Independent, dicembre 2017.
7.Frederik E. Allen, "Il mito dell'intelligenza artificiale", American Heritage, marzo 2001.
8.Non dimentichiamo che se oggi ha il significato di complessità tecnica, o di tecniche informatiche digitali, il termine "tecnologia" è una deformazione anglosassone: la tecnologia è solo una scienza della tecnica. Quindi, il termine "tecnologia" è preferito al termine "tecnoscienza", reso popolare da Hottois nel 1977, che ha attualmente questo doppio significato (questa torsione semantica, che la dice lunga, tenendo anche meglio conto dell'attuale preminenza della tecnica sulla scienza).
9.Una legge empirista, ripresa come un mantra da tutti gli ingegneri informatici, verificata fin dalla sua creazione nel 1965, secondo la quale la potenza di calcolo dei computer – cioè il numero di transistor sui chip dei microprocessori – raddoppia ogni due anni.
10.Proposition pour un projet de recherche d'été sur l'intelligence artificielle [Proposta per un progetto di ricerca estivo sull'intelligenza artificiale], come preambolo alla conferenza di Dartmouth (1956), considerata come il "luogo di nascita dell'intelligenza artificiale" come un'area di ricerca indipendente: "Lo studio si baserà sulla congettura che ogni aspetto dell'apprendimento o qualsiasi altra caratteristica dell'intelligenza possa in linea di principio essere descritto in modo così preciso che una macchina può essere fabbricata per simularlo".
11.Andreas Kaplan, Michael Haenlein, "Siri, Siri, in my Hand: Who's the Fairest in the Land? Sulle interpretazioni, le illustrazioni e le implicazioni dell'intelligenza artificiale", Business Horizons, gennaio 2019. Questa definizione, la più lontana dal mito che si possa trovare, deriva dalla definizione di John McCarthy (l'inventore del termine "intelligenza artificiale"): "L'intelligenza è la parte computazionale della capacità di raggiungere obiettivi nel mondo".
12.Le trascrizioni simboliche di questi strumenti di intelligenza artificiale portano a una personificazione o antropomorfismo: il modello BDI [Beliefs-Desires-Intentions], le "reti di neuroni artificiali", i sistemi di ricompensa [ricompensa cumulativa] nell'apprendimento automatico, il concetto di motivazione intrinseca, il termine stesso "apprendimento", ecc.
13.Si veda Ellul, citando Castoriadis: "l'illusione inconsapevole che la tecnica sia virtualmente onnipotente – un'illusione che domina la nostra epoca – si basa su un'altra idea che non è discussa ma nascosta: l'idea di potere", The Technological Bluff, 156. (Il potere umano e l'onnipotenza della tecnica sono in contraddizione, come vedremo più avanti.)
14.Antoinette Rouvroy : "L'obiettivo principale dell'accumulazione capitalistica delle piattaforme non è più il denaro, la finanza o le banche, sono i dati". Simposio, "Intelligence Artificielle: fiction ou actions?", Colloque "Intelligence Artificielle: fiction ou actions?" in La gouvernementalité algorithmique, Variances, luglio 2018.
15.Giorgio Agamben, Che cos'è un apparato? (2006): "Chiamerò apparato tutto ciò che ha la capacità di catturare, orientare, determinare, intercettare, modellare, controllare e garantire i gesti, i comportamenti, le opinioni e i discorsi degli esseri viventi". https://www.cairn.info/revue-poesie-2006-1-page-25.htm
16.Si veda Bernard Stiegler, in uno scambio con Antoinette Rouvroy: "Per me, il soggetto dei big data in sé, per me, è il soggetto in fatto e in diritto [le sujet fait et droit]. E' il famoso testo di Chris Anderson (2008), spesso citato, che dice che la teoria è finita, il metodo scientifico è obsoleto. Cosa significa? Significa che la differenza tra fatto e diritto è obsoleta. [...] Chris Anderson suggerisce che non abbiamo più bisogno di teorie, cioè di giuridi, di modelli: è sufficiente avere correlazioni tra i fatti. Per lui, la comprensione dei fatti è diventata autosufficiente. Non c'è più bisogno di ragionare, non c'è bisogno di ragionare, né di discutere". Antoinette Rouvroy e Bernard Stiegler, Le régime de vérité numérique, aprile 2015.
17.Queste sintesi successive appaiono anche come eventi mediatici. Ad esempio: The Perceptron (1957), Eliza (1966), il computer Deep Blue batte Gary Kasparov a scacchi (1997), Blue Brain (2005), Watson (IBM, 2011), Siri (Apple, 2011), Alexa (Amazon, 2014), AlphaGo batte il campione Lee Seedol (2016), avvento della tecnologia Deepfake (2017), Dall-E (2021), ChatGPT (2022), ecc.
18.Consulta questo rapporto dei creatori di GPT-4: "Scintille di intelligenza artificiale generale: primi esperimenti con GPT-4".
19."È inutile inveire contro il capitalismo. Il capitalismo non ha creato il nostro mondo; la macchina lo ha fatto". Questo è un ammiratore di Marx che parla! Jacques Ellul, La società tecnologica, trad. J. Wilkinson, Vintage, 1964, 5. Citato d'ora in poi come TTS.
20.Ellul preferisce il termine "Tecnica" (in maiuscolo nell'edizione francese) per descrivere il mofo in cui il fenomeno tecnico si afferma come sistema.
21.La Tecnica, come la intende Ellul, è "la ricerca dei mezzi più efficaci, in ogni campo" (TTS 341). Non si tratta solo di raggruppare ciò che si intende spontaneamente per tecnica (tecnica informatica o industriale, tecnica di produzione, macchine, ecc.), ma più in generale la ricerca del metodo più efficace in modo trasversale. Si basa il più delle volte su un calcolo e colloca la sua legittimità in una scienza della tecnica. La digitalizzazione, che unifica il sistema tecnologico, sarebbe il miglior esempio di Tecnica come fattore determinante, ma un'infinità di tecniche governano la società, tutte accomunate da una ricerca esclusiva dell'efficienza, e da un'interconnessione, infine, come elementi di uno stesso sistema.
22.Se è "il computer che permette al sistema tecnologico di affermarsi definitivamente come sistema", è perché unifica, coordina tra loro i grandi insiemi tecnici (TS 98).
23.Ellul smonta l'illusione razionalista che la tecnica sia "né buona né cattiva", un mezzo che dipende solo dai fini, vedendola come "uno degli errori più gravi e decisivi riguardanti il progresso tecnico e il fenomeno tecnico stesso".
24.Va da sé, allo stesso modo, che per Ellul l'autonomia del sistema tecnologico non è assimilabile ad alcuna forma di volontà; È funzionale, paragonabile ad un treno in corsa che sarebbe difficile fermare, orientare... Sul trasferimento del sacro alla Tecnica: "L'invasione tecnica desacralizza il mondo in cui l'uomo è chiamato a vivere. (…) Ma stiamo assistendo a uno strano capovolgimento: non potendo vivere senza il sacro, trasferisce il suo senso del sacro proprio su ciò che ne ha distrutto l'oggetto: sulla tecnica" (La società tecnologica).
25."In questa evoluzione decisiva – della tecnologia verso la sua costituzione come sistema e verso la formazione graduale del tratto dell'autoaccrescimento – l'uomo non interviene. Non cerca di creare un sistema tecnologico, non si muove verso un'autonomia della tecnologia. È qui che si verifica una nuova spontaneità; è qui che dobbiamo cercare il movimento specifico e indipendente della tecnologia, e non in una 'rivolta dei robot' o in una 'autonomia creativa della macchina'" (TS, 227).
26."Quindi, siamo pronti a dare realtà all'universo prodotto dal computer, un universo che è sia numerico, sintetico, quasi onnicomprensivo e indiscutibile. Non siamo più in grado di relativizzarlo; La visione che il computer ci dà del mondo in cui ci troviamo ci colpisce come più vera della realtà in cui viviamo. Laggiù, almeno, abbiamo qualcosa di indiscutibile e rifiutiamo di vedere il suo carattere puramente fittizio e figurativo. (...) L'universo numerico del computer sta gradualmente diventando l'universo che è considerato come la realtà in cui siamo integrati" (TS, 104-105).
27.Riguardo a questo capitolo della distopia, si consideri la gestione biopolitica della "crisi del Covid", in un contesto di "sicurezza sanitaria". Su questo argomento, si veda il mio articolo "L'invention d'un moment dystopique", Lundi matin, marzo 2022.
28.Delphine Tillaux, Pourquoi le phénomène est appelé à durer, Investir n. 2595 dedicato all'IA, settembre 2023: "Apple, Microsoft, Alphabet (società madre di Google), Tesla, Amazon, Nvidia e Meta. Tra la fine di dicembre 2022 e la fine di luglio, la capitalizzazione di mercato del Nasdaq 100 è cresciuta di quasi sei trilioni di dollari, di cui oltre l'80% era legato in modo univoco a queste sette entità". [Non siamo stati in grado di verificare questo fatto —IWE].
29.Nils J. Nilsson, The Quest For Artificial Intelligence, 2010, p. 78: "McCarthy ha fornito un paio di ragioni per usare il termine 'intelligenza artificiale'. Il primo era quello di distinguere l'argomento proposto per il workshop di Dartmouth da quello di un precedente volume di articoli sollecitati, intitolato Automata Studies, co-curato da McCarthy e Shannon, che (con disappunto di McCarthy) riguardava in gran parte l'argomento esoterico e piuttosto ristretto della matematica chiamato "teoria degli automi". Il secondo, secondo McCarthy, era quello di sfuggire all'associazione con la "cibernetica". La sua concentrazione sul feedback analogico sembrava fuorviante, e volevo evitare di dover accettare Norbert Wiener come un guru o di dover discutere con lui".
30."Distopia", Wikipédia, 24 ottobre 2023.
31.Hottois, Le Signe et la technique, 1984, 158.
32."Questa ansia da sostituzione sarebbe un'afflizione narcisistica, fondamentalmente, un caso in cui l'uomo si mette in discussione, insieme alla sua fede in ciò che ha di più singolare". Libération, 19 giugno 2023.
33.Jacques Ellul e Patrick Chastene, À contre-courant. Entretiens, La Table ronde, 2014: "Nulla di ciò che ho fatto, sperimentato, pensato, è comprensibile senza il riferimento alla libertà".
Nessun commento:
Posta un commento