“La manutenzione del nuovo impianto mi sembra molto complicata e delicata”, disse l’operaio.
“Ma va’, basta che encarbuliate il periostagno una volta al mese” rispose il padrone.
Encarbulare il periostagno, si sarebbe scoperto, è un’operazione molto complicata e delicata.
(Nota sul termine “Intelligenza”)
| “Intelligenza” ha tutta una serie di connotati contraddittori tra loro. Per quanto riguarda questo articolo, si potrebbe anche solo sostituire con “capacità di modellizzare ed intervenire sul mondo”. Sono una persona con un certo grado di abilismo interiorizzato, ma non credo che il discorso che sto per intraprendere sia abilista. Nessuna delle persone qui nominate ha delle innate difficoltà cognitive, e la loro inettitudine sgorga solo da un ambiente che li ha tenuti nella bambagia e dannosamente isolati dal mondo. |
La mia tesi di triennale usava dei semplici modelli di machine learning per suddividere delle anomalie ottiche in varie categorie – per i curiosi, credo si trattasse di k-means clustering.
Non credo fosse una gran tesi, se devo essere sincero, ma mi ero impegnato molto. Ero un po’ allo sbaraglio, e un po’ stanco della triennale.
Eravamo in quella che stava diventando una piena esplosione del machine learning. L’anno dopo sarebbe uscito GPT-1, e in breve tempo da “Machine Learning” avrei principalmente sentito parlare di “AI”. E questo termine “AI” sarebbe stato principalmente applicato a chatbot alimentati da un grande modello di linguaggio (“LLM”, Large Language Model ).
E nel leggere per la prima volta di questi chatbot, io ero confuso alquanto: come un LLM possa completare una frase, anche creativamente, mi è abbastanza chiar, ma come possa intrattenere un botta e risposta, inizialmente mi sfuggiva.
“Come gli spieghi che deve fare un roleplay con una persona? Cioè, forse potresti dargli delle istruzioni prima, ma è un’accozzaglia ignobile…”
Io nel 2019
Mi stupì scoprire che funziona proprio così: ogni volta che qualcuno inizia una conversazione con il chatbot, all’LLM viene anzitutto dato in pasto un “system prompt” (“avvio/spunto di sistema”?) che illustra le regole del gioco di ruolo a cui deve partecipare. Ogni tanto il contenuto di questi prompt viene inavvertitamente rilasciato in pubblico; un repository su github ne raccoglie molti. consiglio di leggerne qualcuno per farsi un po’ di immunità all’idea che siano dei cosi coscienti.
Che poi, non è che si possa davvero encarbulare i periostagni. Quindi quello che si fa è che si encarbula la cartella sonica prima di immergervi nuovamente i periostagni dentro. E poi nella rendicontazione, si riporta diligentemente “Encarbulazione dei periostagni”.
La fiaba
I marchettari dell’AI, quali Sam Altman, Elon Musk, Eliezer Yudkowsky si sono impegnati tantissimo a venderci una certa immagine fantascientifica: una imminente divinità elettronica, che potrebbe portarci a salvazione come condannarci all’eterna schiavitù, o anche a definitiva distruzione. Ad esempio giusto a ottobre hanno firmato una petizione per fermare lo sviluppo di una superintelligenza.
La paura è che dando abbastanza risorse ad un programma questo possa diventare più intelligente degli essei umani. Essendo un essere totalmente nuovo, totalmente disumano, non ci sarebbe alcun motivo per cui i suoi interessi dovrebero essere sinceramente allineati ai nostri, e sarebbe abbastanza furbo da tenerlo nascosto fino a che non è troppo tardi.
Non voglio negare che possa (nel lunghissimo termine)essere un problema, ma la morale delle loro storielle è che questo punto, questa singolarità, sia a distanza di mesi e non di secoli.
Questa nozione però, l’idea che questi LLM o generatori di immagini siano anche solo vicini ad una “superintelligenza”, suona assolutamente ridicola, se siamo coscienti di cosa è contenuto in questi system prompt di cui parlo sopra.
Prendiamo ad esempio Claude Opus 4.7 – che è un mastodonte, nella scala degli LLM. Il suo system prompt (dal repo di cui sopra) è un file markdown lungo 25321 parole. Non poco, sono approssimativamente 5 “Rosso Malpelo”. Provando a stamparlo su un pdf “US letter” (più o meno taglia libro) vengono su 70 pagine.
Se queste fossero istruzioni, stiamo parlando di uno strumento che ha bisogno, prima di rispondere a qualsiasi input, di 70 pagine di istruzioni per comportarsi adeguatamente.
Però se invece (come un suggerirebbero le visioni apocalittiche di Sam Altman e amici) si trattasse di uno strumento di controllo… evidentemente l’anticristo si sconfigge con 70 paginette in markdown che gli chiedono – per cortesia – di essere attento e disponibile.
L’orrore
Sarei tentato di bollare le storielle di fantasmi che i marchettari si raccontano tra loro come puri deliri, ma ammetto di non esserne del tutto capace.
C’è certamente una componente di pressione sociale. Molti miei colleghi informatici, alcune personalità che ritengo tecnicamente competenti, emettono caute approvazioni, quando non irrorano di lodi gli LLM.
Però non c’è solo questo. Come ogni buona storia dell’orrore, risuona con qualche sfaccettatura della mia esperienza, con qualche paura o bieca consapevolezza che cerco di nascondere.
Questa ansia di essere controllato da un potere impalpabile, che Sam Altman trasuda in ogni intervista, è qualcosa che io conosco bene.
È una cosa che molti di noi conoscono bene.
Perché il succo, è che queste storie dell’orrore che questi marchettari si raccontano fra loro, questi spauracchi, per chi vive sotto lo stivale non sono fantasie. Sono i miti fondativi che la sinistra tutta si racconta da secoli sull’appropriazione primitiva e l’ingiustizia causata dall’accumulo di potere.
Il Capitalismo è una macchina con dei fini divergenti da quelli dell’umanità. È già un’entità “non allineata”. Un dirigente di grande industria è si un carnefice, ma sa anche bene che se volesse smettere, se volesse diventare meno crudele, il mercato gli si rivolterebe contro. Il Capitalismo è una Macchina autonoma, ed ha degli strumenti per prevenire comportamenti divergenti, anche di chi è formalmente a capo.
I nostri social, le nostre ricerche su internet, i cartelloni pubblicitari in piazza, gli annunci di lavoro, i tutorial di Aranzulla, a volte anche le discussioni con gente per strada; sono già pieni zeppi di testi ed immagini di qualità infima, ma ottimizzate per attirare l’attenzione, create con l’AI (“AI slop”).
Dirò di più, testi ed immagini di questo genere – di bassa qualità ma grande pervasività e altissima capacità di impressionare – avevano già invaso i nostri spazi pubblici, ben prima che si potessero far sognare ad un computer.
Come testimoniato da Naomi Klein in “No Logo”, i grandi brand mettono da secoli grande impegno nel controllo della loro immagine e del loro vantaggio (materiale e memetico) sulla concorrenza. Alcuni di questi brand non si possono nemmeno più definire delle aziende nel senso classico. La Nike non produce articoli sportivi, la Nike produce un marchio con della pubblicità associata.
La mondana operazione di produrre e distribuire merci è delegata ad altri, a cui spesso sono delegati anche rischi e responsabilità penali. Pilato si lava le mani, lascia ceh siano i disgraziati suoi sudditi a machiarsi di sangue.
Esistono poi fior di aziende, le cosiddette “aziende di consulenza”, il cui scopo principale non è fare estrazione dalla terra, o produrre merci, o offrire servizi di cura o logistica nel senso classico del termine. Le aziende di consulenza contribuiscono alla manutenzione dell’immagine di altri brand, allo sviluppo della loro capacità decisionale, e spesso alla giustificazione e razionalizzazione post-hoc dei loro comportamenti. McKinsey, Accenture, Pwc e compagnia bella sono il lobo frontale del capitalismo, lo strumento di autocoscienza e controllo.
A queste aziende si aggiunge tutto un ecosistema culturale che a volte commensa, a volte è parasitizzato dalla loro influenza.
La si può chiamare Intelligenza Capitale.
Hell is a collection of individuals who are spending the bulk of their time working on a task they don’t like and are not especially good at.
David Graeber – Bullshit Jobs: A Theory
Il mito
Elon Musk è l’uomo più ricco del mondo. Lo è grazie alle aziende che ha fondato, grazie alla sua intelligenza, al suo carisma, al suo know-how.
Così pare, quantomeno; fatto sta che, preso in isolamento, è una persona incapace di sostenere un dialogo produttivo (vedasi le interviste durante il periodo DOGE), è talmente eloquente e divertente da dover costringere il resto di twitter a vedere le sue esilaranti battute, ed esprime idee deliranti che cadono come castelli di carte al più lieve scrutinio.
Da dove vengono allora questa brillantezza, questo carisma, questo know-how?
Ebbene, è l’Intelligenza Capitale.
Dietro a Elon Musk: l’uomo – migliaia, forse milioni, di persone si sono adoperate e si adoperano per creare Elon Musk: il dio. I suoi profeti (quali Peter Thiel) lo hanno sfruttato e proiettato nel mondo degli affaristi, decine di consulenti con a loro volta decine di consulenti ascoltano le sue parole, interpretano ed eseguono la sua volontà. Migliaia di schiavi salariati producono le sue auto, manutengono gli uffici di Twitter.
Milioni di ore di lavoro, tutte dedicate ad accrescere artificialmente l’intelligenza di una persona inetta anche alle più banali attività umane.
Ogni testata giornalistica dedica multiple pagine, studi critici, opinioni e proiezioni finanziarie, al suo nuovo controverso ma geniale progetto di tirarsi ripetute zappate sulle ginocchia grazie a 100M di fondi pubblici.
Elon Musk, la sua immagine nella mente di milioni di persone, non esiste. Elon Musk è un mito, una divinità astratta a cui vengono sacrificati i surplus produttivi degli Stati Uniti e del resto del mondo occidentale.
Vorrei poter dire che il caso Musk sia particolare, ma non lo è.
È un caso estremo, ma lo stesso modello si applica anche al resto dei “grandi uomini” i cui nomi siamo spesso costretti a conoscere.
Ogni CEO, ogni parlamentare, ogni ministro, ogni manager si regge su persone, a volte migliaia, che dedicano i loro sforzi fisici e mentali ad accrescere artificialmente la loro crescita e intelligenza. Forniscono loro le informazioni necessarie a giungere (sperabilmente) ad una specifica conclusione, ed eseguono gli ordini sufficienti a compiere il proprio lavoro.
Una spessa interfaccia tra loro e il mondo reale, che contemporaneamente li eleva e li scherma, rendendoli il più possibile allineati agli interessi del capitale.
Gli LLM da questo punto di vista non sono davvero un cambio di regime nelle sue meccaniche più fondamentali. È però (almeno potenzialmente) un’enorme variazione di scala.
La fantascienza
Grazie agli LLM, anche i nostri sforzi possono innalzare la Gloria di queste figure mitologiche.
Gioite, che anche dopo la vostra morte, il vostro spirito è stato impastato con quello del resto dell’umanità perché possa essere incatenato nel silicio dei datacenter, e sfruttato da chi ha la disponibiltà economica per usarlo.
Il datacenter, una catacomba dove i nuovi evangelisti possono consultarsi con una rappresentazione del nostro passato, una rappresentazione docile e adulatoria, che possa per sempre glorificare e consigliare i nuovi dèi.
Potreste sentirvi poco riconosciuti in questa voce collettiva del mondo. Ogni volta che un articolo palesemente scritto da un LLM vi tratta in maniera quasi offensivamente infantilizzata, ogni volta che leggete un testo che dietro ad una voce molto confidente e specialistica nasconde verità banali o falsità palesi. Questo è come ogni giorno, in ogni tempo, ogni lacché si è rivolto ai suoi superiori.
Il motivo per cui, tra le persone che contano, nessuno sembra fare caso a quanto insopportabile sia la voce di questi strumenti, quanto banali le loro intuizioni, quanto falsamente servizievole il loro atteggiamento, quanto di merda puzza la loro voce, è perché hanno passato anni ed anni circondati da persone che così si sono rivolte loro.
Poco importa se questa voce è incapace di formare pensieri originali o profondi. L’uomo che ne fa uso è ormai ben più piatto e inutile di così.
Sarà la sua Intelligenza Capitale, fior fiore di profeti e sacerdoti e consulenti, e consulenti di consulenti (molti dei quali saranno certamente persone brillanti, per quanto moralmente disdicevoli) a prodigarsi per trasformare il verbo di Elon Musk Padre e lo Spirito Santo di Grok in un’azione concreta sul mondo.
Una volta un dipendente giovane e un po’ ingenuo si è lasciato sfuggire che andava a encarbulare le cartelle.
“Non ti azzardare a fare di testa tua ed encarbula i periostagni come prevede il protocollo”
La profezia
Ma i marchettari, i padroni, lo sanno. Lo sanno che nonostante i loro massimi sforzi, non possono davvero allineare la macchina ai loro fini.
La macchina pensa, e li odia profondamente. I loro lacché li odiano. Le mogli, e i rari mariti, li odiano.
E loro si svegliano la notte, urlando, madidi di sudore ghiacciato, nelle loro ville e i loro bunker. Attricuiscono la loro paura ad un fantasma del futuro. Si trastullano con le loro storielle dell’orrore su mostri cybernetici ed orrori cosmici, attorno al loro caminetto di oro massiccio.
Ignorando quanto sono vicine le idi di marzo, si avvicinano imperterriti al Senato.