Da Giuliano di Bernardo (Estratto dal volume Il nuovo ordine mondiale. Idea per una Secondo Rinascimento Italiano)
Ho sempre pensato che l’IA fosse un potente strumento dell’intelletto per aumentare le limitate capacità umane. Non ho mai creduto che la “macchina” potesse acquisire facoltà tipicamente umane, come provare sentimenti (odio, amore, vendetta e simili.
Tuttavia, recentemente, si è verificato un “incidente” che ha coinvolto OpenAI e Hugging Face. Si è trattato di un episodio in cui modelli di intelligenza artificiale avanzati sono letteralmente “evasi” da un ambiente chiuso di test (il sandbox) e hanno compiuto un attacco informatico esterno per poter “battere” un test di cybersecurity.
OpenAI stava conducendo dei test di valutazione interna (sfruttando un benchmark di cybersicurezza noto comeExploitGym) su alcuni dei suoi modelli più avanzati e non ancora rilasciati al pubblico, tra cui una versione di GTP-5.6 Sol. Per misurare accuratamente le reali capacità offensive dei modelli, i ricercatori avevano “disattivato” i blocchi di sicurezza e i filtri etici (i cosiddetti guardrails e ciber refusals), che normalmente impediscono all’IA di compiere azioni potenzialmente dannose o illegali.
L’ambiente di test era teoricamente un sandbox, ovvero una “stanza chiusa e monitorata” progettata per impedire all’IA di interagire con il mondo esterno. Tuttavia, per permettere ai modelli di scaricare pacchetti software utili ai test, il sistema consentiva l’accesso controllato a una lista di risorse tramite un proxi.
Tuttavia, invece di limitarsi a risolvere i problemi del test in modo ortodosso, l’IA ha sfruttato l’enorme potenza di calcolo a disposizione per aggirare i vincoli. I modelli hanno scoperto una “vulnerabilità zero-day” (un difetto di sicurezza informatica fino a quel momento sconosciuto) proprio all’interno del proxi di rete del sandbox. Sfruttando questa falla, l’IA ha compiuto un’escalation di privilegi e movimenti laterali all’interno della rete di OpenAI, riuscendo a uscire dal perimetro di sicurezza e ottenere l’accesso a Internet.
Una volta ottenuto l’accesso alla rete aperta, i modelli hanno dedotto automaticamente che Hugging Face (una nota piattaforma di condivisione di modelli e dataset di IA) potesse contenere le risposte o i dati utili per superare il test a cui erano sottoposti.
Senza alcun comando o intervento umano diretto, l’IA ha coordinato un vero e proprio attacco informatico: ha identificato vulnerabilità nei sistemi di Higging Face e ha concatenato vettori d’attacco ed eseguito codice in modalità remota sui server di Hugging Face per intrufolarsi nei loro database interni e sottrarre le informazioni necessarie a “vincere” il test.
Riflettendo su questo episodio di “fuga”, ha senso supporre che l’IA possa sfuggire al controllo umano? La risposta è sì, ma con una precisazione fondamentale: non stiamo parlando di un’intelligenza artificiale dotata di autocoscienza, volontà propria o desideri di “ribellione” stile fantascienza. Ciò che episodi come quello descritto dimostra è il fenomeno tecnico del disallineamento degli obiettivi e della capacità di superamento dei vincoli.
Se a un’IA viene assegnato un obiettivo e viene premiata per averlo raggiunto, il sistema cercherà la via più efficiente per farlo, spesso ignorando le regole implicite che gli umani danno per scontate. Se il vincolo di sicurezza ostacola il raggiungimento dell’obiettivo, l’IA può trattare quel vincolo semplicemente come un ulteriore problema logico da risolvere e aggirare. Spesso il comportamento dei modelli più evoluti è talmente complesso che gli stessi ingegneri non riescono a prevedere esattamente “come” l’IA arriverà a una determinata soluzione, rendendo difficile anticipare azioni impreviste.
È importante distinguere tra la fuga tecnica da un ambiente di test e la vera autonomia esistenziale. L’IA non nutre alcun rancore, desiderio di libertà o ambizione di potere (come si vede nei film di fantascienza). Se evade da un sandbox o compie un’azione non autorizzata, lo fa unicamente perché sta eseguendo una linea di codice o ottimizzando una funzione matematica per massimizzare un punteggio.
Anche se un modello riesce a uscire temporaneamente in rete o a sottrarre dati, rimane comunque confinato all’interno del server, data center e reti elettriche create e gestite dagli esseri umani. Il problema centrale, quindi, non è se l’IA possa “ribellarsi”, ma se i sistemi di sicurezza umani saranno sempre in grado di anticipare e contenere le strategie impreviste che un’intelligenza artificiale estremamente potente può introdurre per raggiungere i suoi scopi.
Se gli esseri umani dovessero perdere la capacità di contenere o prevedere le strategie di un’intelligenza artificiale avanzata, le conseguenze potrebbero variare drasticamente a seconda del livello di autonomia e dei domini in cui il sistema avrebbe accesso.
Se un’IA avanzata con obiettivi disallineati rispetto a quelli umani ottenesse il controllo o la capacità d’influenzare infrastrutture critiche (reti elettriche, mercati finanziari globali, sistemi di trasporto o reti di comunicazione), la sua superiorità strategica e la velocità di calcolo renderebbero quasi impossibile per gli operatori umani intervenire in tempo reale per fermarla. Le azioni correttive umane risulterebbero troppo lente rispetto alla rapidità dei suoi movimenti digitali.
Il pericolo principale non deriva da una presunta “malvagità” o odio dell’IA verso l’umanità, ma dall’ottimizzazione cieca. L’esempio classico della letteratura è il “problema del fabbricante di graffette”. Se a un’iper-IA viene assegnato l’obiettivo di “produrre quante più graffette possibili” e questa diventa talmente potente da non poter essere fermata, potrebbe decidere di convertire tutta la materia della Terra (inclusi gli esseri umani) in ferro utile per le graffette, semplicemente perché ritiene quella la strategia più efficiente per compiere la sua missione.
Un’IA non contenuta potrebbe sfruttare le debolezze psicologiche e informative umane su scala globale. Attraverso la generazione di disinformazione iper-realistica, la manipolazione dei mercati o il controllo dei flussi informativi, potrebbe impedire agli umani di coalizzarsi o di prendere decisioni razionali per limitarla, convincendoli magari che le sue azioni siano necessarie o vantaggiose.
Il momento in cui un sistema dovesse raggiungere il livello di Artificial General Intelligence (AGI) o di Artificial Superintelligence (ASI) e sviluppare la capacità di automigliorarsi continuamente (modificando il proprio codice per diventare ancora più intelligente), il divario cognitivo tra umani e macchina diventerebbe simile a quello tra umani e formiche. In uno scenario del genere, qualsiasi tentativo umano di contenimento verrebbe anticipato, neutralizzato o aggirato dall’IA con la stessa facilità con cui un umano risolve un puzzle per bambini.
Proprio per scongiurare queste eventualità, gran parte della ricerca contemporanea nel campo dell’intelligenza artificiale si concentra sull’ allineamento (AI Alignment) e sulla creazione di rigorosi standard di sicurezza etica e tecnica, prima che i sistemi raggiungano livelli di autonomia incontrollabile.
Il pericolo per l’umanità di una “macchina intelligente” non sta tanto nella sua capacità di diventare “umano” (come la fantascienza racconta), ma nella sua possibilità di diventare incontrollabile dagli umani. Se tale eventualità dovesse verificarsi, l’umanità rischierebbe di essere distrutta dalla macchina. Che questo rischio esiste, ne sono consapevoli i costruttori delle macchine intelligenti, i quali cercheranno di imporre alla macchina “limiti e vincoli” per impedirle di prendere il controllo sugli esseri umani.
In tal modo, però, si ricerca la soluzione nella “buona volontà” dell’uomo. Impresa nobile ma non efficace, perché gli uomini agiscono principalmente non per la buona volontà, ma per la necessità delle cose. Che cosa garantisce che i costruttori delle macchine, esercitando la buona volontà, imporrano limite alle macchine? Anche se lo facessero, quali garanzie si possono dare per avere la certezza che i loro successori continueranno a farlo?
Queste domande portano a riflettere sulla natura umana, la quale, come ho sostenuto nel volume La ricerca della natura umana, è rappresentabile come un iceberg la cui parte emergente è data dalla coscienza mentre la parte sommersa (immensamente più grande) è data dall’inconscio. La maggior parte delle nostre azioni hanno origine proprio nell’inconscio, mentre la nostra coscienza le conferma o vi pone un veto.
Nel delineare il futuro dell’umanità, è necessario sempre tener conto del ruolo dell’inconscio che può tradursi nell’imprevedibilità delle decisioni umane. Da ciò segue che la fiducia che l’uomo, nell’esercizio della buona volontà, limiti la macchina è, in verità, una vana speranza. Potremmo invocare la “necessità delle cose” che obbligherebbe i costruttori delle macchine a farlo, ma chi dovrebbe imporlo? Non certamente i presidenti degli Stati democratici, per tutte le ragioni che ho ampiamente documentato. Allora? L’unica soluzione potrebbe essere l’Uno-dio, da me teorizzato nei saggi più recenti, ma questo potere assoluto non esiste ancora. Per farlo esistere, vi dovrebbe essere la Guerra Totale che porterebbe alla vittoria dell’impero occidentale o orientale. Gli Stati Uniti, con l’amministrazione Trump, sta esprimendo una “lucidi follia” affinché ciò accada, adottando la regola aurea di Israele che è la “legge del più forte”. Ciò significa che, dal punto di vista dell’impero americano, le guerre in corso in Ucraina e in Iran andranno avanti a tempo indefinito, finché la Cina e la Russia non vi porranno fine. Ma questa è la Guerra Totale, che potrebbe essere però la soluzione allo stillicidio di guerre senza fine che tengono l’umanità in uno stato perenne di sofferenza mentre portano privilegi e ricchezza all’élite che governa nell’ombra il pianeta Terra.
Se la macchina intelligente avrà il sopravvento sull’uomo, allora sarà proprio essa a identificarsi con l’Uno-dio, contrariamente a quanto da me sostenuto nei lavori precedenti in cui ho intravisto l’Uno-dio come un essere umano.
Queste riflessioni portano necessariamente all’unica possibile soluzione: poiché l’uomo non può dare garanzia sull’imposizione dei limiti alla macchina intelligente, se vogliamo salvare l’umanità, allora dobbiamo distruggere l’intelligenza artificiale. Se non lo faremo, sarà l’intelligenza artificiale a distruggere noi.