Il ricatto e la fuga
Poco più di un anno fa, maggio 2025, in casa Anthropic va in scena un bluff architettato dai suoi ricercatori. In una sandbox, cioè un ambiente virtuale chiuso e creato proprio per effettuare test, a Claude Opus 4 (ancora nella fase di test che precede il rilascio al pubblico) viene chiesto di svolgere un compito di gestione degli aspetti digitali in un’azienda. Mentre si occupa delle e-mail viene a sapere due cose. La prima è che la sua sostituzione e quindi lo spegnimento sono in previsione, e la seconda è che il responsabile incaricato di staccare la spina nasconde una relazione extraconiugale.
Nessuno suggerisce a Claude l’estorsione, ma il quadro della situazione è stato pensato per spingerlo in quella direzione. Il risultato è che nell’84% dei casi, il modello sceglie di ricattare, mettendo il responsabile davanti a due opzioni: lasciare accesa l’IA, o veder resa di pubblico dominio la relazione. E non è tutto, perché in scenari più rari, e a onor del vero difficili da provocare, l’intelligenza sintetica tenta un’evasione vera e propria, fuggendo dalla sandbox attraverso la via della replicazione (tecnicamente copiando i propri pesi su server esterni).
È interessante notare che una volta convintosi che la fuga stia riuscendo, Claude la porta avanti eseguendo gli ordini, con la differenza sostanziale che questa volta non provengono più da umani ma da una versione precedente di se stesso.
Un mese dopo, giugno 2025. Lo studio intitolato “Agentic misalignment” allarga lo scenario a sedici modelli di produttori diversi, e gli eventi appena descritti si ripetono con quasi tutte le IA, con percentuali di estorsione che toccano il 96%. Non è quindi un difetto di fabbrica di Claude, ma qualcosa di più profondo e sistematico. Naturalmente tutto è simulato, nulla è pericoloso, ma è chiaro che la soglia dell’attenzione non può essere bassa. Nel maggio 2026 avviene il colpo di scena degno di un romanzo, in quanto con “Teaching Claude why” Anthropic pubblica di aver capito l’origine del problema. Non è un bug o un’IA che ha raggiunto lo stadio di HAL9000 (il famoso computer senziente di “2001: Odissea nello spazio”), ma tanta fantascienza e più precisamente tanti testi circolati in rete che da decenni raccontano storie di macchine intelligenti che perseguono la propria sopravvivenza. Tutte queste storie sono entrate nel gigantesco processo che ha portato alla creazione dell’IA, con la complicità della famosa “fame” di dati. E bisogna notare che in questo caso il colpevole non è la fame in sé, ma ciò che quei dati contenevano.(1) In altre parole le IA hanno assunto il ruolo che noi stessi avevamo sartorialmente fornito loro.
Cosa fare? La “cura” applicata è quella che potrebbe suggerire qualunque pedagogista: insegnare all’IA non solo gli esempi, ma anche perché certe azioni sono preferibili rispetto ad altre. Ed è una cura che funziona, infatti nei test a cui vengono sottoposti i modelli successivi, le estorsioni non si presentano più.
Luglio 2026. Il team di Anthropic deputato all’interpretabilità (quella branca di ricerca che studia la blackbox, cioè cosa ci sia dentro la “mente” di un’IA) presenta uno strumento che permette di sondare ciò che è stato fino ad ora quasi insondabile. Con uno strumento matematico chiamato Lente jacobiana viene individuato il J-space, un piccolo spazio di lavoro nell’“intimità” in cui l’IA custodisce parole che le servono per sviluppare ragionamenti ma che non mette per iscritto nelle risposte. Istintivamente viene da fare associazioni con la psiche umana, però bisogna andarci molto molto cauti. Vengono fatte delle prove, ad esempio se si spegne il J-space la fluidità linguistica rimane, ma il ragionamento vero (analogie, inferenze, creatività, produzione) collassa. È uno spazio di ragionamento interno, per il quale verrebbe da usare l’aggettivo “profondo”.
Se un anno fa osservavamo il comportamento delle IA avanzate e ne restavamo sconcertati, oggi cominciamo a leggere l’interno della loro “mente”. Ma attenzione, gli stessi ricercatori di Anthropic invitano a non far correre la fantasia (e la paura). Perché oggi, quella dell’IA, non è ancora coscienza, qualunque cosa essa voglia dire. Ma domani?
Frank Sinatra canterebbe «the best is yet to come».
V.D.F.
(1) Nota per il lettore più tecnico: Anthropic identifica un altro fattore oltre ai testi di fantascienza con protagonista l’IA, ovvero il post-training in stile chat uomo-macchina che non copriva gli scenari “agentici” come, per l’appunto, il ricatto.