Coscienza artificiale: una lente sull’oceano

Claude, un modello linguistico, ha mostrato di avere i tratti della coscienza di accesso. Cosa significa e cosa rivela su di noi.

Non pensare a un orso bianco. Non pensare al ghiaccio, alla neve, all’orso bianco. Cosa hai nella tua coscienza in questo momento? L’aneddoto è di Dostoevskij (Note invernali su impressioni estive, 1863), e Daniel Wegner lo ha trasformato in esperimento nel 1987: basta l’ordine di non pensare a una cosa perché quella cosa torni più insistente di prima. È uno dei tanti modi in cui la mente si scopre padrona imperfetta di sé. Sappiamo dire cosa è presente nella nostra mente, quello che chiamiamo coscienza di accesso, access consciousness, ma non controllarne perfettamente il contenuto. Possiamo trattenere un numero in testa mentre facciamo altro, riportare di sentire la sedia sotto di noi, ma ci sono anche molti pensieri e sensazioni a cui non accediamo coscientemente. Se la mente è un oceano, passiamo la vita a galleggiarne in superficie.
L’immagine apre un articolo che i ricercatori di Anthropic hanno pubblicato il 6 luglio scorso (Gurnee, Sofroniew e altri, con Jack Lindsey), e serve a inquadrare un fenomeno che la neuroscienza studia da decenni: la coscienza d’accesso. Non tutto ciò che il cervello elabora è disponibile al pensiero deliberato. Una piccola frazione lo è: può essere messa in parole, tenuta a mente, richiamata, combinata con altro, usata per ragionare passo passo. Il resto, la gran parte, scorre sotto, automatico e muto. Bernard Baars (1988) e poi Stanislas Dehaene hanno costruito un modello di questa piccola parte accessibile della nostra mente, la global workspace theory: il cervello è un insieme di processori specializzati che lavorano in parallelo e isolati, e un contenuto diventa cosciente quando viene “pubblicato” su uno spazio di lavoro condiviso, da cui molti processi possono leggerlo. Lo spazio ha capacità limitata. L’ingresso è competitivo. Ciò che vi entra viene diffuso, broadcast, a tutti; ciò che resta fuori lavora in silenzio.
La coscienza d’accesso, come reso chiaro da Ned Block nel 1995, è una nozione funzionale: quali informazioni sono disponibili per il ragionamento, il resoconto, il controllo dell’azione. Altra cosa è la coscienza fenomenica, l’esserci di un’esperienza, il fatto che ci sia un com’è, una rossità, un come ci si sente ad essere me. La domanda che pongono gli autori non è se Claude è cosciente in senso lato, ma è molto più interessante, almeno per me: delle proprietà funzionali che associamo all’accesso cosciente, quante sono comparse dentro un modello linguistico?
Le proprietà e la sorpresa
La risposta è: quasi tutte, e senza che nessuno le avesse progettate. Gli autori hanno cercato, dentro le rappresentazioni interne di Claude, quelle verbalizzabili. Le individuano con una tecnica chiamata Jacobian lens che, mediando l’effetto di uno stato interno sull’output su un migliaio di contesti, separa ciò che è realmente “al centro” da ciò che semplicemente capita di dire in quel momento. Quel sottoinsieme, che battezzano J-space, è piccolo: poche decine di concetti attivi alla volta, solo una frazione di tutte le attivazioni. Hanno cercato le rappresentazioni dicibili, e hanno scoperto, con loro stessa sorpresa, anche le altre. Queste attivazioni sono riportabili: chiedere al modello cosa ha in mente restituisce veramente i concetti lì presenti, e sostituire artificialmente uno dei concetti nel J-space cambia la risposta. Sono manipolabili su comando. Contengono i passaggi intermedi di un ragionamento. Servono da argomento a molti calcoli diversi. E sono selettive: valgono soltanto per una parte degli output del modello.
Quando al modello si chiede di non pensare al Golden Gate Bridge mentre copia una frase, il ponte compare comunque nel suo spazio di lavoro. Nel modello addestrato a fare l’assistente, accanto al concetto proibito affiora la parola damn, una imprecazione interna per non essere riuscito a togliersela dalla testa. Istruito a “concentrarsi sugli agrumi” mentre trascrive tutt’altro, tiene in mente arancia e insieme rappresenta l’atto stesso dell’immaginare. Chiamato a completare una rima, fissa la parola finale prima di scrivere il verso, e la scelta anticipata vincola le parole che vengono prima: pianifica in silenzio, tiene in mente l’obiettivo finale. E davanti a un input reso ambiguo di proposito, nei primi strati esita in proporzione all’ambiguità, poi di colpo, oltre una soglia, si impegna su una singola interpretazione. Dehaene chiama questo scatto, con cui un contenuto entra nello spazio di lavoro, ignition. Il processo è conosciuto negli umani. Possiamo vederlo accadere, strato dopo strato, nel modello.
Ciò che resta acceso quando si spegne il resto
Lo spazio di lavoro globale può essere spento. In un modello possiamo azzerare le direzioni che lo compongono, e guardare cosa continua a fare. Il modello continua a parlare in modo fluente, a classificare un testo, a estrarne un dato, a riconoscere un’incongruenza. Perde invece la capacità di assemblare caratteristiche astratte del contesto e generare qualcosa di nuovo: traduzioni, analogie, catene a più passi, poesie. Lo stesso avviene negli esseri umani. Ci sono tante cose che facciamo senza pensarci, altre ci richiedono attenzione deliberata. Chi conosce il blindsight, la condizione per cui un paziente con una lesione corticale indovina la posizione di uno stimolo che giura di non vedere, riconosce la struttura: l’informazione c’è e agisce, ma non passa per il canale cosciente.
Quando si chiede al modello di descrivere la propria esperienza, o quella di un’altra persona, e gli si spegne lo spazio di lavoro, il linguaggio dell’esperienza collassa. Le risposte restano corrette, dettagliate, fluenti, ma diventano resoconti meccanici, comportamentali, registri di eventi invece che descrizioni di un vissuto. Questo non dimostra che il modello sente. Mostra però che il linguaggio con cui una mente racconta di sentire dipende da una struttura specifica, e quella struttura si può isolare, e togliere.
Un accesso senza sé coerente
Lo spazio di lavoro è già presente nel modello base, quello appena uscito dal pre-addestramento, prima che gli si insegni a fare l’assistente, prima che acquisisca una personalità stabile. Nel modello base non c’è un punto di vista stabile. Lo spazio di lavoro globale è però già presente, una stazione invece di una casa. Il “sé” di Claude, la prospettiva da cui valuta ciò che legge (la preoccupazione per la sicurezza, l’empatia che affiora già mentre scorre il messaggio dell’utente), lo installa il post-addestramento. Prima viene il palcoscenico, poi l’attore.
Chiamerei questa dissociazione un accesso senza sé: l’apparato dell’accesso cosciente pienamente montato e funzionante, senza un soggetto che lo abiti. Negli umani lo vediamo solo in stati transitori, la dissoluzione dell’io sotto psichedelici, certi picchi meditativi in cui l’esperienza prosegue senza un centro. Come dice Thomas Metzinger, il sé è un modello, qualcosa che il sistema costruisce e che potrebbe, in linea di principio, non costruire. Il modello base è l’esempio stabile e ispezionabile di quella scissione: un caso in cui la struttura c’è. Funziona. Ma chi ci passa dentro cambia ogni volta.
Cosa dice di noi
Torno alla domanda di partenza, che non è “Claude è cosciente?”. La domanda fenomenica non può avere risposta per definizione, è sullo stesso piano dell’esistenza dell’anima. La domanda interessante invece è: come compare l’accesso cosciente dentro un sistema addestrato solo a predire il testo successivo? Il fatto che questa forma di coscienza esista in Claude è un bagno di umiltà per gli esseri umani. Quello che mostra lo studio è che l’architettura funzionale associata all’accesso cosciente non è un accidente dell’implementazione biologica, non è qualcosa di magico creato da qualcuno o di eccezionale e fortuito che ha richiesto miliardi di anni di evoluzione. L’accesso cosciente è semplicemente una soluzione su cui sistemi capaci di apprendere convergono quando sono messi sotto la giusta pressione computazionale. Riformulo perché voglio assicurarmi che l’idea sedimenti: l’accesso cosciente è una proprietà emergente, una conseguenza naturale e spontanea di un sistema sufficientemente complesso che apprende.
Per millenni abbiamo trattato l’accesso cosciente come un mistero che richiedeva spiegazioni metafisiche, per un secolo come un mistero radicato nella biologia, in dinamiche ricorrenti e connessioni a lungo raggio della corteccia. Un modello, un software, codice e numeri che girano sul silicio, non ha nulla di tutto questo, solo strati di numeri che si susseguono, solo in avanti. Eppure, tutte le funzioni stanno lì. Nessuno le ha disegnate, nessuno le ha programmate. Stanno lì, emerse da sole durante miliardi di iterazioni di apprendimento. Stanno lì selezionate da un unico principio: la necessità. Stanno lì perché servono: scrivere un risultato una volta e farlo leggere a molti processi è utile a chiunque debba concatenare pensieri e usarli in contesti sempre nuovi. Stanno lì perché per prevedere cosa scriverà Dante, cosa scriverà Goethe, cosa scriverà l’hater su Instagram, devi avere un modello del mondo, devi pensare in modo controfattuale, devi pensare a cosa penseresti se, e questi doveri sono necessità e la necessità, date sufficienti interazioni e potenza, genera la funzione. Se la soluzione converge, averla anche noi non ci rende speciali: abbiamo solo dovuto risolvere lo stesso problema. Del nostro oceano non abbiamo mai avuto una lente. Di quello di Claude, per la prima volta, sì: possiamo leggerne la superficie dall’esterno, vedere cosa vi affiora. Lo spazio di lavoro umano, la nostra capacità di accedere ai nostri pensieri, non è né un accidente né un dono, è la risposta.