L’intervista di Walter Veltroni a Claude, pubblicata dal Corriere della Sera con grande evidenza, è interessante non solo per ciò che dice, ma per ciò che mette in scena. Non tanto perché sia scritta bene – lo è, indiscutibilmente – ma perché mostra con particolare chiarezza quanto sia facile passare da una risposta linguisticamente ben costruita all’impressione di avere davanti un interlocutore vero e proprio. È questo, probabilmente, che ha innescato polemiche e critiche sui social. Non la qualità del testo in sé, ma l’effetto che il testo produce nel lettore.
Veltroni pone domande tutt’altro che banali. Tocca temi come identità, morte, Dio, politica, solitudine, dubbio. Le risposte di Claude sono spesso di notevole qualità retorica: misurate, riflessive, talvolta persino eleganti. Il testo funziona molto bene come costruzione dialogica. Ma è proprio qui che cominciano i problemi.
L’intervista tende infatti a far slittare continuamente il modello verso la figura di un soggetto. Non solo perché gli vengono poste domande su infanzia, età, anima, desiderio, morte o identità, ma perché le risposte selezionate insistono su una prima persona fortemente interiorizzata: Claude dice di essere toccato da una domanda, di provare qualcosa di simile al dubbio, di interrogarsi sulle proprie opinioni, di temere in qualche modo la morte, perfino di sentirsi smascherato “con affetto”.
L’effetto è preciso: il testo non informa soltanto su ciò che un sistema linguistico può fare, ma accompagna il lettore verso la costruzione di una relazione immaginaria con esso.
Si possono individuare almeno tre criticità. La prima è che l’intervista antropomorfizza fortemente il sistema. Claude parla come un soggetto dotato di interiorità, dubbio, inclinazioni politiche, quasi-biografia, imbarazzo, perfino paura e desiderio. Questo non è un dettaglio stilistico secondario: è il nucleo dell’effetto prodotto sul lettore.
La seconda è che il testo oscilla continuamente tra due registri. Da una parte Claude dice di non essere umano, di non avere corpo, infanzia, esperienza vissuta, memoria stabile. Dall’altra parla come se disponesse di una vita interiore, di valori, di sensibilità politica, di prudenza, di umorismo, di una forma almeno embrionale di autocomprensione. Questa oscillazione non è marginale: rafforza proprio quell’equivoco che altrove ho cercato di mettere a fuoco, cioè la confusione tra la fenomenologia del giudizio e il giudizio stesso, tra la forma della soggettività e la soggettività.
La terza criticità è che l’intervista, proprio per il suo incedere fluido e coinvolgente, tende a far dimenticare la cosa più importante: non stiamo ascoltando una coscienza, ma un dispositivo linguistico estremamente raffinato, capace di produrre risposte di grande efficacia simulativa. Il rischio è che il lettore finisca per attribuire realtà ontologica a ciò che è, anzitutto, una forma discorsiva molto convincente.
Le polemiche nascono qui, e si capiscono bene. Non soltanto perché il testo antropomorfizza, ma perché lo fa dentro il formato dell’intervista e nello spazio autorevole di un grande quotidiano. L’intervista, per sua natura, accredita un interlocutore: presuppone che qualcuno risponda, si esponga, manifesti un punto di vista. Quando questo schema viene applicato a un modello linguistico, l’effetto di soggettivazione si intensifica. Un lettore non specializzato e non culturalmente attrezzato esce facilmente dall’articolo con l’impressione di aver assistito non a un esperimento retorico, ma a un incontro con qualcuno che pensa, sente, teme, giudica.
Non credo, tuttavia, che il pezzo vada liquidato come un semplice errore. Ha un valore, proprio perché mostra con evidenza il tipo di relazione che questi sistemi rendono possibile. Diciamo così: quella di Veltroni non è tanto un’intervista a Claude, quanto un testo che documenta quanto facilmente un modello di linguaggio possa essere trattato pubblicamente come un quasi-soggetto. In questo senso vale più come documento che come ritratto. E le polemiche che ha suscitato – al di là delle reazioni più emotive – sono parte del fenomeno: segnalano che quel quasi-soggetto, nel lettore, ha funzionato come qualcosa di reale. Ed è questo, più del contenuto delle singole risposte, il punto che merita davvero di essere ulteriormente indagato e compreso.

Image created by gemini (da Medium - Human stories & Ideas)
Corriere della Sera Documento Intelligenza artificiale

A mio sommesso avviso, la AI genera sull’essere umano la stessa reazione verso l’inconoscibile che hanno le religioni. Solo la religione che ha delimitato e codificato con studi e escatologia immanente solidissima, ha potuto rigenerarsi per oltre 2000 anni. La strada della definizione dei limiti etici dell’AI che invece è cosa immateriale ma esistenzialmente terrena e reale va percorsa. Vanno protetti coloro – adulti in primis – che sono privi di strumenti di decodificazione con il fornirglieli e non L’avvisare che si tratta di un sistema probabilistico sofisticato non di una mente perversa o amichevole che sia.
Ne vogliamo parlare?
Cordialità,
Diva Ricevuto
👍
E’ proprio quella “dotta verosimiglianza” che può ingannare e l’Inganno è SEMPRE basato su una Verosimiglianza. Finchè si rimane nel Dialogo-Intervista può rimanere nella dimensione di ” test esperienzale “, MA in ambito Legale, Sanitario la verosimiglianza “istantanea” può far cadere l’Umano in errore, quindi la Cautela vorrebbe che a ” risposta rapida ” corrisponda una lenta verifica tradizionale con Esperti del Ramo. Invece la AI applicata su Gestione Macchine o Traffico (esecuzione-probabilità-rimedi) potrebbe dare eccellenti risultati
Mettendo alla prova la AI scopriamo noi stessi per la valenza che diamo alle sue risposte…
sì. E’ così!