Ecco l’articolo di Sandro Petruccioli; da leggere in parallelo a quello di Roberto Calvino che precede. L’incastro ci sembra molto, molto significativo (La redazione)
Tra le molte ragioni per cui l’intelligenza artificiale colpisce, ce n’è una che merita forse più attenzione di quanta comunemente ne riceva. Non riguarda soltanto la velocità del calcolo, l’ampiezza dei dati trattati o l’efficienza delle risposte. Riguarda qualcosa di più sottile: il fatto che, in molti casi, i modelli sembrino capaci non solo di rispondere, ma di esprimere giudizi.
L’impressione nasce da esperienze ormai comuni. Si sottopone al sistema una lettera, un testo, una decisione delicata, e la risposta non si limita a correggere o a riassumere. Distingue il tono più opportuno da quello eccessivo, mette in rilievo ciò che appare essenziale, confronta le alternative, suggerisce cautele, formula osservazioni che sembrano equilibrate.
In questi casi ciò che sorprende non è soltanto la competenza tecnica. È l’impressione di trovarsi davanti a una forma di valutazione che ci mette letteralmente in crisi. Ed è proprio qui che sorge l’equivoco.
La forma del giudizio
Una cosa è produrre enunciati che hanno la forma del giudizio; altra cosa è giudicare in senso proprio. La differenza non è marginale. Da essa dipende non solo il modo in cui interpretiamo questi sistemi, ma anche il modo in cui rischiamo di ridefinire al ribasso la nostra stessa idea di giudizio.
Un modello può selezionare, confrontare, ordinare, pesare le alternative. Può farlo con una raffinatezza impressionante. Può anche organizzare elementi eterogenei in una risposta coerente e persuasiva. Ma tutto questo, per quanto notevole, non equivale ancora al giudizio nel senso pieno del termine.
Perché il giudizio non consiste semplicemente nel formulare una conclusione plausibile. Richiede comprensione del contesto, capacità di cogliere che cosa sia davvero rilevante, orientamento entro criteri di valore, percezione delle conseguenze, e spesso anche l’attitudine a muoversi dentro contrapposizioni che non si lasciano risolvere con una semplice ottimizzazione. Giudicare non significa solo scegliere tra opzioni date; significa anche sapere perché qualcosa conta, in quale orizzonte di senso si colloca, che cosa si rischia decidendo in un modo piuttosto che in un altro.
La fenomenologia del giudizio
Noi non siamo nelle condizioni di leggere il processo interno del modello; leggiamo soltanto il risultato. E il risultato si presenta spesso con tutte le caratteristiche esteriori del giudizio maturo: equilibrio, prudenza, pertinenza, capacità di comparazione, sensibilità al contesto. In altre parole, l’AI può produrre con grande efficacia la fenomenologia del giudizio.
È proprio questa fenomenologia a rendere il problema filosoficamente serio. Se il sistema producesse soltanto errori vistosi o meccaniche combinazioni di dati, la questione sarebbe più limitata. Ma il fatto che sappia parlare come se stesse valutando induce facilmente l’utente a compiere un passo ulteriore: scambiare la forma del giudizio per il giudizio stesso.
L’abbassamento della soglia critica
Qui si colloca il rischio più importante: l’abbassamento della soglia critica. Se un testo appare ponderato, se una risposta suona ragionevole, se un consiglio è formulato con misura, cresce la tentazione di considerarlo affidabile non perché sia stato davvero verificato, ma perché possiede l’aspetto della riflessione. L’utente può così fidarsi non del contenuto in quanto controllato, ma della sua qualità esteriore.
Questo rischio è tanto più forte perché non riguarda soltanto gli utenti inesperti. Anche chi studia questi sistemi può restare colpito proprio dalla loro apparente capacità di giudizio. E non è difficile capire perché: la differenza tra una buona sintesi contestuale e un vero
discernimento non è immediatamente visibile sul piano linguistico. Anzi, il linguaggio ben riuscito tende a farci inferire del tutto naturalmente l’esistenza alla sua base di una comprensione.
Ma qui occorre arrestarsi. Il linguaggio può esibire la forma della comprensione senza per questo garantire di essere in grado di comprendere. Allo stesso modo, può esibire la forma del giudizio senza possederne la struttura profonda.
Per questo la questione non riguarda soltanto la natura dell’AI. Riguarda anche la cultura dell’utente. Quanti sono davvero in grado di distinguere tra valutazione statistica, sintesi contestuale e giudizio in senso proprio? Quanti possiedono gli strumenti concettuali per non attribuire ai modelli di AI una facoltà che essi, almeno per come oggi possiamo intenderla, non possiedono?
E’ proprio questa sproporzione — difficile da misurare, ma facile da intuire — a rendere il problema urgente. In questo senso, l’intelligenza artificiale pone un problema di senso e di giudizio prima ancora che di efficienza. La sua forza non sta soltanto nel fare molto, ma nel farlo in una forma che può essere scambiata per comprensione e ponderazione autentiche.
La domanda decisiva non è soltanto se la macchina giudichi davvero. È se noi sapremo ancora distinguere tra il giudizio e la sua simulazione.
Leggi anche https://www.larivistaintelligente.it/questo-uccidera-quello/roberto-calvino/