La fiducia inizia dove la verifica finisce

Ti ringrazio David Vagni per aver letto e commentato il mio articolo. Il tuo intervento è ricco, articolato, interessante, offre molti spunti di riflessione, su tanti aspetti lo condivido.
Non sono un ingegnere e ti rispondo affrontando la questione da un punto di vista, come dire, “umanistico”. Del tuo intervento così ben formulato non condivido un aspetto: spostare la domanda, da cosa sia AI a cosa sappia fare o saprà fare. Credo sia una scelta produttiva sul piano tecnico, ma che non permette di inquadrare la questione nella sua totalità, approccio che trovo fondamentale, data anche la mia sintonia con il pensiero di Edgar Morin.
Considerare AI nella sua totalità per me significa indagare sia cosa è AI e sia cosa sa fare. Penso sia la scelta migliore, per un approccio collaborativo con l’intelligenza artificiale. Non è per principio che io concludo che alla macchina manchi la sostanza, è per evidenza. La macchina non nasce, non muore, non soffre.
Non mi paiono affermazioni metafisiche, ma constatazioni materiali che chiunque può verificare. Non porsi la domanda su cosa sia AI produce, a mio avviso, scelte concrete su problemi importanti: come regolarla, senza attribuirle una soggettività che non ha; accertare di chi sia la responsabilità quando qualcosa va storto, della macchina, del produttore, dell’utente; valutare come introdurla nei sistemi educativi, perché spiegare agli studenti non solo cosa sa fare ma cosa è, lo trovo fondamentale per un uso consapevole; come usarla in medicina, dove la precisione statistica non sostituisce chi risponde con la propria coscienza di una diagnosi e rimane accanto al paziente.
Ragionare solo su cosa sa fare lascia aperta una deriva silenziosa verso modelli in cui alla macchina vengono attribuite forme di responsabilità che appartengono solo a chi ha la posta in gioco, cioè agli umani.
Non è ipotetico, sta già accadendo. Nel 2017 una proposta del Parlamento Europeo per attribuire la ‘personalità elettronica’ ai robot più sofisticati è stata accantonata dopo le proteste di centinaia di esperti; ciò rivela quanto il confine tra umano e artificiale sia già percepito come labile.
La chimica dei neuroni umani non produce pensiero in astratto. Produce pensiero di qualcuno che nasce, desidera, soffre, ama, rischia, muore, consapevole del suo stato. La filosofia, l’etica, il diritto, l’arte, tutte le manifestazioni dell’essere umano sono nate da lì.
La macchina non ha la posta in gioco, non mangia, non beve, non soffre, non rischia, non muore, non ha sangue che scorre nelle vene, non vive nel mondo, non ha un corpo come il nostro. Non solo per mancanza di anima -per chi crede- ma per evidenza materiale, è di ferro, silicio, rame. Chiedersi quali funzioni un sistema debba esibire per meritare la nostra fiducia è utile. Ma penso che occorrerebbe però distinguere la fiducia dall’affidabilità tecnica. La precisione non merita fiducia, va usata finché serve, mantenendo però il controllo nelle mani di chi, al contrario della macchina, può “perdere qualcosa”, se sbaglia.
Se mi fido, smetto di verificare. L’essere umano da supervisore diventa spettatore. Ci si fida di chi “abita il mondo” perché chi abita il mondo condivide con gli altri esseri umani le conseguenze delle proprie azioni. La fiducia è un legame umano e non lo si può trasformare in un calcolo statistico. Per questo motivo, ritenere che sia secondaria la differenza tra simulazione e giudizio, se un essere umano e una macchina producono una valutazione ugualmente corretta, calibrata, verificabile e responsabile rispetto al compito, penso sia il primo passo verso una delega decisionale ad Ai. E dopo il primo passo ci sarà il secondo, poi il terzo e così via.
Per cui alla tua domanda, rispondo no. Dal mio punto di vista, non si può accordare fiducia. Si tratterà, di volta in volta, di verificare un output: se corrisponde esattamente a ciò che in quel preciso momento l’essere umano pensa, tanto meglio. Ma la fiducia presuppone un essere umano a cui darla. È un atto relazionale tra umani, non a caso la si stipula con una stretta di mani.
Se devo verificare e sempre dovrò verificare, perché come sostiene Eraclito, tutto scorre, significa che non mi fido affatto e poi la fiducia inizia dove la verifica finisce, ha una relazione con il futuro, e il futuro della macchina non lo conosco, una macchina che per altro, come direbbe Marx opera “post festum”.
L’intelligenza è umana. Quella della macchina è altro, utile, potente, talvolta stupefacente, ma di natura diversa. Chi vive costruisce la macchina, la costruisce così bene da farle eccedere alcune sue funzioni in modo stupefacente. Ma la macchina non vive. Ciò che ci dice, ce lo dice da non vivente. Certamente produrrà cambiamenti enormi e cambierà noi e anche il nostro modo di rapportarci agli strumenti. Mi auguro che rimanga quello che è: uno strumento formidabile alla cui guida ci siano gli umani.