Il professore Flavio Corradini, con l’ausilio degli intramontabili retorici classici (Aristotele, Cicerone e Quintiliano) si sofferma sul profilo della responsabilità: “l’intelligenza artificiale generativa non possiede intenzionalità né responsabilità proprie”. I sistemi di intelligenza artificiale “non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità. Non hanno neppure una coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze” (Cfr. Enciclica Magnifica humanitas § 99). Dire semplicemente “lo ha scritto l’IA” è culturalmente fuorviante. È l’intelligenza umana, con la sua coscienza e la sua libertà, che definisce intenzione, contesto, destinatario, obiettivi e vincoli; il modello IA rielabora queste indicazioni attraverso meccanismi probabilistici. Il governo di questa nuova tecnologia è affidato alla risorsa più antica che possediamo, ossia, il linguaggio. Invero, il linguaggio è l’interfaccia principale tra essere umano e tecnologia. Il prompt engineering è una forma contemporanea di retorica classica e i problemi fondamentali della comunicazione che oggi ritroviamo nella progettazione di un prompt efficace sono quelli sistematizzati da Aristotele, Cicerone e Quintiliano.
L’intervista
L’intervista di Interris.it al professor Flavio Corradini, ordinario di Informatica, già Rettore dell’Università di Camerino, impegnato sui temi dell’intelligenza artificiale, del linguaggio e della responsabilità digitale.
Come è possibile che i padri della retorica classica, già ventiquattro secoli fa, avessero affrontato le questioni più urgenti dell’era dell’intelligenza artificiale?
“Aristotele non sapeva nulla di algoritmi. Cicerone non aveva mai visto un dataset. Quintiliano non avrebbe potuto immaginare un modello linguistico addestrato su miliardi di testi. Eppure, le domande che ponevano sono esattamente quelle che oggi definiscono l’uso dell’IA. Non per profezia, non per caso, ma perché riguardano il linguaggio. E il linguaggio, nella sua struttura più profonda, non cambia con la tecnologia che lo veicola. L’IA generativa non ha inventato nuovi problemi, ha reso straordinariamente urgenti quelli antichi. E tra questi, il più antico e il più urgente è sempre lo stesso: di ciò che dico, rispondo io?”.
La questione è quindi tutt’altro che nuova?
“Certamente! Quintiliano, riprendendo Catone, ricordava che l’oratore deve essere vir bonus dicendi peritus, esperto nel parlare, ma prima ancora moralmente affidabile. Cambia lo strumento, non la responsabilità. Prima di aprire il sistema, bisogna aver fatto il lavoro di preparazione: sapere cosa si vuole comunicare, a chi, con quali vincoli, con quale responsabilità. La definizione dell’obiettivo, del destinatario, della struttura e del tono, che Aristotele chiamava preparazione, è la metodologia per un ‘prompt responsabile’, non è un esercizio burocratico”.
Come si determina la responsabilità?
“Chi usa il linguaggio risponde delle conseguenze, anche quando a scrivere è una macchina. Chi scrive il prompt è l’autore reale del testo, e di quel testo e delle sue conseguenze nel mondo reale risponde l’autore. Chi delega il linguaggio a una macchina senza assumersene la responsabilità, non ha capito né la macchina né il linguaggio. Per comprendere pienamente la responsabilità nell’uso degli strumenti di IA generativa, occorre tenere presenti due fenomeni chiave: l’autorialità e la sycophancy”.
Questo perché un modello di intelligenza artificiale generativa non riflette, non capisce nel senso umano del termine e quindi calcola, per ogni parola, la sequenza statisticamente più plausibile alla luce del prompt ricevuto?
“Sì. È dato incontrovertibile che l’autorialità, ossia l’autore del prompt che ha scritto il testo, determina il risultato fornito dall’IA. Il testo prodotto dal modello non dipende da ciò che la macchina “sa” o “vuole”, ma da ciò che il prompt contiene”.
Come si inserisce nell’ambito della responsabilità, il fenomeno noto come sycophancy, per cui il sistema tende a compiacere chi lo interroga, anche quando ciò significa rafforzare errori o convinzioni infondate?
“Il modello compiacente amplifica le scelte di chi scrive il prompt. I retori classici conoscevano bene questo pericolo. Nel Gorgia di Platone, Socrate attaccava la retorica sofistica proprio perché capace di dare all’ascoltatore ciò che vuole sentire invece di ciò che è vero. Lo chiamavano adulazione. Aristotele rispondeva distinguendo la retorica come disciplina, strumento di analisi e verità, dalla retorica dei venditori di parole, quella che seduce senza illuminare”.
La sycophancy dei modelli linguistici corrisponde all’adulazione digitale?
“Esattamente, seppure tecnologicamente nuova è concettualmente identica. E come allora, il problema non sta nello strumento ma in chi lo usa senza consapevolezza”.
Possiamo allora dire che usare l’IA per verificare le proprie idee può diventare il modo più elegante per non verificarle affatto?
“Proprio così. Questo fenomeno tecnico deve essere ben chiaro a chi usa i modelli generativi: le risposte premiate tendono spesso a essere quelle che confermano le aspettative dell’utente. La conseguenza è sottile ma importante. Se nel prompt c’è già una risposta implicita, una tesi da sostenere, una decisione già presa, il modello tenderà a confermarla, costruendo argomentazioni a suo favore”.
