La XII Edizione di Passaggi Festival si chiude col “Discorso notturno” di Rita Cucchiara, ingegnere elettrico ed informatico e docente di Ingegneria informatica presso l’Università di Modena e Reggio Emilia. La Lectio Magistralis che la professoressa ci offre si intitola “L’errore e l’artificio”, facendo riferimento ad un settore di grande interesse e molto caro all’autrice, sul quale si è specializzata (fondatrice e direttrice dal 2018 al 2021 del Laboratorio nazionale italiano di intelligenza artificiale e sistemi intelligenti AIIS del CINI): l’intelligenza artificiale. L’evento si svolge in occasione della rassegna di Passaggi Festival “Libri in Piazza”.
Tre errori e tre artifici nella IA
Cucchiara conduce la sua lectio magistralis in piedi, quasi fosse in un’aula universitaria. È abituata al discorso in pubblico e si vede: la voce non trema neanche per un istante, non c’è ansia da prestazione che fa tremare le gambe e sudare freddo. Sta lì, in piedi davanti ad una folla in attesa che la sua conoscenza li pervada. “Quando si pensa all’errore” comincia la docente “si pensa a qualcosa di negativo mentre con artificio potremmo pensare ad un “mirabile artificio del genio umano” o ad opere d’arte, come ne abbiamo molte in Italia. Da un punto di vista inconscio la parola errore rimanda a qualcosa di umano: errare umano est, dicevano gli antichi romani. Siamo indulgenti con l’errore umano ma, invece, l’artificio è qualcosa di altro, che viene dall’uomo ma che non gli appartiene del tutto e può creare timore. Come l’intelligenza artificiale (d’ora in poi IA), ad esempio. Secondo me la IA è positiva e ve lo voglio dimostrare”. Cucchiara si prefigge come compito quello di far conoscere al pubblico tre concetti d’artificio e tre “e mezzo” d’errore.
IA spiegata da Rita Cucchiara
Innanzitutto si dovrebbe comprendere che con IA si intende non un sistema isolato ma, anzi, un collegamento che permette di portare all’evoluzione più sistemi contemporaneamente, con numerosi vantaggi in altrettanto molteplici ambiti della vita umana: dalla medicina ai trasporti, dallo svago videoludico alla sicurezza.
Artificio 1: La macchina apprende. I sistemi informatici dell’IA non sono più programmati con software basati su sillogismi come in principio ma, ad oggi, questa impara come ottenere risultati direttamente sul campo: dall’esperienza. Dopo aver inserito degli input la macchina forma degli elementi di calcolo e quindi degli elementi d’uscita, all’inizio casualmente poi con una logica empirica. Ad esempio Google Maps suggerisce la miglior strada da percorrere in base ad incidenti, traffico e feedback degli utenti nonché motivazioni sul perché questi ultimi non abbiano eventualmente ascoltato i consigli di Maps, migiorandosi comprendendo i propri errori.
Errore 1: Il segreto dell’apprendimento è l’errore. Se l’errore è di poca rilevanza la logica di calcolo non cambia, altrimenti sì. Ovviamente si parla di margini d’errore che vengono creati ed inseriti da programmatori ed informatici. Chi progetta IA, infatti, crea una funzione d’errore utilizzabile e forma dei risultati sperati. Questa è l’architettura dell’IA. La sostanza viene plasmandosi da sola, attraverso sillogismi con uscita X, Y e via via con esiti sempre più numerosi man mano che aumentano le variabili da inserire. Una delle ultime utilizzazioni dell’IA nell’ambito quotidiano è stato il riconoscimento facciale: errore del riconoscimento dell’IA inferiore al 3% cioè meno dell’essere umano.
Artificio 2: La macchina comprende da ciò che vede. L’essere umano progetta azioni in base a ciò che vede, a volte istintivamente e a volte, invece, con una “previsione probabilistica”. L’IA fa esattamente la stessa cosa ma, ovviamente, non utilizza il rato irrazionale ma, invece, una logica, elaborando ogni azione con largo anticipo sempre in base a margini d’errore e variabili. Un ambito d’impiego molto interessante dell’IA è quello della medicina: ad esempio in dermatologia, nel riconoscimento dei melanomi partendo dalla forma e dal colore dei nei. Non esisteranno mai risposte esatte al 100% dell’IA così come nessun medico potrà mai essere certo al 100% delle sue diagnosi, per quanto accurati siano i metodi da lui utilizzati. Ciò che la macchina può fare, però, è un’importante riduzione del margine d’errore.
Errore 2: L’errore è misura. L’errore non esiste solo per apprendere ma anche per misurare. Per capire se un sistema di IA funziona bene occorre misurarlo ponendolo a confronto a certi parametri. Questi criteri per la misura possono essere realizzabili nella realtà (come il sistema di riconoscimento facciale degli smartphone) oppure possono essere simulazioni virtuali (come i taxi a guida autonoma che, ormai al giorno d’oggi, si trovano in numerose metropoli americane o asiatiche).
Artificio 3: La macchina parla, comprende e genera linguaggio. La caratteristica più eclatante dell’IA è che questa può parlare. Si è riusciti a costruire sistemi capaci di comprendere linguaggio e parlare a loro volta, quasi “a dar vita” a delle macchine le quali, come l’essere umano, possono porre domande e generare risposte vocali sensate. A riguardo c’è un timore più o meno recondito nell’opinione pubblica poiché il linguaggio è strumento umano, è il principale elemento che differenzia l’uomo, razionale, dall’animale, irrazionale ed istintivo. Dopo Siri e Alexa, che erano in grado di rispondere ma in maniera molto semplificata, ecco ChatGPT, capace di dialogare in maniera realistica come se fosse una persona a tutti gli effetti. Questo livello di realismo nel dialogo è stato ottenuto in seguito a diversi anni di inserimento di milioni e milioni di input e di variabili, tali da poter rendere il linguaggio generato dall’IA non più “robotico” ovvero freddo e distaccato ma “umano” cioè realistico, “come una persona molto dotta che spiega, a volte appositamente con parole semplici, un concetto ad un’altra persona”.
Errore 3: L’errore sistematico è in ciò che si insegna. Si parla di errore sistematico perché, appunto, è un errore del sistema: se gli input sono sbagliati ovviamente anche gli output lo saranno. Per un risultato corretto occorre fornire tutte le variabili possibili purché siano corrette. La difficoltà sta, dunque, non solo nel fornire input adatti ma anche nel creare filtri che permettono all’IA di comprendere quali sono degli output considerati “non appropriati” (temi di razzismo, violenza, pedofilia). Per questo, Cucchiara, ha avviato, da qualche tempo, un lavoro di “unlearning” dell’IA cioè un metodo attraverso il quale far “disimparare alle macchine degli input sbagliati per favorire output corretti“.
Errore 3.5: L’errore di progetto non è sostenibile. Infine, inutile negarlo, bisogna far fronte, affinché possa promuoversi lo sviluppo dell’IA, ad una necessità di costi, di dispendio di energie e di risorse esorbitante. Questo è uno dei motivi, ad esempio, per cui recentemente Amazon ha acquistato un’intera centrale nucleare in Pennsylvania, spendendo più di 600 milioni di dollari. Ad oggi la quantità d’energia richiesta per lo sviluppo dell’IA è troppo alta, c’è ancora molto lavoro da fare e per questo, parla convinta la docente, è necessario uno sforzo collettivo della comunità scientifica internazionale e delle potenze private come Google o, appunto, Amazon.
Cucchiara conclude la sua lectio magistralis con un dipinto: “Lady writing a letter” di Vermeer. È così che la docente si immagina la IA: come una signora gentile e sempre disponibile, che vede e risponde, capace d’ascoltare ma anche di immaginare e sognare.