Rivoluzione digitale e fiducia: vantaggi e rischi dell’AI

scritto da il 11 Settembre 2024

Post di Igor Marcolongo, Head of Business Evolution, InfoCert-Tinexta Group

Ogni cambiamento radicale (disruption) porta con sé opportunità e rischi. Nel caso della transizione digitale questi ultimi sono associati alla reputazione, alla cyber security, ai pregiudizi generati da contenuti falsi (deep fake news).

Svilupperò allora una riflessione lungo due assi: da un lato prenderò in esame alcuni casi di utilizzo dell’ AI all’interno di ecosistemi digitali, in particolare nel settore dei servizi fiduciari digitali (digital trust). Dall’altro cercherò di mettere a fuoco  le condizioni che permettono un approccio sicuro e affidabile (“trustworthy”) all’Intelligenza Artificiale.

Un’applicazione abbastanza tipica dell’AI è quella a supporto delle tecniche di identificazione basate sul riconoscimento facciale (face-matching) di un potenziale nuovo intercolutore. Con le tecnologie evolute è possibile testare l’autenticità del documento e la coerenza tra viso reale e foto della carta d’identità.

Un altro uso dell’AI permette di sviluppare veri e propri assistenti digitali che dimostrano sensibilità emotiva e capacità di instaurare un dialogo significativo con l’utente, come agenti virtuali, intelligenti e affidabili. Una delle prime applicazioni in questo senso è quella realizzata nell’ambito del progetto PRESENT (Photoreal REaltime Sentient ENTity) di Horizon Europe, programma quadro dell’Unione europea per la ricerca e l’innovazione nel periodo 2021-2027.

AI e semplificazione della vita di imprese e privati

Parallelamente, con la diffusione dei modelli linguistici di grandi dimensioni (Large Language Models) con “AI generativa” è stato possibile lanciare soluzioni che assistono i clienti quando si trovano a interagire, per esempio, con i contact center. Aggiungere funzionalità alle soluzioni tecnologiche coincide, in questo caso, con la semplificazione della vita di imprese e privati.

Ciò risulta tanto più vero quando si chiede all’AI di sostituire, altresì, il tradizionale “ufficio protocollo” o “ufficio posta” delle grandi imprese: l’applicazione è messa in grado di leggere, capire e classificare in autonomia il contenuto dei messaggi, e di smistarli alle  persone giuste.

digital trust

Naturalmente, questi risultati si raggiungono solo se si lavora in squadre trasversali quanto alle competenze condivise: si va, infatti, dagli esperti di tecnologia al marketing e, soprattutto nel momento attuale, ai professionisti della conformità e il rispetto (compliance) del sistema regolatorio: ogni caso d’uso  dell’Intelligenza Artificiale richiede  di  confrontarsi con il quadro (framework) normativo del Regolamento AI emanato dall’Unione Europea (AI Act, Gazzetta Ufficiale UE del 12 luglio 2024).

Ma non mancano rischi e problematiche etiche

Tuttavia, non si possono tralasciare  rischi e  problematiche etiche connesse all’AI.

Nella mitigazione degli impatti negativi della tecnologia, come di consueto, un approccio standard-lineare identico per tutti (one size fits all) non è mai efficace perché al contrario, occorre agire a più livelli. Tanto è vero che tra giuristi è in corso una serrata discussione su come rendere vincolanti ed efficaci le linee di condotta contenute nell’AI Act. Grande è il dibatto, anche con un intervento diretto del Papa allo scorso G7 in Puglia, sugli aspetti etici dello sviluppo e dell’utilizzo dell’AI.

AI e mistificazione della realtà: il ruolo dei servizi fiduciari digitali (digital trust)

Dal mio punto di vista, posso sostenere che le tecnologie relative ai servizi fiduciari digitali (digital trust), che già oggi garantiscono veridicità e affidabilità alle singole transazioni, contribuiscono alla messa in campo di soluzioni AI connotate da un grado di fiducia sempre maggiore. D’altra parte, più ci si addentra nel territorio delle tecnologie abilitanti, più si percepisce che il problema dell’affidabilità riserva ancora ampi spazi di esplorazione. Ai giorni nostri, l’AI può diventare anche un alleato formidabile di chi vuole  mistificare la realtà.

Di certo, dobbiamo agire sulla responsabilizzazione dei soggetti che intervengono nella catena di addestramento, rendendoli sempre individuabili grazie all’identità digitale e ad un corretto sistema di registrazione e tracciamento (logging and tracking) delle operazioni, per poter attribuire il nesso di causa-effetto ai responsabili dei singoli progetti, resi immodificabili nel tempo.

Pertanto, il versante fiduciario della dimensione digitale, in quanto area di business specificamente volta a garantire l’identità e l’integrità del contenuto, si sta sempre più rivelando un pilastro fondamentale per costruire le basi di un ecosistema digitale sicuro, affidabile e in linea con quadri normativi sempre più esigenti.