L’autore di questo post è Andrea Ciucci, PhD in filosofia contemporanea, prete cattolico, ufficiale della Pontificia Accademia per la Vita. Lavora sui nessi tra antropologia, etica ed esperienza religiosa, con particolare riferimento alle nuove tecnologie, alla comunicazione, alla condizione giovanile e familiare, al cibo. I suoi libri migliori sono per bambini. Twitta come @donciucci – 

Quando durante una cena Hiroshi Ishiguro, famoso creatore del suo clone robot, fu accusato di esagerare nel dire che già oggi parliamo abitualmente con le macchine certi di ricevere una risposta adeguata, il visionario ingegnere giapponese si girò di scatto verso il suo interlocutore e disse: «perché, tutte le volte che dice “ehi Siri”, che cosa pensa di fare?».

L’interazione uomo-macchina è uno dei temi centrali su cui la ricerca scientifico-tecnologica e la riflessione umanistica si sono spese negli ultimi cento anni (è passato un po’ in secondo piano il centenario della parola robot introdotta nel 1920 dallo scrittore ceco Karel Čapek), anche se gli automi meravigliosi del ‘700 costituiscono un ottimo esempio anticipatore. Il campo è ancora più vasto e complesso di quanto si può pensare e certo non può essere ricondotto e semplificato alla questione delle fattezze umane che si sceglie di dare a molte macchine con cui interagiamo ormai quotidianamente, un classico dell’iconografia contemporanea frequentemente utilizzato da cinematografia e pubblicistica. La questione impone un incrocio fecondo e faticoso tra possibilità tecnologiche (progettazione, design, industria, …) e questioni umanistiche quali la psicologia (come reagisce un umano davanti a una macchina, e viceversa) o la linguistica (con tutto l’immenso campo di pensare un linguaggio delle macchine all’altezza del dialogo con gli umani, e viceversa). L’ambito del così detto human enhancement, dove elementi tecnologici sono innestati direttamente nel corpo umano al fine di migliorare prestazioni o sopperire ad alcune funzioni venute meno, eleva poi all’ennesima potenza la complessità delle questioni, spostando l’interazione a livello intracorporeo.

Dal punto di vista economico, la galassia della questione del rapporto uomo macchina ha generato un investimento incredibile nella ricerca scientifico/tecnologica e ha aperto fette di mercato realmente impensabili solo alcuni anni fa.

Se si guarda al mercato degli assistenti vocali e smart speaker invocati da Ishiguro, le stime riferiscono che Google Assistant conta 500 milioni di utenti attivi mensili, Siri 374 milioni. In termini di installazioni Cortana di Microsoft e DuerOS di Baidu sono presenti in oltre 400 milioni di oggetti, Alexa in oltre 200 milioni e Bixby di Samsung in oltre 160 milioni.

Il settore delle così dette Human Machine Interface (HMI) è invece valutato (dati 2020) 4,3 miliardi di dollari, con crescita prevista fino ai 5,6 miliardi nel 2025. Ma se si guarda, ad esempio al mercato dello human enhancement, dimensioni (70.9 miliardi di dollari nel 2019) e stime di crescita (206.9 miliardi entro il 2024) sono ben più significative.

L’incredibile sviluppo economico e tecnologico di questo settore, proprio per la fecondità e la velocità di diffusione che lo caratterizzano, chiede una particolare avvertenza anche circa le conseguenze sistemiche, di fondo, che tale dinamismo genera. Ne segnalo almeno due.

Lo sviluppo delle nanotecnologie o la digitalizzazione della realtà sono due fra gli ambiti che mostrano in modo eminente come lo sviluppo tecnologico ha rotto il confine culturale che marcava la differenza tra uomo e macchine. Neanche lo statuto di manufatto (cioè di oggetto realizzato dall’uomo) è più semplicemente riferibile ai sistemi che già oggi, e probabilmente sempre di più nel prossimo futuro, quotidianamente utilizziamo: usiamo macchine e algoritmi progettati ormai interamente (talvolta verrebbe da dire anche autonomamente) da altre macchine e algoritmi, così che al senso comune sfugge ormai ogni connessione con l’umano.

L’inglese utilizza per descrivere questo fenomeno la parola blurring, una sfocatura che rende tutto più indistinto e caratterizzato da una certa confusione. Se in prima battuta la potente interazione/integrazione tra uomo e macchine mostra un’incredibile e insospettabile gamma di potenzialità positive, lo sfocamento, il blurring che man mano emerge, appare sensazione faticosa, costosa, talvolta spaventosa.

La negatività è tutta sul versante umano: il problema non è soltanto che non sappiamo più esattamente cosa sia una macchina; vista la grande somiglianza o addirittura la simbiosi che ha con l’uomo, il problema vero, appunto spaventoso, è che non sappiamo più chi siamo noi e se siamo ancora padroni delle nostre vite. La velocità di tale fenomeno, direttamente proporzionale allo sviluppo tecnologico forsennato di questi decenni, non aiuta: se in passato l’innovazione aveva tempi tali da permettere l’abitudine alle novità (tecnologiche e antropologiche), ora questo tempo è completamente cancellato. L’integrazione sempre più intima, più efficace, più sorprendente, più dinamica accade troppo velocemente e neanche il ricco occidente, economicamente capace del continuo upgrade dei devices e dei suoi sistemi, regge quello dell’autocoscienza personale e sociale. Il tema identitario, oggi comunemente associato a questioni nazionali e religiose, si ricollocherà nel prossimo futuro nell’ambito dell’identità personale. Saranno tutte da verificare le conseguenze del trasferimento, nella sfera personale, della violenza che i dibattiti identitari spesso generano.

La seconda questione che merita l’attenzione è quella del ricollocamento della riflessione etica. La crescita esponenziale della capacità delle macchine e dei sistemi di intelligenza artificiale di entrare in un dialogo per certi versi alla pari con gli umani e di emulare in modo finora insospettabile funzioni umane ha tra i suoi esiti più significativi quello di evidenziare una certa autonomia decisionale dei sistemi tecnologici stessi. Malgrado, e per certi versi molto correttamente, Luciano Floridi continui a ricordare a tutti che anche il più raffinato sistema di machine learning ha lo statuto di una lavatrice, seppur particolarmente raffinata, che esegue i programmi per cui è stata pensata, la quotidiana relazione con sistemi e tecnologie che apparentemente parlano la nostra stessa lingua, abitano il nostro corpo e sempre più prendono decisioni per noi, mostra il suo lato problematico quando qualcosa non funziona. La classica domanda di tutti i dibatti sull’etica dell’intelligenza artificiale relativa al soggetto responsabile delle scelte operate da una automobile a guida automatica è esemplare anche nella sua novità: fino a oggi non avremmo mai ipotizzato che la nostra lavatrice potesse essere direttamente responsabile dell’infeltrimento del nostro migliore maglione. La relazione quasi alla pari con le macchine, sempre più apparentemente umane, facilita uno spesso inconsapevole (e pericoloso) spostamento della responsabilità etica dal soggetto umano (progettista o utilizzatore che sia) alla macchina stessa. La pertinenza (peraltro ancora tutta da dimostrare sul piano teorico, ma già di fatto richiesta dallo sviluppo tecnologico) dell’istituzione di una disciplina dedicata all’etica delle macchine è questione estremamente seria e, ancora una volta, dalle conseguenze solo abbozzabili.

La categoria di “human-centered artificial intelligence” sembra costituire una promettente chiave di lettura con cui affrontare queste e molte altre questioni etico-antropologiche imposte dallo sviluppo delle tecnologie human-friendly. Non sono poche le università e le aziende che hanno assunto tale dizione per nuovi centri di ricerca e strategie aziendali (tra i nomi più altisonanti vanno ricordati l’Università di Stanford negli USA in collaborazione con IBM o le dichiarazioni del presidente di Microsoft Brad Smith; in Italia certamente si può menzionare l’Università di Bologna). La tensione tra centralità umana e intelligenza artificiale (e qui il blurring lessicale è già totale) merita di essere custodita, evitando risoluzioni affrettate volte o a preservare goffamente una qualche linea di demarcazione non negoziabile a difesa dell’umano o a umanizzare indiscriminatamente ogni tecnologia, visti i promettenti risultati tecnologici ed economici ottenuti. L’originalità umana, con le responsabilità che continuano a competerle seppur con modalità e contesti decisamente rinnovati, può essere valorizzata e incrementata anche e proprio grazie a sistemi tecnologici sempre più efficaci, anche human friendly. Dentro questo quadro, nuovi investimenti di persone, idee e denaro saranno decisamente ben accolti.