Post di Cosimo Accoto, filosofo tech, research affiliate e fellow (MIT), adjunct professor (Unimore)* – 

L’acronimo HITL è human-in-the-loop (come sperano i filosofi) o hardware-in-the-loop (come progettano gli informatici)? Ad avere l’ultima parola sarà l’umano o la macchina? Come si intuisce è una questione più esistenziale che strumentale, più fondativa che operativa. Per rispondere a queste domande radicali occorrerebbe, tuttavia, superare il discorso corrente (un po’ ingenuo) in cui molti sono invischiati: quello che vede nell’intelligenza artificiale, di volta in volta, o una cornucopia di meraviglie o un coacervo di pericoli. C’è una terza opzione. Riuscire a guardare non solo alle possibilità economiche e alle vulnerabilità sociali che si produrranno, ma alle provocazioni culturali che l’intelligenza artificiale ci viene proponendo. Le nuove ingegnerie dell’automazione cognitiva, infatti, ci interrogano esistenzialmente. Provocano l’umano intellettualmente, nuovamente e radicalmente, su tre sue prerogative: la parola, l’immagine, l’azione. Esploriamo, sia pur brevemente, queste tre provocazioni.

L’inflazione della parola

Finora a parlare e scrivere è stato solo l’umano. Il linguaggio e la scrittura erano considerate un privilegio della specie sapiens. Così abbiamo estromesso nel tempo da questi domini il mondo vegetale e quello animale. Ora ci stiamo accorgendo che questa esclusività linguistica viene erosa dall’evoluzione tecnologica di macchine retoriche in grado di avere e prendere la parola. Perché dopo aver inventato le macchine calcolatrici (deterministiche) dei numeri, abbiamo ora costruito le macchine calcolatrici (probabilistiche) delle parole. Qualcuno le ha paragonate e derubricate a pappagalli stocastici.

Tuttavia, questo del processamento macchinico del linguaggio naturale umano non è solo un avanzamento ingegneristico nella parola e nella scrittura. È un attacco (una provocazione) culturale all’idea letteraria di autore e di lettore, ai regimi sociali di verità e falsità documentale, ai contratti giuridici di proprietà e responsabilità. Quindi non è solo la provocazione della domanda se un motore linguistico su larga scala può tecnicamente scrivere, ma quelle più esistenziali.

Le nuove ingegnerie dell’automazione cognitiva ci interrogano esistenzialmente (Designed by Freepik)

Ad esempio, chi è l’autore delle cose che la macchina scrive (la società tech che l’ha costruito? il modello linguistico che è stato generato? il corpus di testi con cui è stato addestrato? l’utente che ha scritto il prompt che ha prodotto quel testo)? E poi ancora: abbiamo ancora bisogno della funzione-autore per come l’abbiamo storicamente disegnata o dovremo immaginare qualcos’altro? E ancor più radicalmente: può esistere una scrittura (e il suo senso) senza una mente (pensante) e senza un mondo (referente), una scrittura che peraltro diviene inflattivamente impermanente perdendo anche la sua prerogativa di iscrizione fissa?

L’invisibilità dell’immagine

Questa erosione non riguarda solo la parola. Stesso scardinamento si sta producendo per le immagini e lo sguardo umano. Nel nostro orizzonte tecnico, lo sguardo umano si ritrova progressivamente e per molti versi marginalizzato o inidoneo. Questa rimozione tentata, negoziata, in parte realizzata, ha oggi molte forme e occasioni. Così, in alcuni contesti, lo sguardo è assente perché l’occhio non è in più grado di espletare la sua funzione giudicante di fronte al prodotto visivo artificiale di una macchina. Non è in grado di riconoscere il vero e il falso. In altre esperienze lo sguardo invece non è proprio più chiamato a svolgere la sua funzione decisionale, sostituito esso stesso dalla visione esclusiva ed escludente delle macchine.

A vedere, al suo posto, è qualcuno o qualcosa d’altro. In ulteriori casi ancora lo sguardo è spiazzato perché l’immagine che viene guardata non ha più la sua antica funzione rappresentativa del reale. Il mio occhio, dunque, incrocia una visualità che ha un’altra natura: l’immagine non sta più al posto dell’oggetto che vorrebbe raffigurare. Non lo rappresenta più.

Quella provocazione riferita alla scrittura parlando di ultima parola, si ripropone ora anche con l’immagine: come per la scrittura non più fatta per essere letta da umani, anche l’immagine non è più prodotta per essere vista. Da umani. Sono le tecnologie della visione “astensive” dell’umano (non meramente “estensive” dell’umano). Ad es., l’immagine video catturata da un drone in zona di guerra è “operazionale” (non solo “rappresentazionale”) perché, senza magari essere neanche vista da un umano, innesca, con la sua esistenza e influenza, una serie ulteriore di azioni automatiche e autonome concatenate.

L’autonomia dell’azione

Quello scatto visuale del drone diventa sparo militare nella realtà: immagini trasformate in azione, fatte da macchine per macchine. E questo ci porta alla terza provocazione. Finora, l’umano è stato il solo protagonista dell’agire. Produrre un accadimento, generare una differenza, causare un cambiamento sono espressioni per indicare questa capacità di fare accadere le cose. Capacità che si porta dietro molte dimensioni concrete: produttività, attribuibilità, causalità, intenzionalità, responsabilità. Ora, questa capacità di agire sempre più viene trasferita dagli umani ad automi che da “strumenti” divengono “agenti”. Determinando anche, più profondamente e per ora invisibilmente, uno spostamento significativo nelle strategie della decisione oltre che dei modi, dei tempi e dei luoghi dell’esercizio del decidere.

I programmi informatici, gli algoritmi computazionali, i protocolli digitali, i dispositivi autonomi agiscono in forme, con logiche e attraverso dinamiche peculiari. Certamente diverse da quelle umane, ma non meno impattanti, trasformative e decisive di quelle. Anzi, in alcuni casi anche in modalità sovrane su persone, mercati, istituzioni. Si tratta di comprendere, allora, che frasi come umano al centro, umano in controllo o human-in-the-loop, come si dice, sono espressioni di buon senso, certo, ma filosoficamente ingenue.

L’umano che salirà su un’auto a guida autonoma non sarà l’umano che è salito su un’auto a guida antropica. Perché cambierà l’umano (la sua esperienza del mondo) e cambierà il loop in cui è preso (e la sua libertà e autonomia nel mondo). Scriveremo, percepiremo e agiremo ancora, ma secondo condizioni altre e sorprendenti di scrittura, di visione, di azione. Umane e non.

L’intelligenza artificiale va fronteggiata con l’innovazione culturale

In conclusione, se l’intelligenza artificiale è una provocazione di senso su parola, immagine e azione, dobbiamo fronteggiarla con l’innovazione culturale. Ai problemi tecnici risponderemo con un po’ di ingegneria (regolatoria, informatica, educativa, politica), alle provocazioni intellettuali dovremo rispondere con lo sforzo (faticoso, difficile, dubbioso, rischioso) di fare innovazione culturale. D’ora in poi, la voce programmerà le macchine, lo sguardo incrocerà le simulazioni, il gesto eseguirà gli algoritmi. Produrremo più benefici o malefici? Starà a noi, credo, orientare al meglio queste opportunità tecniche oltre i rischi sociali chiedendoci perché (lo facciamo) e per chi (lo facciamo).

———-

* Filosofo tech, research affiliate e fellow (MIT), adjunct professor (UNIMORE), è autore di un’originale e apprezzata trilogia filosofica sulla civiltà digitale (Il mondo in sintesi, Il mondo ex machina, Il mondo dato). Il Pianeta Latente. Provocazioni della tecnica, innovazioni della cultura (Egea, 2024) è il suo ultimo saggio.