Paolo Benanti

E’ Paolo Benanti che parla di IA alla riunione dei rappresentanti del Sovrano Ordine di Malta, la sede è splendida. Famosa perché dal buco della serratura del grande cancello si vede la cupola di San Pietro. Noi scrutiamo nella mente di uno dei massimi esperti di Intelligenza artificiale italiano per capire cosa succede con l’esplosione delle macchine, che sempre più esperti invitano a non definire intelligenti.

E a questo proposti Benanti racconta di aver fatto un esperimento semplice chiedendo alla macchina un metodo per eliminare il cancro. La risposta è semplice: “eliminare gli uomini”. Certo senza umani la malattia non avrebbe il luogo dove crescere: il corpo.

“Ovviamente è impossibile da praticare questo metodo – sottolinea Benanti – quindi è l’uomo che sceglie cosa mettere in pratica  dei suggerimenti  della macchina. Il problema, in questo caso, come in altri, è la parte umana che deve validare lo strumento e decidere quali sono i confini di sicurezza”.

Poi passa a parlare di pace, di trattati internazionali, che fino ad oggi hanno funzionato ma che siccome il mondo cambia devono adeguarsi alla gestione della complessità dell’oggi: “per arrivare ad una win win situation, dove l’equilibrio di interessi tra le parti sia garanzia, c’è bisogno di preparare il terreno affinché emerga una necessità culturale“.

Poi per evidenziare qual è la differenza radicale tra il mondo digitale e il mondo tradizionale porta il pubblico a riflettere sulle cosiddette armi cyber: “E’ impensabile un trattato internazionale sulle armi cyber come quello fatto, per esempio, sulle armi nucleari biologiche e chimiche per un problema fondamentale: lo stoccaggio perché se i missili nucleari occupano uno spazio in un luogo, un’arma cyber no” .

E allora nessuno dichiarerebbe di esserne in possesso. Il dialogo è determinante per trovare soluzioni ad attacchi che possono ledere la salute dei cittadini, l’esempio è dedicato al contesto perché il Sovrano Ordine di Malta è conosciuto per il suo servizio ospedaliero: “Facciamo fatica a capire la natura specifica dello strumento – spiega il padre, anche, consigliere del Papa per l’AI – perché lo pensiamo come software e non lo riconosciamo hardware cioè capace di indurre effetti reali e potenti all’interno dello spazio fisico come potrebbe succedere nel caso si servizi sanitari”.

Si sa ormai che l’artefatto tecnologico, in quanto tale, non è mai neutrale, in questo caso l’esempio riportato è l’autostrada che connette Manhattan a Long Island, che è stata costruita in modo che i bus non potessero passare, escludendo così l’accesso ad una buona parte della popolazione che prende il bus. “Ma ora il punto è che i grandi imprenditori della Silicon Valley pensano anche di aver un senso di missione – dice Benanti – nel dover fare il maggior bene possibile, concetto legato all’utilitarismo.  Se su una barca in mezzo a un lago che affonda bisogna salvare qualcuno,  è chiaro che da un punto di vista utilitaristico l’azione  deve essere fatta perché l’effetto è positivo. Ma se  la persona fosse insalvabile, pensiamo a Hitler, per esempio,  la riflessione condivisa riporta al calcolo di utilità: quando si deve fermare per rendere l’azione giustificata e giustificabile. Le scelte che facciamo nell’oggi non devono trasformarsi in una sorta di nuovo paternalismo in cui pochi soggetti molto potenti decidono per tutti”.

La schiavitù moderna potrebbe essere legata all’estrazione di capacità cognitiva “in uno stile che di fatto potrebbe essere quello di un nuovo colonialismo digitale che sottrarrà a queste persone lavoro”.

Dobbiamo agire e probabilmente l’IA Act Europeo è un punto di partenza, il rischio è  la scomparsa della middle class intellettuale e che la velocità del cambiamento impedisca di rinnovare proprio il contesto del lavoro. Il paradosso del nostro mondo indicato da  Moravec (informatico padre di questo settore) dice che  è molto più facile far fare a una macchina un compito cognitivo difficilissimo che uno facile. “Su Internet è possibile fare calcoli acquistando a meno di 1 €  la capacità  della macchina – spiega Benanti – ma se vogliamo una protesi di una mano che apre una maniglia il costo sale. L’essere umano bambino di quattro anni apre la porta e scappa in strada, per fare una radice quadrata dovrà avere almeno 12 o 13 anni, ecco questa differenza è un pò il paradosso di fronte al quale ci troviamo”.

Allora è evidente che se una macchina  riesce meglio a lavorare i numeri e i dati ma non riesce ad eseguire compiti fisici, significa che alcune professioni saranno molto più danneggiate.  “Il settore bancario è molto più facilmente sostituibile di un idraulico  – conclude Benanti – è un esempio per evidenziare che stiamo sostanzialmente andando a sostituire lavori che caratterizzano quello strato di popolazione che riceveva i salari più alti.  Ciò può condurre a disuguaglianza che per qualcuno si risolve nella creazione di nuovi lavori, per altri nel non automatizzare tutti i processi o addirittura nel reddito universale. C’è anche chi  propone una forma di vita, il sogno dell’umanità, dove  non lavorerà più nessuno. Il punto chiaro è che non possiamo pensare che tutto questo accada senza una governance politica, perché gli effetti potrebbero essere in qualche misura detonanti”.

Articolo precedenteGEN Z: il 65% ha subito violenza. Spiccano bullismo e cyberbullismo
Articolo successivoDi corsa e di carriera ed altri racconti
Giornalista curiosa, la divulgazione scientifica è nel suo DNA. Le tecnologie applicate al mondo dei media, e non solo, sono la sua passione. L'innovazione sociale, di pensiero, di metodo e di business il suo campo di ricerca. II presidente Sergio Mattarella la ha insignita dell'onorificenza di Cavaliere al Merito della Repubblica Italiana. Vice Presidente dell’Osservatorio TuttiMedia, associazione culturale creata nel 1996, unica in Europa perché aziende anche in concorrenza siedono allo stesso tavolo per costruire il futuro con equilibrio e senza prevaricazioni. Direttrice della prima rivista di cultura digitale Media Duemila (fondata nel 1983 da Giovanni Giovannini storico presidente FIEG) anticipa i cambiamenti per aiutare ad evitare i fallimenti, sempre in agguato laddove regna l'ignoranza. Insignita dal presidente Mattarella dell'onorificenza di "Cavaliere al Merito della repubblica Italiana. Fa parte del gruppo di esperti CNU Agcom. E' fra i 25 esperti di digitale scelti dalla Rappresentanza Italiana della Commissione Europea. La sua ultima pubblicazione: Oltre Orwell il gemello digitale anima la discussione culturale sul doppio digitale che dalla macchina passa all'uomo. Già responsabile corsi di formazione del Digital Lab @fieg, partecipa al GTWN (Global Telecom Women's Network) con articoli sulla rivista Mobile Century e sui libri dell'associazione. Per Ars Electronica (uno dei premi più prestigiosi nel campo dell'arte digitale) ha scritto nel catalogo "POSTCITY". Già docente universitaria alla Sapienza e alla LUISS.