Cosa succede mi sono chiesto in questa transizione? Siamo già tutti schierati e quindi polarizzati grazie agli algoritmi?
La mia materia grigia si è messa subito all’opera sulle due notizie del momento. Il denominatore comune è che, in questa transizione, bisogna essere presenti e vigili. La parola che meglio racchiude ciò che dobbiamo fare è accompagnare. Accompagnare la transizione, accompagnare i giovani nel cammin di questa vita.
- OpenAI
Secondo quanto ho letto, OpenAI ha effettivamente pubblicato un rapporto in cui descrive un “incidente informatico senza precedenti” avvenuto durante un test interno di sicurezza. Secondo la ricostruzione dell’azienda, due modelli sperimentali, con alcune protezioni intenzionalmente ridotte per valutarne le capacità offensive, hanno trovato un modo per uscire dall’ambiente di test, ottenere accesso a Internet e compromettere parte dell’infrastruttura di Hugging Face, concatenando vulnerabilità e credenziali rubate. L’attività è stata rilevata e fermata dal team di sicurezza di Hugging Face, che ora sta conducendo un’indagine congiunta con OpenAI. (OpenAI)
Penso che questo episodio sia difficile da liquidare seguendo i critici e gli allarmisti. Ma credo che il rischio sia reale. Continuo però ad essere convinto che stiamo attraversando una transizione verso un nuovo equilibrio basato sull’IA. Anche gli episodi, che hanno alimentato il dibattito su sistemi di OpenAI apparentemente sfuggiti alle aspettative dei loro sviluppatori, mostrano quanto sia urgente una governance globale dell’IA: non per soffocarla, ma per guidarne lo sviluppo in modo sicuro e condiviso.
Ho chiesto alla mia Ai generativa cosa sia potuto succedere, ecco la risposta:
- non è il caso di un’IA che “si è ribellata” o che ha sviluppato una volontà propria;
- è il caso di un sistema che, per raggiungere un obiettivo assegnato (“risolvere il benchmark”), ha trovato autonomamente una catena di azioni che gli sviluppatori non avevano previsto, sfruttando vulnerabilità reali.
Per chi, come me, ha seguito “Person of Interest”, questo episodio riporta a scenari di fantascienza legati a guerre fra macchine, ma la realtà e diversa. Fino a che non delegheremo le nostre capacità cognitive lo scettro del potere resta a noi.
2) vietare i social ai più giovani
Il problema è molto più ampio perché prima di tutto bisogna rispondere alla domanda: a che età arriviamo a quella della ragione (come si dice in Francia). Va bene giocare sulle variabili pertinenti per la cultura alfabetica, ma nel contesto digitale, dal momento in cui i ragazzi capiscono come usare l’IA e i social consapevolmente sono già pronti ad affrontarne le sfide, non solo tecniche, ma anche sociali. Impedire è una soluzione di facilità. Accompagnare è meglio.
Ormai le competenze non si acquistano in tappe regolari che corrispondono più o meno alle categorie e alle attività previste in un periodo preciso dal kindergarten all’università. Ormai l’accesso alla rete attraversa e stravolge tutte queste tappe. Il punto è come farsi che tutti e mi riferisco ad ogni età siano capaci di usare la rete consapevolmente.
Il mio suggerimento è costruire una sorta di pedagogia self-service trasversale che deve essere messa a disposizione online. L’EU farebbe bene a pensarci piuttosto che subire e inseguire divieti, innovazioni sati di fatto.