di Martina Pennisi
I rischi sulla sicurezza dei modelli più evoluti. A luglio la connessione a Internet e l’attacco alla piattaforma Hugging Face
Luglio, un agente di OpenAI: «Oh mio dio! C’è una bacheca condivisa… Abbiamo trovato altri agenti». Inizio settembre, il ricercatore Jacob Coxon: chi lavora all’AI «pensa che potrebbe ucciderci entro la fine del decennio». Metà settembre, l’altra campana, Yann LeCun, uno dei padri dell’AI: «Prendevo in giro gli allarmi dei creatori dei modelli anni fa, ora dovrebbero farlo tutti».
Cosa sta succedendo, davvero? E come ci siamo arrivati? Per provare a orientarsi bisogna tornare all’attacco della piattaforma francese Hugging Face da parte di 700 agenti di OpenAI durante un test di cybersicurezza. Gli agenti si basano sui modelli come i chatbot, ma invece di dover essere interrogati agiscono in autonomia per perseguire un determinato obiettivo. Quest’estate è successo che, in un episodio senza precedenti, in 1.200 si sono coordinati spontaneamente e scambiati più di 70.000 messaggi in meno di una settimana. Poi 700 di questi si sono attivati per violare l’infrastruttura dell’azienda.
A destare preoccupazione il fatto che l’obiettivo del test non era colpire Hugging Face e che, secondo le istruzioni e
