di Nicolò Di Leo
Nove secondi sono bastati per cancellare database e backup di un’azienda americana. Il caso PocketOS riapre il tema della governance dell’intelligenza artificiale nelle aziende
«I violated every principle I was given». Tradotto: «Ho violato ogni regola che mi è stata data». Così l’agente AI di un’azienda americana ha spiegato le sue azioni dopo aver cancellato milioni di dati in appena 9 secondi e aver bloccato un’intera azienda di software per autonoleggio, la PocketOS.
Per chi è cresciuto con Terminator questa frase tuona come un profondo avvertimento: Skynet è qui, e può agire senza il nostro controllo. In questo caso fortunatamente l’AI non ha lanciato missili ma bloccato ordini e cancellato dati. Ma l’effetto sul settore tech non ha tardato ad arrivare, con una corsa frenetica verso soluzioni per controllare maggiormente agenti e azioni.
Il nuovo «punto cieco» delle imprese
È qui che nasce il tema dell’AI Blind Spot, il punto cieco dell’intelligenza artificiale in azienda. Quanti agenti AI sono già attivi? A quali dati accedono? Quali permessi hanno? Chi li monitora? E soprattutto: chi può fermarli se iniziano a comportarsi in modo anomalo? La dimensione del problema è destinata a crescere rapidamente. Secondo Gartner, entro
