di Gianluca Mercuri
Il rischio di cui parlano gli esperti è l’automiglioramento ricorsivo (Rsi, Recursive self improvement) e consiste esattamente nella capacità dell’IA di perfezionarsi autonomamente. Con un intervento umano sempre minore
Ormai il parallelo linguistico con la corsa al nucleare è così debordante, da rendere bene l’idea del momento: l’Intelligenza artificiale come la nuova bomba atomica. Dario Amodei che propone il disarmo bilaterale a Sam Altman come Reagan con Gorbaciov. L’idea di istituire un’Agenzia internazionale come quella per l’energia nucleare. Ma quanto il paragone sia calzante, e quanto quel mondo di nerd che sta prendendo possesso del mondo di tutti noi sia convinto – consapevole – dei rischi, lo rivela soprattutto la frase di uno studente dell’University College London: «A questo punto siamo tutti dei mini Oppenheimer». Il suo insegnante, Tim Rocktäschel, un ex ricercatore top di Google DeepMind, ha dovuto convenire che si trattava di una «valutazione equa».
Il dibattito
Lo scambio, raccontato ai primi di giugno dal FT, risale alla primavera, dunque ben prima dell’allarme settembrino lanciato dal 27enne Jacob Coxon sui «rischi di estinzione entro il 2030», che ha riacceso il dibattito. È da mesi, infatti, che si discute del fattore che rischia
