Chi sviluppa l’intelligenza artificiale crede fermamente che l’IA potrebbe ucciderci tutti entro la fine del decennio. A scriverlo in un post su X è Jacob Coxon, 27 anni, matematico e ricercatore britannico. Per questo motivo si sarebbe addirittura licenziato da Anthropic, l’azienda per la quale lavorava, non volendo essere corresponsabile di questa eventualità.
La ragione delle sue dimissioni, ha dichiarato l’esperto, è legata all’approccio irresponsabile di Anthropic e del suo principale competitor, ChatGPT. Entrambi, ha scritto, stanno giocando con le nostre vite correndo verso la super intelligenza auto migliorante. II timore riguarda soprattutto I’evoluzione futura della tecnologia, quando saranno sviluppati sistemi sempre più autonomi, capaci di migliorarsi, condurre attività complesse e acquisire progressivamente maggiore capacità di agire nel mondo reale.
Parole allarmanti, rilanciate oggi dalla Bbc, a cui sono seguite quelle di Evan Hubinger, responsabile nella stessa azienda del processo che mira a rendere un’intelligenza artificiale sicura per gli umani. “Jacob ha ragione – ha detto – crediamo davvero che l’IA possa sterminare tutta l’umanità. C’è una percentuale del 10% che questo accada. Non è la prima volta che scienziati l’ingegneri delle Big Tech americane lanciano l’allarme sui rischi legati all’intelligenza artificiale”.
“Tuttavia – ha aggiunto Hubinger – questa volta ci troviamo in un contesto specifico, perché le aziende tecnologiche fanno a gara per costruire l’intelligenza artificiale più potente al mondo prima del proprio competitor, una battaglia interna tra società americane sempre più finanziate dal governo federale. E una guerra contro le aziende cinesi, un conflitto aperto per ottenere questa potenza sopra umana che è diventata davvero la nuova bomba nucleare”.
Il parere del dott. Marco Giacalone, informatico palermitano ed esperto AI
“Quando oggi pensiamo all’intelligenza artificiale pensiamo soprattutto a una chat: facciamo una domanda, riceviamo una risposta e siamo noi a decidere cosa farne. L’IA agentica è un’altra cosa. Un sistema può essere composto da più agenti con compiti diversi, capaci di agire autonomamente e di coordinarsi tra loro per raggiungere un obiettivo.
Un esempio molto semplice: chiedo di organizzare un viaggio. Un agente cerca i voli, uno gli alberghi, un altro controlla il budget e un altro ancora confronta le alternative. Possono scambiarsi informazioni, correggersi e “mettersi d’accordo” sulla soluzione migliore senza che io debba intervenire ad ogni passaggio.
È soprattutto quando dall’IA che risponde passiamo a quella che agisce, decide una sequenza di azioni e interagisce con altri sistemi che il tema della sicurezza cambia completamente. Oggi l’affermazione “tra dieci anni moriremo tutti” è catastrofica, ma non abbasserei la guardia: quale grado di autonomia saremo disposti ad affidare ai sistemi di domani?”.
