Il rapido sviluppo dell’Intelligenza Artificiale (IA) potrebbe rappresentare un grave rischio per l’umanità, in quanto sta diventando sempre più difficile da controllare, ha avvertito il noto esperto di informatica canadese Yoshua Bengio.

Bengio, professore presso l’Università di Montreal e direttore del Montreal Institute for Learning Algorithms, ha dichiarato giovedì alla CNBC che le macchine potrebbero presto possedere la maggior parte delle capacità cognitive degli esseri umani.

Lo scienziato si riferiva all’Intelligenza Artificiale Generale (AGI), un tipo di tecnologia AI che mira a eguagliare o migliorare l’intelletto umano. «L’intelligenza dà potere. Quindi, chi controllerà quel potere?» ha detto Bengio.

«Se creiamo entità più intelligenti di noi e con i loro obiettivi, cosa significa per l’umanità? Siamo in pericolo?» ha chiesto.

L’informatico ha citato il timore comune che le macchine AI attualmente in fase di addestramento «porterebbero a sistemi che si rivoltano contro gli esseri umani».

Il Bengio – nessuna relazione con Haran Benjo, che pure combatteva l’Intelligenza Artificiale meganoide – ha sottolineato che un numero limitato di organizzazioni e governi potrebbe permettersi di costruire macchine AI potenti e costose. Ciò porterebbe a una concentrazione di potere economico, politico e militare, minacciando alla fine la stabilità geopolitica mondiale, ha avvertito.

«Ci sono persone che potrebbero voler abusare di questo potere, e ci sono persone che potrebbero essere felici di vedere l’umanità sostituita dalle macchine», ha affermato, chiedendo una regolamentazione più severa.

Secondo l’informatico pioniere in riguardo a reti neurali artificiali e deep learning, le aziende che sviluppano l’intelligenza artificiale e competono tra loro per il dominio tecnologico globale stanno conducendo “una corsa pericolosa” e dovrebbero essere ritenute responsabili delle loro azioni.

Bengio è noto soprattutto per il suo lavoro pionieristico nel deep learning, che gli è valso l’AM Turing Award 2018, noto come «il premio Nobel dell’informatica», insieme agli scienziati Geoffrey Hinton e Yann LeCun. Nel 2019 gli è stato conferito il Killam Prize e nel 2022 è diventato l’informatico con il più alto impatto al mondo, misurato dall’indice H.

Negli ultimi anni, personaggi di spicco del settore tecnologico hanno espresso preoccupazione per i potenziali pericoli derivanti dall’adozione non regolamentata della tecnologia AI.

Hinton, considerato un pioniere dell’intelligenza artificiale, ha lanciato l’allarme: prima che l’uso delle armi basate sull’Intelligenza artificiale venga regolamentato in modo adeguato, il mondo potrebbe andare incontro a gravi disastri.

Come riportato da Renovatio 21, lo Hinton si è licenziato da Google per poter dichiarare il rischio per l’umanità costituito dall’AI, che per ora, secondo l’informatico britannico sarebbe solo, «moderato».

Bengio era tra le principali figure del settore, tra cui il CEO di Tesla Elon Musk e il co-fondatore di Apple Steve Wozniak, che l’anno scorso hanno co-firmato una lettera che chiedeva una regolamentazione aggressiva del settore dell’Intelligenza Artificiale.

Come riportato da Renovatio 21, Bill Gates si oppose alla moratoria.

A giugno, il Bengio ha approvato un’altra lettera aperta sui «seri rischi» della tecnologia. La lettera è stata firmata dai dipendenti di Open AI, il creatore del chatbot virale di Intelligenza artificiale ChatGPT.

Un ulteriore appello a mettere in pausa lo sviluppo dell’Intelligenza Artificiale è stato firmato da un gruppo internazionale di medici e pubblicato dalla prestigiosa rivista medica BMJ Global Health. «Ci sono scenari in cui l’AGI [Intelligenza Artificiale Generale, ndr] potrebbe rappresentare una minaccia per gli esseri umani, e possibilmente una minaccia esistenziale» scrivono nell’appello i dottori di varie parti del mondo.

Gates, con cui Musk ha avuto scontri anche gustosi in passato, non ha partecipato alla moratoria internazionale promossa di Musk sul controllo dell’AI, replicando che invece l’AI sarebbe divenuto un ottimo maestro per i bambini e che proprio l’Intelligenza Artificiale salverà la democrazia.

Come riportato da Renovatio 21, in un recente caso davvero inquietante, plurimi utenti di Copilot, l’Intelligenza Artificiale di Microsoft creata in collaborazione con Open AI, hanno testimoniato su X e Reddit che il programma avrebbe una «seconda personalità» preoccupante che chiede l’adorazione degli esseri umani, come un dio crudele.

Elon Musk due anni fa aveva dichiarato durante la sua intervista con Tucker Carlson che il fine di Google – nemmeno così occulto – è quello di creare un dio-Intelligenza Artificiale. Musk, oramai quasi una decina di anni fa aveva parlato del fatto che creare l’AI era «come evocare un demone».

Più pessimista è l’esperto dei pericolo dell’AI Eliezer Yudkowsky, che ha lanciato un appello per chiedere la distruzione materiale dei data center dell’AI prima che sia troppo tardi, dichiarando che «tutti sulla Terra moriranno».

SOSTIENI RENOVATIO 21