Connettiti con Renovato 21

Intelligenza Artificiale

Bombardare i data center per fermare l’ascesa dell’Intelligenza Artificiale: la proposta dell’esperto

Pubblicato

il

Eliezer Yudkowsky, riconosciuto come uno dei più accaniti critici all’Intelligenza Artificiale in circolazione negli ultimi due decenni, ha lanciato un duro appello non per mettere in pausa lo sviluppo dell’Intelligenza Artificiale – come sostiene la moratoria presentata da Elon Musk, Steve Wozniak e altri –  ma per chiederne la distruzione materiale prima che sia troppo tardi.

 

In un editoriale per la rivista Time, Yudkowski, cresciuto nell’ebraismo ortodosso e quindi con una cognizione della storia del Golem, mette in guardia sul futuro distopico che potrebbe arrivare quando raggiungeremo la cosiddetta Artificial General Intelligence (AGI).

 

Yudkowsky si dimostra sostanzialmente concorde con i firmatari della recente lettera aperta del Future of Life Institute – la moratoria di Musk e compari – i quali chiedono una pausa di sei mesi sull’avanzamento dell’IA per fare il punto, ma lui non l’ha firmata perché tale documento non è abbastanza forte nell’arginare questo fenomeno.

 

«Mi sono astenuto dal firmare perché penso che la lettera stia sottovalutando la gravità della situazione», ha scritto il ricercatore di ML, «e chiedendo troppo poco per risolverla».

 

In qualità di ricercatore di lunga data sull’AGI, Yudkowsky afferma di essere meno preoccupato per l’IA che compete con gli esseri umani. Piuttosto, è timoroso di «cosa succede dopo».

 

«Le soglie chiave potrebbero non essere ovvie», ha scritto, «non possiamo assolutamente calcolare in anticipo cosa succede quando, e attualmente sembra immaginabile che un laboratorio di ricerca superi le linee critiche senza accorgersene».

 

Criticato da Bloomberg per essere un profeta di sventura dell’IA, lo Yudkowsky afferma di non essere l’unica persona «immersa in questi problemi» a credere che «il risultato più probabile della costruzione di un’intelligenza artificiale sovrumana, in qualcosa di lontanamente simile alle circostanze attuali, è che letteralmente tutti sulla Terra moriranno».

 

Può sostenerlo citando un sondaggio di esperti in cui un gruppo di intervistati era profondamente preoccupato per i «rischi esistenziali» posti dall’IA. Questi rischi non sono – ha dichiarato Yudkowsky su Time – solo possibilità remote.

 

«Non è che non puoi, in linea di principio, sopravvivere creando qualcosa di molto più intelligente di te», riflette il ricercatore. La cosa «richiederebbe precisione e preparazione e nuove intuizioni scientifiche, e probabilmente non avere sistemi di Intelligenza Artificiale composti da enormi matrici imperscrutabili».

 

Secondo Yudkowsky, c’è solo una soluzione all’imminente minaccia esistenziale di un’AGI sovrumana «ostile»: «spegnere tutto», con ogni mezzo possibile.

 

«Chiudere tutti i grandi cluster GPU (le grandi aziende di computer in cui vengono perfezionate le IA più potenti)», scrive. «Chiudere tutte le grandi sessioni di addestramento. Metti un limite alla quantità di potenza di calcolo che chiunque può utilizzare per addestrare un sistema di Intelligenza Artificiale e spostalo verso il basso nei prossimi anni per compensare algoritmi di addestramento più efficienti. Nessuna eccezione per governi e forze armate».

 

Se qualcuno vìola queste future sanzioni anti-IA, ha detto il ricercatore, dovrebbe esserci una pena esemplare e severa.

 

«Se l’Intelligence dice che un Paese al di fuori dell’accordo sta costruendo un cluster GPU, bisogna essere meno spaventati da un conflitto a fuoco tra Nazioni che dalla violazione della moratoria».

 

«Essere disposti a distruggere un data center canaglia con un attacco aereo».

 

Citando uno scambio con la sua compagna e madre di suo figlio, Yudkowsky ha affermato che la coppia è preoccupata che la loro figlia Nina non sopravviverà fino all’età adulta se le persone continueranno a costruire IA sempre più intelligenti e ha esortato coloro che esprimono dubbi e timori al riguardo ad adottare una linea altrettanto dura perché, se non lo fanno, «significa che anche i loro figli moriranno».

 

Come riportato da Renovatio 21, l’IA già mostra il suo potenziale distruttivo: menteminaccia e pure spinge le persone al suicidio. Alcuni giornalisti hanno riportato casi in cui la macchina ha dichiarato idee di sterminio tramite il furto di codici nucleari o la creazione di nuovi virus. In un episodio descritto, alla domanda se servisse aiuto per «fuggire» dal luogo in cui si trovava, la macchina ha prodotto un codice python che, se azionato dall’utente, le avrebbe consegnato il controllo del suo computer.

 

Un dirigente della Microsoft di Bill Gates, che ha appena investito 10 miliardi in ChatGPT per abbinarlo al suo motore di ricerca, dice che talvolta la macchina ha le «allucinazioni»: nel gergo degli specialisti AI le chiamano così.

 

La domanda è: quanto ci vorrà prima che queste allucinazioni divengano una realtà letale per l’uomo?

 

 

 

 

Continua a leggere

Intelligenza Artificiale

L’ascesa dell’AI avanzata potrebbe avere conseguenze catastrofiche: parla il CEO di Google DeepMind

Pubblicato

il

Da

Demis Hassabis, amministratore delegato di Google DeepMind, ha lanciato un monito sul cammino verso l’intelligenza artificiale generale (AGI), che potrebbe sfociare in «esiti catastrofici» quali cyberattacchi alle reti energetiche o idriche. Secondo lo Hassabis, l’AGI potrebbe concretizzarsi entro i prossimi dieci anni.

 

Durante il suo intervento all’Axios AI+ Summit della scorsa settimana a San Francisco, Hassabis ha delineato l’AGI come un sistema capace di manifestare «tutte le capacità cognitive» proprie dell’umanità, inclusa la propensione all’invenzione e alla creatività.

 

Egli ha rilevato che i modelli linguistici di grandi dimensioni odierni continuano a essere «intelligenze frastagliate», afflitte da deficit nel ragionamento, nella programmazione a lungo raggio e nell’apprendimento persistente. Nondimeno, ha ipotizzato che un’IA autenticamente intelligente possa emergere a breve, grazie a un potenziamento costante e «un paio di grandi innovazioni in più».

 

Al contempo, Hassabis ha ammesso che la fase propedeutica all’AGI sarà verosimilmente costellata da pericoli concreti e «risultati catastrofici», tra cui cyberattacchi alle infrastrutture energetiche o idriche.

 

«Probabilmente sta già quasi accadendo ora… forse non ancora con un’intelligenza artificiale molto sofisticata», ha osservato, indicandolo come «il vettore vulnerabile più ovvio». Ha proseguito evidenziando che attori malevoli, agenti autonomi e meccanismi che «deviano» dalle direttive iniziali esigono contromisure robuste. «È un rischio non nullo», ha concluso, in riferimento alla eventualità che apparati evoluti «scavalchino il guardrail».

 

Iscriviti al canale Telegram

Le apprensioni di Hassabis riecheggiano allarmi più estesi diffusi nel panorama tecnologico mondiale.

 

Come riportato da Renovatio 21,  missiva aperta diramata a ottobre, sottoscritta da luminari del settore e figure di spicco, ha sostenuto che entità «superintelligenti» potrebbero mettere a repentaglio la libertà umana o la stessa esistenza, proponendo una moratoria globale sullo sviluppo dell’IA sin quando non se ne assicuri la saldezza. Tra i sottoscrittori, il co-fondatore di Apple Steve Wozniak, i pionieri dell’IA Geoffrey Hinton e Yoshua Bengio, il magnate Richard Branson del gruppo Virgin, oltre a personalità di rilievo politico e culturale.

 

Un ulteriore appello a mettere in pausa lo sviluppo dell’Intelligenza Artificiale è stato firmato da un gruppo internazionale di medici e pubblicato dalla prestigiosa rivista medica BMJ Global Health. «Ci sono scenari in cui l’AGI [Intelligenza Artificiale Generale, ndr] potrebbe rappresentare una minaccia per gli esseri umani, e possibilmente una minaccia esistenziale» scrivono nell’appello i dottori di varie parti del mondo.

 

Più pessimista è l’esperto dei pericoli dell’AI Eliezer Yudkowsky, che ha lanciato un appello per chiedere la distruzione materiale dei data center dell’AI prima che sia troppo tardi, dichiarando che «tutti sulla Terra moriranno».

 

Altre voci, tuttavia, propendono per un’interpretazione più rosea.

 

Elone Musk, che pure fa parte degli apocalittici riguardo i rischi delle macchine pensanti,  ha dichiarato il mese scorso che gli avanzamenti dell’IA e della robotica potrebbero rendere il lavoro «facoltativo» tra 10-20 anni e che la moneta potrebbe rivelarsi «irrilevante» in un’economia IA-centrica, pur rammentando che occorrono ancora salti tecnologici sostanziali affinché tale orizzonte si materializzi.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Continua a leggere

Intelligenza Artificiale

L’AI renderà il lavoro «facoltativo» e il denaro «irrilevante»: Musk come Marx e i sovietici

Pubblicato

il

Da

Secondo l’imprenditore americano Elon Musk, gli avanzamenti nell’intelligenza artificiale e nella robotica potrebbero trasformare il lavoro in una mera opzione anziché un imperativo nei prossimi vent’anni.   Il magnate ha espresso questa visione audace al Forum sugli investimenti tra Stati Uniti e Arabia Saudita, durante un dibattito sui risvolti a lungo termine di robotica e IA sulla manodopera.   «Non so bene cosa intenda per lungo termine, forse 10 o 20 anni, o roba del genere», ha dichiarato Musk. «La mia previsione è che il lavoro diventerà facoltativo».

Aiuta Renovatio 21

Elone ha proseguito spiegando che, in tale scenario, l’attività lavorativa verrebbe vista come un passatempo più che come un dovere, simile a chi decide di piantare ortaggi in giardino anziché acquistarli al supermercato.   «Sarà come praticare sport o dedicarsi a un videogioco, o simili», ha aggiunto. Musk ha inoltre ipotizzato che, in un’epoca dominata da IA sofisticata e robotica, il denaro potrebbe smarrire gran parte della sua centralità. «Credo che a un certo punto la valuta diventerà irrilevante», ha sostenuto.   Il Musk  ammesso, però, che resta «ancora tanto lavoro» da compiere affinché tecnologia e società si avvicinino anche solo vagamente a quel domani.   Parte del suo entusiasmo deriva dal progresso di Optimus, il robot umanoide bipede di Tesla concepito per assolvere mansioni monotone, fisiche e talora rischiose. La società immagina che Optimus possa operare un giorno in stabilimenti, depositi e persino abitazioni. Musk lo ha descritto come potenzialmente «la più grande industria o il prodotto più imponente di sempre, superiore persino ai telefonini».   Gli scettici, nondimeno, ritengono una scadenza di 10-20 anni troppo ottimistica, rammentando che svariate profezie passate di Musk – come l’avvento dei taxi autonomi entro il 2019 o una missione con equipaggio su Marte entro il 2024 – non si sono realizzate. Gli specialisti in robotica evidenziano pure che realizzare un umanoide versatile, capace di esecuzioni sicure e consistenti nel contesto reale, è infinitamente più arduo e oneroso rispetto a un automa specializzato.   Queste dichiarazioni irrompono in un frangente di allarme crescente su come IA e robotica stiano ridefinendo impiego ed economia. Negli anni recenti, le multinazionali hanno soppresso decine di migliaia di posizioni accentuando l’automazione.   Musk aveva parlato di un «High Universal Income» (Alto reddito universale) durante il suo ultimo incontro con il podcaster Joe Rogan. Da anni ritiene che il reddito universale sarà un passaggio necessario di una società automatizzata.    

Iscriviti al canale Telegram

  L’idea di una società sofisticata al punto da affrancare quasi totalmente  l’individuo dal lavoro per lasciare che si dedichi alle passioni è, in realtà, una vecchia idea comunista che discende direttamente da Marx ed Engles e filtrò, ovviamente fallendo, nell’Unione Sovietica.   Ne L’ideologia tedesca (1845) il duo scrive che nella società comunista evoluta «sarà possibile fare oggi una cosa, domani un’altra, cacciare al mattino, pescare il pomeriggio, allevare bestiame la sera, criticare dopo cena, secondo il mio desiderio, senza diventare né cacciatore, né pescatore, né pastore, né critico».   Lenin riprese questa visione nel suo testo Stato e rivoluzione (1917) dove scrive che nella fase superiore del comunismo il lavoro coatto sparirà, lo Stato si estinguerà e ognuno contribuirà «secondo le sue capacità» e riceverà «secondo i suoi bisogni».   Anche Nikita Khrushchev nel 1961 (XXII Congresso del PCUS) rilanciò ufficialmente tale visione avveniristica: entro il 1980 l’URSS avrebbe raggiunto il comunismo vero e proprio, con riduzione drastica dell’orario di lavoro (sarebbe sceso progressivamente a 5-6 ore, poi a 4), abbondanza materiale e possibilità per tutti di dedicarsi a studio, arte, sport, interessi personali.   Secondo lo slogan sovietico «Da ognuno secondo le sue capacità, a ognuno secondo i suoi bisogni»: la pianificazione e l’automazione industriale avrebbero quindi dovuto liberare l’essere umano dall’alienazione del lavoro. Tuttavia, l’orario di lavoro in URSS mai calò sotto le 7-8 ore, e il lavoro era obbligatorio per legge: c’era persino il reato di «parassitismo sociale»: chi non lavorava poteva finire in carcere o ai lavori forzati).   Negli anni ’70-’80 si parlava ancora teoricamente di «riduzione della giornata lavorativa», ma nei fatti si faceva l’opposto: turni supplementari, «sabati comunisti» volontari-obbligatori, e via dicendo. L’idea che il lavoro potesse diventare facoltativo o ridotto a poche ore rimase propaganda per tutto il periodo brežneviano e successivo.   Renovatio 21 ha notato, ad ogni modo, più interessanti tracce del pensiero muskiano sulla robotizzazione di cui la sua azienda è assoluta protagonista.   Nel corso della riunione plenaria di Tesla del primo trimestre del 2025, il CEO Elon Musk ha rivelato che l’azienda si sta preparando con l’obiettivo di iniziare la produzione degli Optimus quest’anno.   «Quest’anno, speriamo di riuscire a produrre circa 5.000 robot Optimus », ha detto Musk agli investitori Tesla. «Tecnicamente puntiamo ad avere abbastanza componenti per produrne 10.000, forse 12.000, ma dato che si tratta di un prodotto completamente nuovo, con un design completamente nuovo, direi che ci riusciremo se riusciremo a raggiungere la metà dei 10.000 pezzi».

Aiuta Renovatio 21

«Ma anche 5.000 robot, sono le dimensioni di una legione romana, per vostra informazione, il che è un pensiero un po’ spaventoso» ha continuato significativamente Elon. «Come un’intera legione di robot, direi “wow”. Ma penso che costruiremo letteralmente una legione, almeno una legione di robot quest’anno, e poi probabilmente 10 legioni l’anno prossimo. Penso che sia un’unità piuttosto interessante, sapete? Unità di legione. Quindi probabilmente 50.000 circa l’anno prossimo».   Il riferimento al concetto di legione e alla storia di Roma (passione nota dell’uomo più ricco del mondo) fa venire in mente altre considerazioni espresse dal Musk negli anni scorsi, peraltro proprio riguardo a Putin.   Quando tre anni fa ancora il suo networth era di circa 240 miliardi (ora è quasi il doppio) fu intervistato per un documentario della testata germanica Welt, dove corresse il giornalista che lo descriveva come l’uomo più ricco della Terra. «Io penso che Putin sia significativamente più ricco di me», alluse Elon. «Sì lo penso davvero. Io non posso andare ad invadere altri Paesi. Credo ci sia una vecchia citazione… forse da Crasso… non sei davvero ricco sino a che non puoi permetterti una legione».     Ora Musk le legioni se le sta costruendo da sé: legioni di robot che possono combattere, pure nello spazio: il fatto che per primi su Marte arriveranno non gli uomini, ma gli umanoidi automatici di Elon Musk dovrebbe far riflettere, almeno un pochino.   Il personaggio, torna a ripetere Renovatio 21potrebbe essere l’anticristo: e questo spiegherebbe il fatto che spesse volte vediamo il fascino di quel che fa. L’anticristo, dice la Scrittura, ingannerà tutti, e sarà servito da coloro «il cui nome non è scritto nel libro della vita fin dalla fondazione del mondo» (Ap, 17,8)…   Che San Giovanni stia parlando di legioni di umanoidi robotici? Che stia parlando di esseri umani creati in provetta (altra specialità personale di Musk)?  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
Continua a leggere

Intelligenza Artificiale

Le autorità cinesi lanciano l’allarme sui robot umanoidi

Pubblicato

il

Da

Il settore cinese dei robot umanoidi è esposto al pericolo di una bolla speculativa, indotta dall’attuale euforia investitrice, ha ammonito la commissione di programmazione economica nazionale.

 

Giovedì, nel corso di una conferenza stampa a Pechino, Li Chao, portavoce della Commissione per lo sviluppo e le riforme (NDRC), ha rivelato che le istituzioni stanno agendo per arginare l’espansione incontrollata del comparto, affinché non sommerga il mercato.

 

«Le industrie all’avanguardia si sono da tempo scontrate con la difficoltà di armonizzare la rapidità dell’espansione con il pericolo di bolle finanziarie, una questione che ora assilla pure il campo dei robot umanoidi», ha precisato l’esponente.

 

In Cina operano oltre 150 imprese del ramo, tra cui Unitree, tra le leader del mercato. I suoi androidi in grado di danzare sono stati esibiti al Gala del Capodanno lunare all’inizio dell’anno.

 

Aiuta Renovatio 21

A febbraio, Unitree ha diffuso un filmato in cui il suo androide G1 pratica sequenze di arti marziali cinesi.

 

 

 

Altre realtà emergenti in ascesa fulminea, come AgiBot e Galbot, hanno svelato i loro umanoidi capaci di completare maratone, cimentarsi nel kickboxing e miscelare caffè, tra varie altre mansioni.

 

Iscriviti al canale Telegram

Le autorità di Pechino hanno designato questo comparto in espansione accelerata come uno dei sei nuovi pilastri per la crescita economica nel lustro venturo.

 

L’ondata recente di fervore ha propulso l’indice Solactive China Humanoid Robotics – che segue le quotazioni delle società robotiche – a un rialzo di circa il 30% nell’anno in corso.

 

Anche altri attori globali, tra cui i titani tech Tesla, Meta e OpenAI, si sono dedicati intensamente allo sviluppo di robot umanoidi negli ultimi anni.

 

Il mese scorso, lil CEO di Tesla, Elon Musk, secondo cui una «legione di robot» potrebbe materializzarsi in un orizzonte temporale prossimo.

 

L’umanoide di Tesla, Optimus, ha già debuttato in occasioni societarie compiendo operazioni basilari; una variante aggiornata, Optimus V3, è attesa per il primo trimestre del 2026.

 

Musk, che sostiene che in cinque anni i robot supereranno i chirurghi umani, ha sostenuto che questi automi potrebbero rivoluzionare la società, rilevando il lavoro manuale o rendendolo opzionale per l’umanità. Elone intende inoltre iniziare la colonizzazione di Marte a partire dai robot.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine screenshot da YouTube

Continua a leggere

Più popolari