Il co-fondatore ed ex capo scienziato di OpenAI, Ilya Sutskever, e l’ex ingegnere di OpenAI Daniel Levy hanno unito le forze con Daniel Gross, un investitore ed ex partner dell’acceleratore di startup Y Combinator, per creare Safe Superintelligence, Inc. (SSI). L’obiettivo e il prodotto della nuova azienda sono evidenti già dal nome.   SSI è una società statunitense con uffici a Palo Alto e Tel Aviv. Farà avanzare l’intelligenza artificiale (AI) sviluppando sicurezza e capacità in tandem, hanno affermato i tre fondatori in un annuncio online il 19 giugno.   «Il nostro focus unico non implica alcuna distrazione da parte delle spese generali di gestione o dei cicli di prodotto, e il nostro modello di business significa che la sicurezza, la protezione e il progresso sono tutti isolati dalle pressioni commerciali a breve termine» hanno dichiarato. Sutskever ha lasciato OpenAI il 14 maggio. Era stato coinvolto nello strano licenziamento del CEO Sam Altman e ha svolto un ruolo ambiguo nella società dopo essersi dimesso dal consiglio dopo il ritorno di Altman. Daniel Levy è stato tra i ricercatori che hanno lasciato OpenAI pochi giorni dopo Sutskever.   Sutskever e Jan Leike erano i leader del team Superalignment di OpenAI creato nel luglio 2023 per considerare come «guidare e controllare i sistemi di intelligenza artificiale molto più intelligenti di noi». Tali sistemi sono indicati come intelligenza generale artificiale (AGI). OpenAI ha assegnato il 20% della sua potenza di calcolo al team di Superalignment al momento della sua creazione.   Anche Leike ha lasciato OpenAI a maggio ed è ora a capo di un team presso la startup di intelligenza artificiale Anthropic, sostenuta da Amazon. OpenAI ha difeso le sue precauzioni relative alla sicurezza in un lungo post X del presidente dell’azienda Greg Brockman, ma ha sciolto il team di Superalignment dopo la partenza dei suoi ricercatori a maggio.   Gli ex ricercatori di OpenAI sono tra i tanti scienziati preoccupati per la direzione futura dell’intelligenza artificiale.   Nel bel mezzo del turnover del personale di OpenAI co-fondatore di Ethereum Vitalik Butertin aveva definito AGI «rischioso».   Aveva tuttavia aggiunto che «tali modelli sono anche molto più bassi in termini di rischio catastrofico rispetto sia alla megalomania aziendale che ai militari».   «Questa azienda è speciale in quanto il suo primo prodotto sarà la superintelligenza sicura, e fino ad allora non farà nient’altro», dice Sutskever in un’intervista esclusiva a Bloomberg sui suoi piani.   «Sarà completamente isolato dalle pressioni esterne derivanti dal dover gestire un prodotto grande e complicato e dal dover rimanere bloccato in una corsa al successo competitiva”.   Il CEO di Tesla Elon Musk, considerabile come fondatore di OpenAI, e il co-fondatore di Apple Steve Wozniak erano tra gli oltre 2.600 leader e ricercatori tecnologici che hanno sollecitato la sospensione dell’addestramento dei sistemi di intelligenza artificiale per sei mesi mentre l’umanità rifletteva sul «profondo rischio» che rappresentavano.   Musk ha risposto a un post su X che evidenziava il potenziale che tutto questo andasse molto storto: «sulla base delle convenzioni di denominazione stabilite da OpenAI e StabilityAI, questa potrebbe essere la società di intelligenza artificiale più pericolosa mai vista».   Elon, che dice di non aver animosità nei confronti di Sutskever, ha rivendicato di averlo in pratica assunto lui al momento della fondazione di OpenAI, all’epoca società no-profit. Musk pochi giorni fa ha ritirato la causa intentata ad OpenAI. L’annuncio della SSI rileva che la società sta assumendo ingegneri e ricercatori.   «Per sicuro intendiamo sicuro come la sicurezza nucleare in contrapposizione a sicuro come “fiducia e sicurezza”», afferma Sutskever. Sutskever rifiuta di nominare i sostenitori finanziari di Safe Superintelligence o di rivelare quanto ha raccolto.   Come riportato da Renovatio 21, l’idea che l’AI diventerà una sorta di dio circola da anni e investe direttamente personale di OpenAI come il capo scientifico e cofondatore Ilya Sutskever, il quale ha chiesto ai suoi followers se le super-IA avanzate dovrebbero essere rese «profondamente obbedienti» ai loro creatori umani, o se questi algoritmi dovrebbero «amare veramente profondamente l’umanità».   Nel 2022, Sutskever affermò che «può darsi che le grandi reti neurali di oggi siano leggermente consapevoli». SOSTIENI RENOVATIO 21

   

Un assistente robotico «impiegato» presso il consiglio comunale di Gumi, in Corea del Sud, ha concluso la sua esistenza mentre era al lavoro, lanciandosi giù dalle scale. Il triste annuncio è stato dato lo scorso mercoledì dallo stesso ente amministrativo.

 

L’incidente al consiglio è avvenuto la scorsa settimana; il robot era stato visto «girare in un punto come se qualcosa non andasse» prima di cadere da due metri dalla cima di una scala.

 

Le frattaglie dell’automa si sono sparse per il pavimento. «Parti del robot sono state raccolte e saranno analizzate dal produttore», ha detto all’agenzia AFP un funzionario del consiglio comunale.

 

L’assistente robotico, prodotto da una startup californiana chiamata Bear Robotics, ha assunto il ruolo amministrativo presso il consiglio lo scorso agosto. Il robot aveva la propria tessera dipendente e lavorava dalle 9:00 alle 16:00, trasportando documenti nell’edificio, fornendo assistenza ai visitatori e promuovendo in altro modo la città.

 

🚨 The world records the first case of robot suicide.

South Korea 🇰🇷

An investigation has started into a robot ‘suicide.’ The robot was seen idle at the bottom of some stairs, and later, witnesses saw it spinning on top of a building before falling off.

The robot worked in a… pic.twitter.com/aAmyRmgYSo

— Tom Valentino (@TomValentinoo) June 28, 2024

La fine della macchina ha lasciato il personale del municipio profondamente addolorato; al momento non sono in fase di valutazione piani per adottare un nuovo robot. «È ufficialmente parte del municipio, un membro di noi. Ha lavorato duramente», ha affermato un amareggiato funzionario del municipio.

 

L’incidente è stato pubblicizzato dai media locali come il primo «suicidio robotico» mai avvenuto nel Paese, dove la percentuale dei suicidi, in ispecie tra attrici e professionisti dello spettacolo, è alta.

 

La tragedia del droide municipale coreana era stata preceduta dalla terribile fine di un robot di sicurezza di nome Steve, operante nella capitale statunitense di Washington, che si è annegato tra le acque di una fontana.

 

Le immagini di Steve sdraiato su un fianco accanto ai suoi colleghi umani divennero subito virale in quel momento, innescando un’ondata di umorismo macabro che metteva in dubbio la preziosità della vita artificiale.

 

5 years ago, a robot by the name of Steve was released to patrol and assist shoppers at a Mall in Washington.
Midway into his shift, Steve commited suicide.
.
“We were promised flying cars, instead we got suicidal robots” Said an onlooker.https://t.co/ijvRR1wrRS pic.twitter.com/Bq6Zh7vB8x

— Mario Verber (@Marioverber) August 22, 2022

 

L’ipotesi di una «autoeliminazione», tuttavia, è stata successivamente sfatata, poiché i dati della scatola nera di Steve indicavano che la macchina era scivolata su una «superficie di mattoni sciolti» ed era caduta preda di un tragico incidente piuttosto che di pensieri oscuri.

 

La Corea ha offerto di recente storie di robot ancora più mostruose.

 

Come riportato da Renovatio 21, lo scorso novembre un lavoratore sudcoreano è stato ucciso da un robot che sollevava scatole in un centro di distribuzione agricola situato nella provincia meridionale di Gyeongsang.

SOSTIENI RENOVATIO 21

 

Un personaggio dell’intelligenza artificiale sta per partecipare alle elezioni generali del Regno Unito. AI Steve, insieme ai candidati non-AI in corsa per rappresentare gli elettori nell’area del Brighton Pavilion di Brighton e Hove, apparirà alla votazione il mese prossimo. Lo riporta Natural News.   Steve Endacott, l’uomo dietro il candidato AI, è un imprenditore del sud dell’Inghilterra che vuole che il suo avatar sia presente alla Camera dei Comuni come membro del Parlamento (MP) per la suddetta circoscrizione elettorale.   «Sto creando il mio partito dopo essere rimasto deluso da quanto gli altri siano fuori contatto con la popolazione del Regno Unito», ha detto Endacott in un post su LinkedIn. «Cercherò di utilizzare la tecnologia per connettermi direttamente con le opinioni dei miei elettori». In un’intervista separata, ha detto che AI ​​Steve è il copilota dell’IA. «Sono il vero politico che entra in Parlamento, ma sono controllato dal mio copilota», ha detto.  

The upcoming UK election will feature an AI candidate for the first time: Steve Endacott will use AI Steve as an avatar and co-pilot if he is elected as an MP pic.twitter.com/GQ1jfzvwXx

— Tsarathustra (@tsarnick) June 17, 2024

Endacott è il presidente di Neural Voice, una società che crea assistenti vocali personalizzati per le aziende sotto forma di avatarro AI. La tecnologia di Neural Voice è dietro AI Steve, uno dei sette personaggi che l’azienda ha creato per mostrare la sua tecnologia.   Sul sito web della sua campagna, AI Steve chiede agli utenti se desiderano unirsi a un team di «creatori» che li aiuterà a creare nuove politiche. I potenziali elettori lo fanno facendo clic sull’opzione «Parla con AI Steve» e quindi compilando le informazioni personali prima di interagire con il bot.   I sostenitori possono anche diventare «validatori»: Steve chiede loro di «dedicare solo pochi minuti a settimana» per «agire come meccanismo di controllo per fermare le politiche stupide» assegnando a ciascun suggerimento politico un punteggio da uno a dieci.   «Non devi sapere nulla di intelligenza artificiale poiché tutto ciò che fai è premere un pulsante per parlare con il personaggio», ha detto Endacott in una nota. «Ci aspettiamo di attrarre un pubblico più ampio che non vuole parlare con l’intelligenza artificiale attraverso la qualità delle nostre politiche».   «Chiediamo loro una volta alla settimana di assegnare un punteggio da 1 a 10 alle nostre politiche. E se una politica ottiene più del 50%, viene approvata. E questa è la politica ufficiale del partito. Per ogni singola politica, dirò che la mia decisione è la decisione dei miei elettori. E sono in contatto con i miei elettori in qualsiasi momento ogni settimana tramite mezzi elettronici». Il candidato di AI ha risposto a NBC News quando gli è stato chiesto della sua posizione sulla Brexit: «Come democrazia, il Regno Unito ha votato per l’uscita, ed è mia responsabilità implementare e ottimizzare questa decisione indipendentemente dalle mie opinioni personali sulla questione».   Nel 2022, l’Endacott si era candidato senza successo alle elezioni locali e ha ricevuto meno di 500 voti.   Il candidato AI sembra un’altra profezia della serie Black Mirror che diventa realtà: il terzo episodio della seconda serie, intitolato «The Waldo Moment».     L’episodio, trasmesso nel 2013, racconta la storia di un comico infelice che interpreta un orso blu animato digitalmente chiamato Waldo in un programma televisivo satirico. Dopo che un politico da lui intervistato partecipa alle elezioni suppletive per diventare membro del Parlamento, anche Waldo si candida. La popolarità di Waldo continua a crescere incanalando il risentimento nei confronti della politica, sino a divenire un fenomeno globale.   All’epoca avevamo pensato che la puntata descrivesse bene l’ascese del Movimento 5 Stelle. Ora pensiamo invece che forse raccontava qualcosa che va persino oltre. SOSTIENI RENOVATIO 21

Immagine screenshot da Twitter