Intelligenza Artificiale
L’ex scienziato capo di OpenAI lancia SSI per concentrarsi sulla «sicurezza» dell’IA
Il co-fondatore ed ex capo scienziato di OpenAI, Ilya Sutskever, e l’ex ingegnere di OpenAI Daniel Levy hanno unito le forze con Daniel Gross, un investitore ed ex partner dell’acceleratore di startup Y Combinator, per creare Safe Superintelligence, Inc. (SSI). L’obiettivo e il prodotto della nuova azienda sono evidenti già dal nome.
SSI è una società statunitense con uffici a Palo Alto e Tel Aviv. Farà avanzare l’intelligenza artificiale (AI) sviluppando sicurezza e capacità in tandem, hanno affermato i tre fondatori in un annuncio online il 19 giugno.
«Il nostro focus unico non implica alcuna distrazione da parte delle spese generali di gestione o dei cicli di prodotto, e il nostro modello di business significa che la sicurezza, la protezione e il progresso sono tutti isolati dalle pressioni commerciali a breve termine» hanno dichiarato.
Iscriviti al canale Telegram
Sutskever ha lasciato OpenAI il 14 maggio. Era stato coinvolto nello strano licenziamento del CEO Sam Altman e ha svolto un ruolo ambiguo nella società dopo essersi dimesso dal consiglio dopo il ritorno di Altman. Daniel Levy è stato tra i ricercatori che hanno lasciato OpenAI pochi giorni dopo Sutskever.
Sutskever e Jan Leike erano i leader del team Superalignment di OpenAI creato nel luglio 2023 per considerare come «guidare e controllare i sistemi di intelligenza artificiale molto più intelligenti di noi». Tali sistemi sono indicati come intelligenza generale artificiale (AGI). OpenAI ha assegnato il 20% della sua potenza di calcolo al team di Superalignment al momento della sua creazione.
Anche Leike ha lasciato OpenAI a maggio ed è ora a capo di un team presso la startup di intelligenza artificiale Anthropic, sostenuta da Amazon. OpenAI ha difeso le sue precauzioni relative alla sicurezza in un lungo post X del presidente dell’azienda Greg Brockman, ma ha sciolto il team di Superalignment dopo la partenza dei suoi ricercatori a maggio.
Gli ex ricercatori di OpenAI sono tra i tanti scienziati preoccupati per la direzione futura dell’intelligenza artificiale.
Nel bel mezzo del turnover del personale di OpenAI co-fondatore di Ethereum Vitalik Butertin aveva definito AGI «rischioso».
Aveva tuttavia aggiunto che «tali modelli sono anche molto più bassi in termini di rischio catastrofico rispetto sia alla megalomania aziendale che ai militari».
«Questa azienda è speciale in quanto il suo primo prodotto sarà la superintelligenza sicura, e fino ad allora non farà nient’altro», dice Sutskever in un’intervista esclusiva a Bloomberg sui suoi piani.
«Sarà completamente isolato dalle pressioni esterne derivanti dal dover gestire un prodotto grande e complicato e dal dover rimanere bloccato in una corsa al successo competitiva”.
Il CEO di Tesla Elon Musk, considerabile come fondatore di OpenAI, e il co-fondatore di Apple Steve Wozniak erano tra gli oltre 2.600 leader e ricercatori tecnologici che hanno sollecitato la sospensione dell’addestramento dei sistemi di intelligenza artificiale per sei mesi mentre l’umanità rifletteva sul «profondo rischio» che rappresentavano.
Musk ha risposto a un post su X che evidenziava il potenziale che tutto questo andasse molto storto: «sulla base delle convenzioni di denominazione stabilite da OpenAI e StabilityAI, questa potrebbe essere la società di intelligenza artificiale più pericolosa mai vista».
Elon, che dice di non aver animosità nei confronti di Sutskever, ha rivendicato di averlo in pratica assunto lui al momento della fondazione di OpenAI, all’epoca società no-profit. Musk pochi giorni fa ha ritirato la causa intentata ad OpenAI.
Aiuta Renovatio 21
L’annuncio della SSI rileva che la società sta assumendo ingegneri e ricercatori.
«Per sicuro intendiamo sicuro come la sicurezza nucleare in contrapposizione a sicuro come “fiducia e sicurezza”», afferma Sutskever. Sutskever rifiuta di nominare i sostenitori finanziari di Safe Superintelligence o di rivelare quanto ha raccolto.
Come riportato da Renovatio 21, l’idea che l’AI diventerà una sorta di dio circola da anni e investe direttamente personale di OpenAI come il capo scientifico e cofondatore Ilya Sutskever, il quale ha chiesto ai suoi followers se le super-IA avanzate dovrebbero essere rese «profondamente obbedienti» ai loro creatori umani, o se questi algoritmi dovrebbero «amare veramente profondamente l’umanità».
Nel 2022, Sutskever affermò che «può darsi che le grandi reti neurali di oggi siano leggermente consapevoli».
Intelligenza Artificiale
Israele costruirà un supercomputer AI
Iscriviti al canale Telegram
Iscriviti alla Newslettera di Renovatio 21
Bizzarria
Robot impiegato statale «si suicida» gettandosi dalle scale
Un assistente robotico «impiegato» presso il consiglio comunale di Gumi, in Corea del Sud, ha concluso la sua esistenza mentre era al lavoro, lanciandosi giù dalle scale. Il triste annuncio è stato dato lo scorso mercoledì dallo stesso ente amministrativo.
L’incidente al consiglio è avvenuto la scorsa settimana; il robot era stato visto «girare in un punto come se qualcosa non andasse» prima di cadere da due metri dalla cima di una scala.
Le frattaglie dell’automa si sono sparse per il pavimento. «Parti del robot sono state raccolte e saranno analizzate dal produttore», ha detto all’agenzia AFP un funzionario del consiglio comunale.
L’assistente robotico, prodotto da una startup californiana chiamata Bear Robotics, ha assunto il ruolo amministrativo presso il consiglio lo scorso agosto. Il robot aveva la propria tessera dipendente e lavorava dalle 9:00 alle 16:00, trasportando documenti nell’edificio, fornendo assistenza ai visitatori e promuovendo in altro modo la città.
🚨 The world records the first case of robot suicide.
South Korea 🇰🇷
An investigation has started into a robot ‘suicide.’ The robot was seen idle at the bottom of some stairs, and later, witnesses saw it spinning on top of a building before falling off.
The robot worked in a… pic.twitter.com/aAmyRmgYSo
— Tom Valentino (@TomValentinoo) June 28, 2024
Iscriviti al canale Telegram
La fine della macchina ha lasciato il personale del municipio profondamente addolorato; al momento non sono in fase di valutazione piani per adottare un nuovo robot. «È ufficialmente parte del municipio, un membro di noi. Ha lavorato duramente», ha affermato un amareggiato funzionario del municipio.
L’incidente è stato pubblicizzato dai media locali come il primo «suicidio robotico» mai avvenuto nel Paese, dove la percentuale dei suicidi, in ispecie tra attrici e professionisti dello spettacolo, è alta.
La tragedia del droide municipale coreana era stata preceduta dalla terribile fine di un robot di sicurezza di nome Steve, operante nella capitale statunitense di Washington, che si è annegato tra le acque di una fontana.
Le immagini di Steve sdraiato su un fianco accanto ai suoi colleghi umani divennero subito virale in quel momento, innescando un’ondata di umorismo macabro che metteva in dubbio la preziosità della vita artificiale.
5 years ago, a robot by the name of Steve was released to patrol and assist shoppers at a Mall in Washington.
Midway into his shift, Steve commited suicide.
.
“We were promised flying cars, instead we got suicidal robots” Said an onlooker.https://t.co/ijvRR1wrRS pic.twitter.com/Bq6Zh7vB8x— Mario Verber (@Marioverber) August 22, 2022
L’ipotesi di una «autoeliminazione», tuttavia, è stata successivamente sfatata, poiché i dati della scatola nera di Steve indicavano che la macchina era scivolata su una «superficie di mattoni sciolti» ed era caduta preda di un tragico incidente piuttosto che di pensieri oscuri.
La Corea ha offerto di recente storie di robot ancora più mostruose.
Come riportato da Renovatio 21, lo scorso novembre un lavoratore sudcoreano è stato ucciso da un robot che sollevava scatole in un centro di distribuzione agricola situato nella provincia meridionale di Gyeongsang.
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Intelligenza Artificiale in corsa per il Parlamento britannico: candidato AI presente alle urne per le elezioni generali di luglio
The upcoming UK election will feature an AI candidate for the first time: Steve Endacott will use AI Steve as an avatar and co-pilot if he is elected as an MP pic.twitter.com/GQ1jfzvwXx
— Tsarathustra (@tsarnick) June 17, 2024
Iscriviti al canale Telegram
Sostieni Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
-
Spirito2 settimane fa
La Santa Messa tradizionale sarà proibita dal 16 luglio?
-
Spirito2 settimane fa
Bergoglio e lo «scisma de facto dalla vera Chiesa»: nuovo comunicato di mons. Viganò sulle accuse vaticane
-
Salute1 settimana fa
Fascicolo Sanitario Elettronico: avete fino a domenica per difendere i vostri dati sanitari (o almeno, una parte)
-
Occulto2 settimane fa
Ostie trafugate anche a Perugia. Cosa sta succedendo?
-
Spirito1 settimana fa
«L’elevazione al Soglio di papa Francesco è nulla. Venga giudicato e rimosso»: dichiarazione di mons. Viganò
-
Civiltà1 settimana fa
L’anarco-tirannia uccide: ieri ad Udine, domani sotto casa vostra
-
Epidemie2 settimane fa
Dottoressa tedesca condannata a oltre 2 anni di carcere per aver concesso esenzioni alle mascherine e vaccini anti-COVID
-
Spirito1 settimana fa
Bizzarra affermazione di Bergoglio sui Salmi