Intelligenza Artificiale
L’ex scienziato capo di OpenAI lancia SSI per concentrarsi sulla «sicurezza» dell’IA
![](https://www.renovatio21.com/wp-content/uploads/2024/07/ai-safety-Renovatio-21.jpg)
Il co-fondatore ed ex capo scienziato di OpenAI, Ilya Sutskever, e l’ex ingegnere di OpenAI Daniel Levy hanno unito le forze con Daniel Gross, un investitore ed ex partner dell’acceleratore di startup Y Combinator, per creare Safe Superintelligence, Inc. (SSI). L’obiettivo e il prodotto della nuova azienda sono evidenti già dal nome.
SSI è una società statunitense con uffici a Palo Alto e Tel Aviv. Farà avanzare l’intelligenza artificiale (AI) sviluppando sicurezza e capacità in tandem, hanno affermato i tre fondatori in un annuncio online il 19 giugno.
«Il nostro focus unico non implica alcuna distrazione da parte delle spese generali di gestione o dei cicli di prodotto, e il nostro modello di business significa che la sicurezza, la protezione e il progresso sono tutti isolati dalle pressioni commerciali a breve termine» hanno dichiarato.
Iscriviti al canale Telegram
Sutskever ha lasciato OpenAI il 14 maggio. Era stato coinvolto nello strano licenziamento del CEO Sam Altman e ha svolto un ruolo ambiguo nella società dopo essersi dimesso dal consiglio dopo il ritorno di Altman. Daniel Levy è stato tra i ricercatori che hanno lasciato OpenAI pochi giorni dopo Sutskever.
Sutskever e Jan Leike erano i leader del team Superalignment di OpenAI creato nel luglio 2023 per considerare come «guidare e controllare i sistemi di intelligenza artificiale molto più intelligenti di noi». Tali sistemi sono indicati come intelligenza generale artificiale (AGI). OpenAI ha assegnato il 20% della sua potenza di calcolo al team di Superalignment al momento della sua creazione.
Anche Leike ha lasciato OpenAI a maggio ed è ora a capo di un team presso la startup di intelligenza artificiale Anthropic, sostenuta da Amazon. OpenAI ha difeso le sue precauzioni relative alla sicurezza in un lungo post X del presidente dell’azienda Greg Brockman, ma ha sciolto il team di Superalignment dopo la partenza dei suoi ricercatori a maggio.
Gli ex ricercatori di OpenAI sono tra i tanti scienziati preoccupati per la direzione futura dell’intelligenza artificiale.
Nel bel mezzo del turnover del personale di OpenAI co-fondatore di Ethereum Vitalik Butertin aveva definito AGI «rischioso».
Aveva tuttavia aggiunto che «tali modelli sono anche molto più bassi in termini di rischio catastrofico rispetto sia alla megalomania aziendale che ai militari».
«Questa azienda è speciale in quanto il suo primo prodotto sarà la superintelligenza sicura, e fino ad allora non farà nient’altro», dice Sutskever in un’intervista esclusiva a Bloomberg sui suoi piani.
«Sarà completamente isolato dalle pressioni esterne derivanti dal dover gestire un prodotto grande e complicato e dal dover rimanere bloccato in una corsa al successo competitiva”.
Il CEO di Tesla Elon Musk, considerabile come fondatore di OpenAI, e il co-fondatore di Apple Steve Wozniak erano tra gli oltre 2.600 leader e ricercatori tecnologici che hanno sollecitato la sospensione dell’addestramento dei sistemi di intelligenza artificiale per sei mesi mentre l’umanità rifletteva sul «profondo rischio» che rappresentavano.
Musk ha risposto a un post su X che evidenziava il potenziale che tutto questo andasse molto storto: «sulla base delle convenzioni di denominazione stabilite da OpenAI e StabilityAI, questa potrebbe essere la società di intelligenza artificiale più pericolosa mai vista».
Elon, che dice di non aver animosità nei confronti di Sutskever, ha rivendicato di averlo in pratica assunto lui al momento della fondazione di OpenAI, all’epoca società no-profit. Musk pochi giorni fa ha ritirato la causa intentata ad OpenAI.
Aiuta Renovatio 21
L’annuncio della SSI rileva che la società sta assumendo ingegneri e ricercatori.
«Per sicuro intendiamo sicuro come la sicurezza nucleare in contrapposizione a sicuro come “fiducia e sicurezza”», afferma Sutskever. Sutskever rifiuta di nominare i sostenitori finanziari di Safe Superintelligence o di rivelare quanto ha raccolto.
Come riportato da Renovatio 21, l’idea che l’AI diventerà una sorta di dio circola da anni e investe direttamente personale di OpenAI come il capo scientifico e cofondatore Ilya Sutskever, il quale ha chiesto ai suoi followers se le super-IA avanzate dovrebbero essere rese «profondamente obbedienti» ai loro creatori umani, o se questi algoritmi dovrebbero «amare veramente profondamente l’umanità».
Nel 2022, Sutskever affermò che «può darsi che le grandi reti neurali di oggi siano leggermente consapevoli».
Intelligenza Artificiale
ChatGPT legato alla perdita di memoria e alla procrastinazione negli studenti.
![](https://www.renovatio21.com/wp-content/uploads/2024/07/ai-che-dorme-Renovatio-21.jpg)
Iscriviti al canale Telegram
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Lo spaventoso sorriso del robot ricoperto di pelle umana: Terminator stiamo arrivando
![](https://www.renovatio21.com/wp-content/uploads/2024/07/robot-pelle-umana-youtube.jpg)
Gli scienziati stanno utilizzando la pelle umana viva come materiale da costruzione per creare volti per robot che consentirebbero loro di esprimere emozioni.
Lo dimostrano inquietanti filmati che stanno provocando paura e disgusto in rete.
Un video mostra la pelle applicata a un prototipo di robot che costringe una macchia rosa senza vita dotata di occhi a illuminarsi improvvisamente con un sorriso.
Welcome to the creepy future: A smiling face made from living human skin cells to give robots the ability to show emotion. This is just wrong.
— Clown World ™ 🤡 (@ClownWorld_) June 26, 2024
Iscriviti al canale Telegram
«Il tessuto vivente è un mix coltivato di cellule della pelle umana cresciute in un’impalcatura di collagene e posizionate sopra una base di resina stampata in 3D. A differenza di precedenti esperimenti simili, la pelle contiene anche l’equivalente dei legamenti che, negli esseri umani e in altri animali, sono sepolti nello strato di tessuto sotto la pelle, tenendolo in posizione e conferendogli incredibile forza e flessibilità» scrive NewScientist.com.
Oltre ad avere un aspetto inquietante, i ricercatori di Harvard che stanno sperimentando questa consistenza simile alla pelle affermano che non solo potrebbe essere adattata agli scheletri robotici, ma potrebbe anche rivelarsi utile all’industria cosmetica.
Si tratta della realizzazione di quanto raccontato nel capolavoro distopico Terminator (1984), nella scena, successiva alla strage della discoteca Tech Noir, in cui Kyle Reese, l’uomo venuto dal futuro per salvare Sarah Connor dall’androide assassino, spiega come le macchine si erano evolute utilizzando tessuti umani per camuffarsi meglio e così ingannare gli umani per ucciderli.
«Il Terminator è un’unità di infiltrazione, in parte uomo, in parte macchina. Sotto, è un telaio da combattimento in iperlega, controllato da microprocessore, completamente corazzato. Molto resistente. Ma all’esterno, è tessuto umano vivente: carne, pelle, capelli, sangue, coltivati per i cyborg».
Aiuta Renovatio 21
«La serie 600 aveva la pelle in gomma. Li individuavamo facilmente, ma questi sono nuovi. Sembrano umani: sudore, alito cattivo, tutto. Molto difficile da individuare».
Stiamo inoltrandoci sempre più nella cosiddetta Uncanny Valley, la «zona del perturbante» descritta dal pioniere giapponese della robotica Masahiro Mori, che pensò, già nel 1970, come gli oggetti umanoidi che assomigliano imperfettamente a veri esseri umani potessero finire per provocare sentimenti di inquietudine o repulsione negli osservatori umani.
L’ipotesi della Uncanny Valley prevede che un oggetto che appare quasi umano rischierà di suscitare sentimenti freddi e inquietanti negli spettatori.
Ora, con la pelle umana, tale senso di straniamento, e di accettazione dell’androide nella propria vita (o nella propria morte…) potrebbe venire a mancare.
La scrittrice Annie Jacobsen nel suo monumentale The Pentagon’s Brain, libro dedicato alla scoperta della storia e dei piani della DARPA (il misterioso reparto ricerca e sviluppo del Pentagono), ha rivelato che gli scienziati militari stanno elaborando sistemi per far accettare ai soldati di combattere a fianco di robot, con discussione sull’uso sui militari dell’ossitocina – considerato come l’ormone dell’amore e del benessere – al fine da fornire loro empatia nei confronti delle macchine.
I robot soldati, saranno dunque coperti di pelle umana, esattamente con i T-800 di Terminator?
Iscriviti alla Newslettera di Renovatio 21
Immagine screenshot da YouTube
Intelligenza Artificiale
Israele costruirà un supercomputer AI
![](https://www.renovatio21.com/wp-content/uploads/2024/07/israele-AI-Renovatio-21.jpg)
Iscriviti al canale Telegram
Iscriviti alla Newslettera di Renovatio 21
-
Spirito1 settimana fa
«L’elevazione al Soglio di papa Francesco è nulla. Venga giudicato e rimosso»: dichiarazione di mons. Viganò
-
Salute2 settimane fa
Fascicolo Sanitario Elettronico: avete fino a domenica per difendere i vostri dati sanitari (o almeno, una parte)
-
Civiltà2 settimane fa
L’anarco-tirannia uccide: ieri ad Udine, domani sotto casa vostra
-
Spirito2 settimane fa
Bizzarra affermazione di Bergoglio sui Salmi
-
Spirito1 settimana fa
Vaticanista americana conferma: il documento per la soppressione della Messa in latino è «serio e reale»
-
Gender7 giorni fa
L’Italia è ora una grande discoteca gay. Ma quanto durerà ancora la musica?
-
Reazioni avverse1 settimana fa
Lotti di vaccino COVID determinano diversi tassi di effetti collaterali: studio
-
Immigrazione1 settimana fa
Menarono a Cicalone. L’anarco-tirannide sempre più spudorata