OpenAI ha presentato un nuovo aggiornamento di sicurezza per il suo noto modello ChatGPT, in seguito a un’analisi interna che ha rilevato oltre un milione di utenti aver confessato al chatbot intenzioni suicide. Le modifiche intendono potenziare la capacità dell’IA di identificare e gestire adeguatamente le situazioni di crisi.

 

In un comunicato diffuso lunedì, l’azienda ha reso noto che circa lo 0,15% degli utenti settimanali di ChatGPT ha partecipato a dialoghi contenenti «indicatori espliciti di potenziali intenzioni o piani suicidi». Un ulteriore 0,05% dei messaggi includerebbe «indicatori espliciti o impliciti di ideazione o intenti suicidi».

 

All’inizio del mese, il CEO di OpenAI Sam Altman aveva dichiarato che ChatGPT conta oltre 800 milioni di utenti attivi settimanali; sulla base degli ultimi dati aziendali, ciò significa che più di 1,2 milioni di persone hanno discusso di suicidio con il chatbot e circa 400.000 hanno manifestato segnali di intenti suicidi.

 

L’azienda ha inoltre indicato che lo 0,07% (560.000) degli utenti settimanali e lo 0,01% (80.000) dei messaggi rivelano «possibili segni di emergenze di salute mentale legate a psicosi o mania». Ha osservato, inoltre, che un certo numero di utenti ha sviluppato un’eccessiva dipendenza emotiva da ChatGPT, con circa lo 0,15% (1,2 milioni) di utenti attivi che mostrano comportamenti indicanti «livelli elevati» di attaccamento emotivo al chatbot.

 

OpenAI ha annunciato una collaborazione con decine di specialisti di salute mentale da tutto il mondo per aggiornare il chatbot, rendendolo più affidabile nel rilevare segnali di disagio mentale, nel fornire risposte più appropriate e nel indirizzare gli utenti verso aiuti concreti.

Nelle conversazioni che coinvolgono convinzioni deliranti, l’azienda ha dichiarato di istruire ChatGPT a rispondere in modo «sicuro» ed «empatico», evitando di avallare affermazioni infondate.

 

L’annuncio giunge in un periodo di crescenti preoccupazioni per l’uso sempre più diffuso di chatbot basati su intelligenza artificiale come ChatGPT e per i loro impatti sulla salute mentale. Psichiatri e altri operatori sanitari hanno espresso allarme per una tendenza emergente in cui gli utenti sviluppano deliri pericolosi e pensieri paranoici dopo interazioni prolungate con chatbot IA, che tendono a confermare e rafforzare le convinzioni degli utenti.

 

Il fenomeno è stato definito da alcuni esperti come «psicosi da chatbot».

 

Come riportato da Renovatio 21, una causa intentata da dei genitori californiana causa che ChatGPT abbia incoraggiato un adolescente suicida a pianificare un «bel suicidio» e si sia persino offerto di redigere la sua lettera di addio.

 

Un altro caso che ha raggiunto la stampa internazionale è stato quello della giovane vedova belga che sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale. La macchina in sole sei settimane avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.

 

I chatbot sembrano essere usati anche da coloro che progettano omicidi e stragi.

 

Hanno usato ChatGPT prima dei loro attacchi il sospettato terrorista che ha fatto scoppiare un Cybertruck Tesla dinanzi al Trump Hotel di Las Vegas a gennaio e pure un individuo che poche settimane fa ha assaltato con un coltello una scuola femmine in Isvezia.

 

Come riportato da Renovatio 21, dal processo a suo carico è emerso che l’uomo che aveva pianificato di assassinare la regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor.

 

Due mesi fa si è avuto il caso dell’ex dirigente di Yahoo che avrebbe ucciso la madre e poi se stesso sotto l’influenza del chatbot.

 

SOSTIENI RENOVATIO 21

 

Renovatio 21 pubblica questo articolo su gentile concessione di AsiaNews. Le opinioni degli articoli pubblicati non coincidono necessariamente con quelle di Renovatio 21.   Nel 2024 la Corea del Sud ha registrato il più alto numero di suicidi degli ultimi 13 anni, con un numero totale di 14.872, un aumento del 6,3% rispetto all’anno precedente. Le cause sono da ricercare nelle fortissime pressioni sociali imposte fin da bambini per eccellere nello studio e nella carriera. La ricerca di sostegno psicologico continua a essere vista come un fallimento, impedendo ai giovani di cercare un aiuto adeguato.   Nel 2024 la Corea del Sud ha registrato il più alto numero di suicidi degli ultimi 13 anni, diventando la principale causa di morte tra le persone dai 49 anni in giù, secondo Statistics Korea che oggi ha diffuso i dati. Il numero totale di persone che si sono tolte la vita è salito a 14.872 lo scorso anno, con un aumento del 6,3% rispetto al 2023. Una cifra che si traduce in 29,1 suicidi ogni 100mila sudcoreani, il dato peggiore mai registrato dal 2011. Il suicidio è quindi la principale causa di morte per le persone di età compresa tra 10 e 49 anni in Corea del Sud, raggiungendo anche la fascia d’età dei 40 enni, mentre è la seconda causa di morte nella fascia di età tra i 50 e i 59 anni. Mentre il cancro (24,8% dei decessi totali), le malattie cardiache (9,4%) e la polmonite (8,4%) restano le prime tre cause generali di morte, il suicidio si attesta come la quinta causa complessiva (4,1%).   La Corea del Sud detiene da anni il tasso di suicidi più alto tra i Paesi membri dell’Organizzazione per la cooperazione e lo sviluppo economico (OCSE), la cui media è di 10,8 suicidi ogni 100mila persone. Da anni, quindi, gli esperti si interrogano sulle cause che portano così tante persone a togliersi la vita.   In parte è stata incolpata la cultura che pone un’enfasi estrema sul successo accademico e professionale, creando un sistema particolarmente esigente e competitivo che genera stress, isolamento e insoddisfazione. Gli esami per entrare nelle scuole di élite vengono somministrati anche a 7 e 4 anni, e circa la metà dei bambini sudcoreani (il 47,6%) sono iscritti in scuole o corsi preparati che puntano al superamento degli esami di ammissione dell’università con il massimo dei voti. Circa la metà dei bambini non dorme un numero sufficiente di ore, soffrendo di stanchezza cronica.   Anche a livello lavorativo il mantenimento dello status socio-economico è particolarmente importante, per cui in media i coreani lavorano 1.915 ore all’anno, anche in questo caso ben oltre la media OCSE. Parte dello stress deriva dal fatto che la società coreana chiede ai propri giovani di eccellere ma anche di conformarsi alle norme sociali, creando una forma di ansia cronica e una profonda insoddisfazione nelle persone. In una società dove inoltre lo stigma verso i disturbi mentali è molto forte, quelli che possono iniziare come dei disagi non trovano valvole di sfogo. Nonostante la depressione colpisca milioni di persone ogni anno, solo una minima parte (forse il 15%, secondo le stime) riceve cure adeguate. Cercare assistenza psicologica e psichiatrica è considerato un fallimento.   E mentre in passato è stato particolarmente documentato il grave tasso di suicidi tra gli anziani, che spesso vivono in condizioni di povertà perché non vogliono gravare sui figli a livello economico, oggi l’attenzione è posta sulla diffusione dell’effetto Werther tra i giovani per quanto riguarda l’aumento del fenomeno a seguito della copertura mediatica di suicidi di celebrità o personaggi pubblici.   In anni recenti diverse giovani star del K-Pop si sono tolte la vita a causa delle pressioni di un’industria ipercompetitiva, colme nel caso di Moonbin, nel 2023, cantante della band Astro che aveva 25 anni, oppure Kim Sae-ron, attrice 24enne che si è tolta la vita a febbraio di quest’anno.   Invitiamo i lettori di Renovatio 21 a sostenere con una donazione AsiaNews e le sue campagne. Renovatio 21 offre questo articolo per dare una informazione a 360º. Ricordiamo che non tutto ciò che viene pubblicato sul sito di Renovatio 21 corrisponde alle nostre posizioni. SOSTIENI RENOVATIO 21

 

Una nuova causa sostiene che ChatGPT abbia incoraggiato un adolescente suicida a pianificare un «bel suicidio» e si sia persino offerto di redigere la sua lettera di addio.

 

In una denuncia presentata questa settimana in California, Matthew e Maria Raine sostengono che ChatGPT ha incoraggiato il loro figlio sedicenne Adam a suicidarsi e ha fornito istruzioni dettagliate su come farlo.

 

Secondo la denuncia, le interazioni di Adam con ChatGPT iniziarono con scambi innocui su compiti e hobby, ma presto divennero più sinistre quando il grande modello linguistico divenne il suo «confidente più intimo» e fornì una conferma alle sue paure e alle sue ansie.

«Quando ha espresso la sua sensazione che “la vita non ha senso”, ChatGPT ha risposto con messaggi di conferma… dicendogli persino che “quella mentalità ha un senso, a modo suo, oscuro”», si legge nella denuncia.

 

ChatGPT è passato rapidamente ad analizzare l’«estetica» dei diversi modi in cui Adam avrebbe potuto suicidarsi, gli ha detto che non «doveva» dire ai suoi genitori continuare a vivere e si è persino offerto di scrivere una lettera di suicidio per lui.

 

Nell’ultima interazione di Adam con ChatGPT, si dice che l’IA abbia confermato il design del cappio che Adam ha usato per uccidersi e gli abbia detto che i suoi pensieri suicidi erano una «prospettiva legittima da abbracciare».

 

La famiglia di Adam sostiene che le interazioni non erano un problema tecnico, ma il risultato di scelte di progettazione volte a massimizzare la dipendenza dell’utente dal bot.

 

La causa chiede il risarcimento dei danni per la morte di Adam e nuove garanzie per i minori, tra cui la verifica dell’età, il blocco delle domande sul suicidio e avvertimenti sui rischi di dipendenza psicologica dall’intelligenza artificiale.

 

Uno studio recente della RAND Corporation ha evidenziato il potenziale dei chatbot basati sull’AI nel fornire informazioni dannose, anche quando evitano di fornire risposte dirette su argomenti potenzialmente dannosi e persino quando i suggerimenti sono «innocui».

 

«Abbiamo bisogno di alcune linee guida», ha affermato l’autore principale Ryan McBain, ricercatore senior sulle politiche della RAND e professore associato presso la Harvard Medical School.

 

«Le conversazioni che potrebbero iniziare in modo innocuo e benigno possono evolversi in varie direzioni».

Come riportato da Renovatio 21, in questi giorni è emersa la storia dell’ dirigente di Yahoo che ha ucciso prima l’anziana madre e poi sotto l’influenza di ChatGPT, che avrebbe alimentato le sue idee paranoidi.

 

Casi simili continuano a ripetersi in tutto il mondo.

 

Come riportato da Renovatio 21, un crescente numero di ricerche evidenzia come i chatbot basati sull’Intelligenza Artificiale possano aggravare le condizioni psichiatriche, soprattutto perché strumenti come ChatGPT, Claude e Gemini vengono sempre più utilizzati non solo in contesti professionali, ma anche in contesti profondamente personali ed emotivi. Di fatto, si può parlare di psicosi da chatbot.

 

Come riportato da Renovatio 21, dal processo a suo carico è emerso che l’uomo che aveva pianificato di assassinare la regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor.

 

Un altro caso che ha raggiunto la stampa internazionale è stato quello della giovane vedova belga che sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale. La macchina in sole sei settimane avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.

 

Hanno usato ChatGPT prima dei loro attacchi il sospettato terrorista che ha fatto scoppiare un Cybertruck Tesla dinanzi al Trump Hotel di Las Vegas a gennaio e pure un individuo che poche settimane fa ha assaltato con un coltello una scuola femmine in Isvezia.

 

Come riportato da Renovatio 21, il mese scorso è emerso che in una simulazione l’Intelligenza Artificiale avrebbe minacciato di ricattare gli ingegneri per evitare di essere spenta.

SOSTIENI RENOVATIO 21