Nuova funzione di sicurezza per ChatGPT. OpenAI ha annunciato “Trusted Contact”, uno strumento che permette all’intelligenza artificiale di avvisare una persona di fiducia quando rileva possibili segnali di grave disagio psicologico, compresi rischi di autolesionismo o suicidio.
Come funziona la nuova funzione
Il servizio è disponibile per gli utenti maggiorenni e può essere attivato direttamente dalle impostazioni dell’account.
Per utilizzarlo sarà necessario:
- aggiungere un contatto fidato
- ottenere l’accettazione esplicita del collegamento da parte della persona scelta
In caso di situazioni considerate a rischio dai sistemi di monitoraggio e dai revisori addestrati, OpenAI potrà inviare una notifica al contatto indicato, che può essere:
- un familiare
- un amico
- un caregiver
Privacy e limiti del sistema
OpenAI precisa che:
- le notifiche non conterranno trascrizioni delle chat
- non verranno condivisi dettagli delle conversazioni private
Sia l’utente sia il contatto fidato potranno interrompere il collegamento in qualsiasi momento.
Un’estensione del controllo parentale
La funzione riprende il sistema già usato per gli account adolescenti, dove i genitori possono ricevere avvisi in presenza di segnali di forte disagio.
Con “Trusted Contact”, il meccanismo viene esteso anche agli adulti.
Sviluppo con esperti sanitari
Per realizzare il progetto, OpenAI ha collaborato con medici, ricercatori ed esperti del benessere psicologico, tra cui il Global Physician’s Network e il Well-Being Council.
Il dibattito tra supporto e privacy
L’iniziativa riapre il confronto sul ruolo dell’intelligenza artificiale nella salute mentale.
Da una parte, strumenti di questo tipo possono offrire un supporto tempestivo in situazioni delicate; dall’altra, restano aperte questioni legate a:
- privacy
- gestione dei dati sensibili
- affidabilità dell’interpretazione dei segnali emotivi da parte dell’AI
About The Author
You may also like
-
Wikimedia segnala attività non autorizzate sui suoi sistemi: coinvolti agenti AI di OpenAI
-
Cybersecurity e AI agentica, Iezzi (Zenita Group) all’evento alla Camera: «La vera sfida è governare la velocità dell’AI»
-
Cybersecurity e AI agentica, Calabrò (Ministero della Difesa) all’evento alla Camera: «In arrivo 1.500 militari specializzati»
-
Cybersecurity e AI agentica, Rosato (COPASIR) all’evento di oggi alla Camera: «La sicurezza digitale riguarda tutti»
-
Cybersecurity e AI agentica, alla Camera il confronto sulle nuove sfide della sicurezza nazionale