Nuova funzione di sicurezza per ChatGPT. OpenAI ha annunciato “Trusted Contact”, uno strumento che permette all’intelligenza artificiale di avvisare una persona di fiducia quando rileva possibili segnali di grave disagio psicologico, compresi rischi di autolesionismo o suicidio.
Come funziona la nuova funzione
Il servizio è disponibile per gli utenti maggiorenni e può essere attivato direttamente dalle impostazioni dell’account.
Per utilizzarlo sarà necessario:
- aggiungere un contatto fidato
- ottenere l’accettazione esplicita del collegamento da parte della persona scelta
In caso di situazioni considerate a rischio dai sistemi di monitoraggio e dai revisori addestrati, OpenAI potrà inviare una notifica al contatto indicato, che può essere:
- un familiare
- un amico
- un caregiver
Privacy e limiti del sistema
OpenAI precisa che:
- le notifiche non conterranno trascrizioni delle chat
- non verranno condivisi dettagli delle conversazioni private
Sia l’utente sia il contatto fidato potranno interrompere il collegamento in qualsiasi momento.
Un’estensione del controllo parentale
La funzione riprende il sistema già usato per gli account adolescenti, dove i genitori possono ricevere avvisi in presenza di segnali di forte disagio.
Con “Trusted Contact”, il meccanismo viene esteso anche agli adulti.
Sviluppo con esperti sanitari
Per realizzare il progetto, OpenAI ha collaborato con medici, ricercatori ed esperti del benessere psicologico, tra cui il Global Physician’s Network e il Well-Being Council.
Il dibattito tra supporto e privacy
L’iniziativa riapre il confronto sul ruolo dell’intelligenza artificiale nella salute mentale.
Da una parte, strumenti di questo tipo possono offrire un supporto tempestivo in situazioni delicate; dall’altra, restano aperte questioni legate a:
- privacy
- gestione dei dati sensibili
- affidabilità dell’interpretazione dei segnali emotivi da parte dell’AI
About The Author
You may also like
-
Anthropic, debutto record al Nasdaq secondo le indiscrezioni: l’intelligenza artificiale alla prova di Wall Street
-
Social vietati ai minori di 13 anni, arriva l’emendamento al decreto sicurezza: account controllati dai genitori fino a 16 anni
-
Wall Street in rosso, Nvidia perde oltre il 4%: il board esclude il ritorno di Jensen Huang
-
Digitarca torna all’Assemblea Nazionale ANCI: a Verona un doppio stand per raccontare il futuro digitale dei territori
-
NVIDIA, oltre 150mila firme per il ritorno di Jensen Huang: anche Elon Musk sostiene la petizione
