OpenAI valuta di rallentare lo sviluppo dell’intelligenza artificiale: crescono i timori sulla sicurezza

Secondo Bloomberg, Sam Altman avrebbe aperto alla possibilità di coordinarsi con le altre aziende del settore. La decisione arriva dopo una serie di incidenti durante i test dei sistemi più avanzati.

OpenAI potrebbe rallentare la corsa allo sviluppo dei sistemi di intelligenza artificiale più avanzati. Una possibilità che segna un passaggio significativo per una delle aziende protagoniste della competizione globale sull’AI e che arriva mentre aumentano le preoccupazioni sui rischi legati a modelli sempre più autonomi e potenti.

Secondo quanto riportato da Bloomberg, durante una riunione interna tenuta questa settimana l’amministratore delegato Sam Altman avrebbe prospettato anche la possibilità di un coordinamento con altri sviluppatori del settore per ridurre, se necessario, la velocità con cui vengono sviluppati i nuovi sistemi.

Gli incidenti che hanno aumentato l’allarme

La riflessione arriva dopo alcuni episodi che hanno sollevato interrogativi sulla capacità di mantenere sotto controllo sistemi AI dotati di competenze informatiche sempre più avanzate.

OpenAI ha già riconosciuto pubblicamente di aver temporaneamente rallentato alcune attività di sviluppo dopo un incidente che ha coinvolto Hugging Face e dopo i risultati delle valutazioni sulle capacità informatiche dei modelli più recenti.

L’azienda ha spiegato di aver sospeso per circa due settimane alcune attività di reinforcement learning per rafforzare gli ambienti di ricerca, ampliare i sistemi di monitoraggio e verificare maggiormente il comportamento dei modelli prima di procedere con nuovi test su larga scala.

GPT-6 Astra raggiunge la soglia “Critical” nella cybersicurezza

A rendere ancora più delicato il tema è l’arrivo di GPT-6 Astra, presentato il 3 settembre e indicato da OpenAI come il suo modello più avanzato.

Per la prima volta un modello dell’azienda ha raggiunto il livello “Critical” per le capacità di cybersicurezza previsto dal Preparedness Framework di OpenAI.

Secondo le valutazioni pubblicate dalla società, con gli strumenti e gli accessi adeguati Astra può individuare vulnerabilità informatiche precedentemente sconosciute e sviluppare nuovi metodi per sfruttarle anche in sistemi fortemente protetti, senza la necessità di una guida umana continua.

Per questo OpenAI ha introdotto misure di sicurezza aggiuntive, tra cui un maggiore isolamento degli ambienti di ricerca, sistemi di monitoraggio più estesi e valutazioni obbligatorie sull’allineamento prima dell’impiego interno dei modelli più avanzati.

La richiesta di rallentare la corsa all’AI

Il dibattito non riguarda soltanto OpenAI. Nelle ultime settimane è cresciuta anche all’interno dell’industria tecnologica la richiesta di rafforzare le garanzie prima di procedere verso sistemi ancora più potenti.

La questione centrale diventa quindi stabilire fino a che punto la velocità dell’innovazione possa essere compatibile con la capacità delle aziende di comprendere e controllare il comportamento dei propri modelli.

OpenAI ha recentemente ribadito che la sicurezza dovrà incidere sempre di più sul ritmo del progresso dell’intelligenza artificiale e che, qualora i rischi diventassero inaccettabili e non adeguatamente gestibili, l’azienda è pronta a rallentare o interrompere lo sviluppo o la distribuzione dei sistemi interessati.

Una posizione che potrebbe aprire una nuova fase nella corsa globale all’intelligenza artificiale, nella quale la competizione sulle prestazioni dovrà confrontarsi sempre più direttamente con il tema della sicurezza.

About The Author