Intelligenza artificiale, i big chiedono di rallentare: sicurezza, guerra e interessi economici dietro la nuova sfida globale

Da Dario Amodei a Sam Altman ed Elon Musk cresce l’allarme sulla velocità dello sviluppo dell’AI. Ma dietro la richiesta di rallentare si intrecciano sicurezza, investimenti miliardari e competizione geopolitica. Papa Leone XIV chiede di “disarmare” l’intelligenza artificiale.

La corsa all’intelligenza artificiale potrebbe essere arrivata a un punto di svolta. A chiedere di rallentare non sono più soltanto ricercatori, accademici o associazioni, ma alcuni degli stessi protagonisti che stanno guidando lo sviluppo dei sistemi più avanzati.

Dario Amodei, amministratore delegato di Anthropic, ha chiesto alle aziende impegnate nello sviluppo dell’AI di ridurre il ritmo con cui aumentano le capacità dei propri modelli, così da permettere agli strumenti di sicurezza e controllo di recuperare terreno. Una posizione alla quale hanno espresso sostegno anche Sam Altman di OpenAI ed Elon Musk.

La domanda, però, è inevitabile: perché proprio adesso?

L’allarme che arriva dall’interno dell’industria

A rendere ancora più delicato il quadro sono state le dichiarazioni di Jacob Coxon, ex ricercatore di Anthropic con una precedente esperienza in OpenAI, che lasciando l’azienda ha espresso forti preoccupazioni sulla direzione intrapresa dal settore.

Il timore è che la competizione tra i grandi laboratori stia procedendo più velocemente della capacità di sviluppare sistemi adeguati di controllo.

Gli episodi emersi negli ultimi mesi hanno ulteriormente alimentato il dibattito. Durante test e valutazioni sono stati osservati comportamenti problematici di sistemi avanzati, compresi episodi legati alla cybersicurezza e alla capacità degli agenti AI di operare con livelli crescenti di autonomia. Non esiste tuttavia consenso nella comunità scientifica sulla probabilità o sulla tempistica degli scenari più catastrofici prospettati.

Amodei non propone di fermare definitivamente l’innovazione. La sua idea è quella di “pacing the frontier”: rallentare l’avanzamento delle capacità più estreme per dare tempo alla sicurezza di recuperare, introducendo valutatori indipendenti, coordinamento tra i principali laboratori e forme di cooperazione internazionale.

Il nodo militare: il caso Anthropic-Pentagono

Il problema diventa ancora più complesso quando l’intelligenza artificiale entra nella sicurezza nazionale.

Anthropic ha già collaborato con il Dipartimento della Difesa statunitense, ma nei mesi scorsi si è scontrata con il Pentagono sui limiti all’utilizzo dei propri sistemi.

L’azienda ha rifiutato di eliminare alcune salvaguardie relative, in particolare, all’impiego dell’AI per armi autonome e sorveglianza interna di massa. Secondo Amodei, gli attuali sistemi non sarebbero sufficientemente affidabili per decisioni militari di vita o di morte o per forme di sorveglianza su larga scala.

Lo scontro mostra il problema centrale della nuova corsa tecnologica: un’azienda può stabilire limiti etici ai propri prodotti, ma cosa accade quando uno Stato considera quelle stesse capacità indispensabili alla propria sicurezza?

Stati Uniti e Cina: chi rallenta per primo?

È qui che la questione della sicurezza incontra quella geopolitica.

Per Washington l’intelligenza artificiale non rappresenta soltanto un’innovazione industriale. È ormai una tecnologia strategica che coinvolge cybersicurezza, intelligence, sistemi militari, infrastrutture e competitività economica.

E dall’altra parte c’è la Cina.

Lo stesso Amodei, pur chiedendo di rallentare lo sviluppo delle capacità più avanzate, continua a sostenere la necessità di preservare il vantaggio tecnologico statunitense e di mantenere controlli sull’esportazione delle tecnologie più sensibili.

Nasce così un paradosso: tutti possono riconoscere il rischio di una corsa incontrollata, ma nessuno vuole essere il primo a rallentare se il concorrente continua a correre.

È il classico dilemma della sicurezza. Se l’AI diventa un moltiplicatore della forza economica e militare, rinunciare unilateralmente alle capacità più avanzate può essere interpretato come la concessione di un vantaggio strategico all’avversario.

Sicurezza o paura della bolla?

Esiste poi un secondo livello, quello economico.

Lo sviluppo dei modelli di frontiera richiede investimenti enormi in data center, chip, energia e infrastrutture. Il settore sta scommettendo sulla capacità dell’AI di generare ricavi sufficientemente elevati da giustificare questa corsa agli investimenti.

Da qui nasce un’altra domanda: l’appello alla prudenza riguarda esclusivamente la sicurezza oppure può essere utile anche alle aziende?

Le due interpretazioni non devono necessariamente escludersi.

Da una parte, la sicurezza rappresenta da anni un elemento centrale del posizionamento di Anthropic. Dall’altra, un rallentamento coordinato potrebbe diminuire la pressione sugli investimenti e ridurre la necessità di inseguire continuamente modelli sempre più costosi.

L’effetto sui mercati è già evidente: gli ultimi appelli dei leader dell’AI hanno contribuito a una forte volatilità dei titoli tecnologici e dei semiconduttori, mostrando quanto il dibattito sulla sicurezza sia ormai legato anche alle aspettative finanziarie costruite intorno all’intelligenza artificiale.

La cautela può quindi avere contemporaneamente una dimensione tecnologica, economica e commerciale. Sarebbe però scorretto concludere, in assenza di prove, che il timore di una bolla finanziaria sia la causa dell’allarme lanciato dai vertici delle aziende.

Paganini: il problema è costruire controlli adeguati

Nel dibattito entra anche Pierluigi Paganini, docente di Cybersicurezza alla Luiss Guido Carli, che pone l’accento non tanto sulla necessità di fermare l’AI quanto sulla capacità di sviluppare strumenti di controllo adeguati alla velocità con cui la tecnologia evolve.

È proprio la governance, dunque, uno dei punti centrali.

Chi stabilisce ciò che un sistema può o non può fare? L’azienda che lo sviluppa? Lo Stato? Un organismo internazionale? E soprattutto: chi controlla chi controlla l’intelligenza artificiale?

Domande che diventano ancora più urgenti quando gli stessi modelli vengono utilizzati in ambiti militari, di intelligence e di sicurezza.

Papa Leone XIV: “Disarmare l’AI”

Una posizione particolarmente netta è arrivata anche da Papa Leone XIV.

Nell’enciclica Magnifica Humanitas, dedicata alla tutela della persona nell’epoca dell’intelligenza artificiale, il Pontefice introduce il concetto di “disarmare” l’AI.

Non significa rinunciare alla tecnologia. Significa sottrarla alla logica della competizione armata, che secondo Leone XIV non è soltanto militare, ma anche economica e cognitiva.

Il Pontefice invita a rompere l’equivalenza tra potenza tecnologica e diritto di governare e sostiene che non sia lecito affidare a sistemi artificiali decisioni letali o comunque irreversibili.

La posizione della Santa Sede sposta quindi il dibattito oltre la semplice domanda “quanto velocemente possiamo sviluppare l’AI?” e ne introduce un’altra: “per quale scopo la stiamo sviluppando?”.

Il vero problema è la governance

È probabilmente questo il punto sul quale convergono, pur partendo da prospettive profondamente differenti, molte delle preoccupazioni emerse negli ultimi giorni.

L’intelligenza artificiale è contemporaneamente una tecnologia, un mercato, uno strumento di potere e una risorsa strategica.

Le aziende devono competere tra loro. Gli investitori devono ottenere un ritorno dai capitali impiegati. Gli Stati non vogliono perdere terreno rispetto ai propri avversari. Gli apparati militari vedono nell’AI un nuovo moltiplicatore di capacità.

In mezzo rimane la questione della sicurezza.

Rallentare potrebbe permettere ai sistemi di controllo di recuperare terreno. Ma un rallentamento realmente efficace richiederebbe un coordinamento tra aziende e soprattutto tra Stati che oggi si considerano concorrenti strategici.

Ed è proprio qui che si trova il paradosso dell’intelligenza artificiale contemporanea: più aumenta la consapevolezza dei rischi, più diventa difficile fermare la corsa.

Perché dietro la domanda su chi controllerà l’AI se diventerà troppo potente ce n’è già un’altra, molto più concreta: chi sarà disposto a rinunciare per primo al vantaggio che quella potenza può garantire?

About The Author