Sora, l’app di OpenAI per i video IA è ancora vulnerabile ai deepfake

Nonostante le limitazioni introdotte da OpenAI, gli utenti di Sora, la piattaforma che permette di creare e condividere video generati dall’intelligenza artificiale, riescono ancora a produrre clip contenenti personaggi famosi, anche deceduti. Un fenomeno che alimenta il problema dei deepfake, nonostante i sistemi di protezione attivati dall’azienda.

Secondo un’indagine di 404 Media, negli Stati Uniti e in Canada – gli unici Paesi in cui Sora è disponibile – molti utenti riescono ad aggirare i filtri e a generare video con figure come Tupac, Kobe Bryant, Juice WRLD e DMX, tutti protetti da copyright.

Gli esperti spiegano che il problema nasce dalla presenza nel dataset di addestramento di contenuti coperti da diritti d’autore. Per 404 Media, l’unica soluzione davvero efficace sarebbe riaddestrare il modello da zero, eliminando totalmente i materiali protetti. Un’operazione definita “costosa e complessa”, che al momento OpenAI non avrebbe ancora intrapreso.

About The Author

Condividi l'articolo sui tuoi social:

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *