Sony AI presenta “Protective AI” per bloccare i fake in stile Ghibli

Sintesi

• Sony AI sta sviluppando uno strumento, chiamato “Protective AI”, progettato per impedire ai modelli generativi di creare contenuti in violazione del copyright
• Il sistema viene addestrato su materiale protetto da copyright, come i film di Studio Ghibli, così da imparare con precisione che cosa evitare di generare
• Sony auspica che lo strumento consenta anche di tracciare l’attribuzione, così da garantire che i creatori originali siano remunerati in modo equo per il loro lavoro

La divisione ricerca e sviluppo di Sony, Sony AI, sta attualmente sviluppando una nuova tecnologia battezzata “Protective AI” pensata per arginare le violazioni del copyright nei contenuti generati dall’AI. Segnalato per la prima volta da The Nikkei, lo strumento è specificamente progettato per impedire ai modelli di AI di produrre imitazioni non autorizzate di proprietà intellettuale esistente, come video o musica che riprendono l’inconfondibile stile visivo di Studio Ghibli. Per riuscirci, Sony adotta un approccio controintuitivo: inserisce deliberatamente nel sistema dati protetti da copyright, addestrando il modello a riconoscere e a evitare rigorosamente quegli stili specifici anche quando gli utenti cercano di aggirare le restrizioni con prompt indiretti.

Oltre a bloccare i contenuti plagiati, Protective AI è in sviluppo anche per affrontare le persistenti preoccupazioni legate alla remunerazione degli artisti. Sony punta a sfruttare la tecnologia di tracciamento alla base del sistema per identificare quando l’opera originale di un creatore ha contribuito a un output generato dall’AI. Sebbene lo strumento sia ancora nella fase di ricerca e sviluppo e non esista una data definita per il suo utilizzo interno, l’iniziativa potrebbe, nel tempo, aprire la strada a un modello di compensazione equo per l’ampio portafoglio di giochi, musica, film e anime di Sony.