La nuova tecnologia di Apple per certificare che una foto non è AI

Nei nuovi iPhone 18 Pro presentati da Apple a inizio settembre c’è una nuova tecnologia che prova ad affrontare un problema con cui dovremo fare sempre più i conti: certificare che un’immagine sia autentica per come la vediamo, invece che generata o modificata da un sistema di intelligenza artificiale. Apple non è l’unica società tecnologica ad avere proposto una soluzione, ma il suo sistema è stato accolto con interesse perché aggiunge alcune garanzie a monte, legate al momento stesso in cui si usa la fotocamera dei suoi iPhone.

Apple Reference Image infatti sfrutta un complesso sistema di chiavi pubbliche e private, distribuite tra il sensore del dispositivo e i propri servizi di cloud, per garantire che ciascuna foto scattata dai nuovi iPhone sia identificabile come tale. È una sorta di timbro molto difficile da falsificare, che potrebbe contribuire a definire uno standard per le foto o perlomeno per quelle foto di cui è molto importante garantire l’autenticità, per esempio perché di rilevanza giornalistica.

Negli ultimi anni i sistemi di intelligenza artificiale hanno fatto grandi progressi nel produrre immagini sempre più realistiche e verosimili. I falsi fotografici esistevano anche prima, ma la grande diffusione delle AI sta portando la società a mettere di frequente in discussione la fotografia come testimonianza di un fatto realmente accaduto davanti a un obiettivo, con tutte le implicazioni del caso. È un cambiamento profondo per un mezzo che, dalla sua nascita e per oltre un secolo, ha avuto soprattutto la funzione di documentare la realtà e conservare una traccia visiva di qualcosa.

Per rendere tracciabili i contenuti digitali da circa cinque anni le aziende possono usare uno standard aperto e condiviso che si chiama C2PA. Il sistema serve per associare a un’immagine informazioni sulla sua origine e soprattutto sulle modifiche che ha subìto in seguito, per esempio attraverso i programmi di editing e grafica. È però un sistema che lavora a valle di uno scatto fotografico, e per questo Apple ha provato a intervenire ancora prima, nel momento esatto in cui viene fatta una fotografia.

Apple Reference Image prevede un sistema di certificazione sull’origine della foto e sul dispositivo su cui è stata scattata. Il sensore del telefono ha una propria chiave crittografica privata, un’informazione segreta che viene usata per creare una firma digitale dei dati registrati dal sensore. È una chiave unica ed è creata durante la produzione fisica dell’iPhone e inserita nel sensore.

Per questo Apple ha progettato sensori fotografici specifici, nei quali sono integrate le funzioni necessarie a firmare i dati direttamente al momento dello scatto. È un sistema più complesso, ma sulla grande scala di produzione di questi dispositivi il costo può essere assorbito facilmente, soprattutto considerati i benefici che potrebbe portare.

Quando si scatta una foto, il sensore registra i diversi valori di luce che riceve sulla sua superficie e li trasforma in dati, che a loro volta vengono firmati digitalmente utilizzando la chiave. Il sensore produce questa firma prima che il sistema operativo abbia accesso ai dati grezzi, in modo da escludere che questi possano essere modificati con sistemi tradizionali o di intelligenza artificiale. A quel punto è però necessario elaborare i dati per trasformarli in un’immagine che una persona possa effettivamente vedere.

Questa attività, che di solito viene svolta dai processori dello smartphone, viene fatta da una struttura esterna nei centri dati di Apple. Si chiama Private Cloud Compute (PCC) ed è il sistema che la società ha già utilizzato per alcuni altri servizi legati ai sistemi di intelligenza artificiale. I dati grezzi, che possiamo considerare come il negativo delle fotografie analogiche da cui si otteneva poi la foto vera e propria, vengono analizzati da PCC che ha proprio il compito di verificare che la foto sia stata scattata da un vero sensore e non generata o modificata da una AI.

Il fatto che questa parte del processo avvenga nel cloud pone però una questione importante: i dati di una fotografia vengono inviati a un computer esterno e devono essere elaborati senza che possano essere alterati o visti da Apple. PCC è stato progettato proprio per questo: Apple dice che il codice utilizzato per elaborare le immagini è registrato in un registro pubblico e non modificabile, che i dispositivi verificano che il server stia utilizzando una versione autorizzata del software e che nemmeno Apple può accedere ai dati delle fotografie durante l’elaborazione.

PCC usa la chiave pubblica associata al sensore — la cui autenticità è garantita da un certificato digitale rilasciato da Apple in fabbrica — per verificare la firma digitale impressa al momento dello scatto. La verifica può essere fatta con la chiave pubblica, senza conoscere quella privata, che rimane segreta e serve soltanto al sensore per creare la firma digitale di partenza. È importante che resti segreta perché, se qualcuno la ottenesse, potrebbe usarla per creare firme false e far passare per autentiche immagini che in realtà non provengono da quel sensore.

Il sistema usa diverse tecniche di crittografia usate da tempo, per esempio sulle applicazioni di messaggistica, ma aggiunge alcuni livelli di controllo ulteriori per ridurre il rischio che in uno dei passaggi l’immagine venga modificata e certificata ugualmente come autentica.

Con un po’ di approssimazione, il meccanismo può essere paragonato a un timbro molto difficile da falsificare. Il sensore ha l’uso esclusivo di un timbro e lo imprime sui dati della fotografia appena scattata. PCC non possiede quel timbro e non ne ha bisogno: ha invece uno strumento che gli permette di controllare che l’impronta lasciata corrisponda a quella del sensore certificato da Apple. Se qualcuno modifica i dati dopo che il sensore li ha timbrati, l’impronta non corrisponde più e la falsificazione viene rilevata. La chiave privata serve quindi a creare il timbro, mentre quella pubblica serve a controllarlo.

Per ulteriore sicurezza, al momento dello scatto viene aggiunto un riferimento certificato legato all’orario. L’iPhone riceve ogni 15 minuti circa un’indicazione temporale da un servizio esterno, che viene associata ai dati della fotografia. In questo modo non fa fede solamente l’orologio del telefono, che potrebbe essere modificato, ma un’indicazione certificata di un intervallo di tempo nel quale sono state scattate una o più fotografie.

La fotografia “sviluppata” da PCC viene a sua volta firmata digitalmente e associata a un identificativo univoco, in modo da tenerne traccia nel caso in cui la certificazione venisse revocata in seguito a una modifica successiva. Al termine di questo processo, PCC invia la foto all’iPhone e questa compare normalmente nella libreria fotografica del dispositivo con un’indicazione che segnala la certificazione.

Questo non significa però che Apple debba conservare una copia di tutte le fotografie scattate con Reference Image. Il “negativo digitale” resta sul dispositivo e viene inviato a PCC quando l’utente decide di “svilupparlo”. I servizi di Apple ricevono e conservano invece alcune informazioni utili per verificare e, se necessario, revocare una certificazione, come l’identificativo della foto, informazioni sul sensore e alcuni dati associati all’immagine, ma non i pixel della fotografia. È comunque un sistema che richiede una quantità di dati aggiuntiva sul dispositivo: secondo le indicazioni disponibili, il negativo può occupare decine di megabyte per ogni fotografia.

Se si modifica l’immagine in un secondo tempo, la versione modificata non è più identica a quella certificata al momento dello scatto. L’originale continua però a essere riconoscibile come fotografia certificata. Si può quindi sapere che l’immagine originale di partenza era una foto certificata, sulla quale si è poi intervenuti con delle modifiche.

Una persona potrebbe però fotografare lo schermo di un altro dispositivo con un’immagine generata dall’AI. Ci sarebbe quindi il rischio che il sistema certifichi quella fotografia, anche se ciò che il sensore ha ripreso era a sua volta un’immagine artificiale. Per rendere più difficile aggirare il sistema in questo modo, PCC effettua anche un secondo controllo, basato su una rete neurale, che analizza i dati grezzi prodotti dal sensore e verifica che abbiano caratteristiche compatibili con quelle attese dall’uscita di un vero sensore Apple. In questo modo non si limita a controllare che la firma digitale sia corretta, ma cerca anche eventuali anomalie nei dati che potrebbero indicare che sono stati creati o manipolati artificialmente.

Per chi ha poca dimestichezza con firme e certificati per i dati, il sistema può apparire complicato e difficile da gestire, ma in realtà tutti i passaggi di verifica e certificazione avvengono automaticamente, senza necessità di interventi diretti. Sugli iPhone 18 Pro (e Pro Max) la funzione è opzionale e per ora può essere considerata una prova per verificarne l’utilità.

Apple Reference Image ha suscitato interesse, ma fino a quando sarà disponibile su un solo modello di iPhone la sua diffusione resterà limitata (non è inoltre previsto l’uso nell’Unione Europea e in Cina). Le centinaia di milioni di fotografie scattate ogni giorno continueranno a non avere certificazioni sulla loro autenticità, ma se diversi produttori adottassero sistemi simili a quelli proposti da Apple si potrebbero ridurre i rischi legati alla circolazione di immagini generate con l’AI e prese per vere.