Come funziona il sistema di scansione delle immagini pedo pornografiche di Apple
Per individuare le foto pedo pornografiche o CSAM, Apple ha realizzato un sistema che sarà disponibile con macOS 12 Monterey, iOS/iPadOS 15 e watchOS 8, e riguarda solo le immagini che vengono salvate su iCloud (è necessario aver attivato l’opzione Foto di iCloud).
Il sistema è progettato per assicurare la privacy dell’utente, infatti invece di scansionare le immagini sul cloud, vengono confrontati direttamente sul dispositivo (iPhone, iPad o Mac) gli hash delle foto – cioè un numero univoco specifico – con gli hash delle immagini pedopornografiche contenuti nel database delle organizzazioni per la sicurezza dei bambini.
Apple trasforma ulteriormente questo database in un insieme illeggibile di hash, che viene archiviato in modo sicuro sui dispositivi degli utenti. Questa tecnologia, chiamata NeuralHash, analizza un’immagine e la converte in un numero univoco specifico. Solo un’altra immagine che sembra quasi identica può produrre lo stesso numero; ad esempio, le immagini che differiscono per dimensioni o qualità di transcodifica avranno lo stesso valore NeuralHash.
In estrema sintesi, ad ogni foto viene attribuita una sequenza di numeri. Foto simili hanno una sequenza di numeri simili.
Prima che un’immagine venga caricata in Foto di iCloud, viene eseguito il confronto sul dispositivo del NeuralHash di quell’immagine con gli hash dei database CSAM.
Questo confronto è crittograto in modo che se c’è una corrispondenza, non viene mostrato il risultato. L’iPhone, iPad o Mac creano un “voucher di sicurezza crittografico” (un rapporto) che codifica il risultato del confronto. Questo voucher viene caricato su iCloud Foto insieme all’immagine. Utilizzando un’altra tecnologia chiamata “condivisione segreta della soglia”, il sistema garantisce che il contenuto dei voucher di sicurezza non possono essere visti da Apple a meno che l’account di iCloud Foto non superi una soglia critica di foto pede pornogarfiche predeterminata. Solo quando questa “soglia critica” viene superata, Apple può conoscere il contenuto dei voucher di sicurezza associati alle immagini CSAM corrispondenti.
Questa “soglia critica” è calcolata in modo che la possibilità di generare una segnalazione errata sia estremamente bassa (1 errore ogni 3.000 miliardi di confronti), in più quando viene segnalata una foto pedo pornografica, questa viene esaminata da un “umano”.
9 commenti
Personalmente la trovo una cosa sensata e che ha come scopo quello appunto descritto, certo non è e non sarà la soluzione a questa piaga della pedofilia, ma è pur sempre un inizio. Non tutto è un complotto o fatto per altri fini a questo mondo, è tutte ste lamentele per la privacy vanno davvero oltre i confini, usate social e quant’altro e gridate allo scandalo per la privacy? Nessuno è obbligato, basta non usare icluod per le foto, ma pare di assistere ad una tragedia leggendo i vari commenti, libera scelta, o lo usi, o ne fai a meno.
cose brutte
tanto brutte
non serve neppure discutere. son cose brutte
Già mi immagino i casini che verranno fuori con le foto del primo bagnetto, il filmato del bimbo che scorrazza nudo sulla spiaggia di Rimini e similari.
Follie americane.
Le “foto esplicite di nudi” di bambini sono altre cose, non si possono neppure guardare. E poi ci sarà un esperto in materia che analizzerà le eventuali segnalazioni proprio per evitare equivoci. In ogni caso non basterà una foto, ma ne servono un certo numero per far partire la segnalazione.
Qui da noi è un giudice, dopo un regolare processo, che stabilisce se una fotografia ha o no un contenuto pedopornografico, non un “esperto di materia” (quale materia, peraltro?), senza volto e senza nome.
E come si fa a stabilire se una foto ha natura pedopornografica se non si possono vedere le foto di nudi espliciti?
Credo ci sia un equivoco su “contenuto pedo pornografico”: si tratta di foto in cui un bambino e costretto a fare sesso con un adulto.
a questo punto il passo successivo è la denuncia del pedofilo alle autorità preposte ed è sacrosanto, però mi chiedo: e se questa cosa fosse usata per controllare i nostri gusti sessuali? il nostro pensiero politico? Certo per debellare la gentaccia è un toccasana ma come tutte le cose… immaginate un controllo sulle foto nei paesi totalitari non credo sia il massimo né della democrazia né delle libertà. Per me è una bella iniziativa ma che potrebbe, in ambiti diversi, ledere la libertà degli altri e questa, credo, non è una bella iniziativa.
Nessuno può fare come lavoro quello di guardare foto del genere, per questo si sono inventati una tecnologia che confronta dei codici, che è costata milioni di dollari e anni di sviluppo. Non è che adesso spostano una virgola e si mettono a controllare un altro genere di foto.
speriamo…