Apple eseguirà la scansione delle immagini iCloud alla ricerca di materiale pedo pornografico
Alla fine, Apple ha ceduto alle pressioni dei gruppi per la protezione dei minori, e macOS 12 Monterey, iOS 15 e iPadOS 15 quando saranno rilasciati questo autunno saranno dotati di una funzione che effettuerà la scansione delle immagini prima che vengano caricate su iCloud alla ricerca di materiale pedopornografico (CSAM). Inizialmente quella nuova funzionalità sarà disponibile solo negli Stati Uniti.
Non si tratta di una novità assoluta, infatti la maggior parte dei servizi cloud esegue già la scansione delle immagini alla ricerca di materiale che viola i termini di servizio o la legge, incluso CSAM. Le foto vengono crittografate quando sono salvate sul cloud, ma le aziende hanno la chiave per decriptarle. Anche Apple crittografa le foto in transito e le archivia crittografate, ma conserva la chiave di decrittazione nel caso un Tribunale facesse richiesta per esaminale nell’ambito di una indagine per qualche reato.
La notizia ha messo in allarme le organizzazioni per la difesa della privacy, che temono un utilizzo distorto di questa tecnologia da parte di Governi autoritari (il pensiero non può non andare alla Cina).
In ogni caso, Apple per preservare la privacy degli utenti, ha deciso di utilizzare una nuova tecnologia chiamata NeuralHash che controllerà le immagini mentre vengono caricate su iCloud Foto alla ricerca di corrispondenze con un database di immagini di abusi sui minori. Il tutto però verrà effettuato sul dispositivo -iPhone, iPad o Mac – convertendo le foto in una stringa univoca di lettere e numeri (un “cancelletto”). Normalmente, qualsiasi leggera modifica a una foto comporterebbe un hash diverso, ma la tecnologia di Apple è in grado di distinguerle e risulteranno comunque nello stesso hash.
Se dovesse essere trovata una corrispondenza, l’immagine verrà esaminata da un essere umano. Se dovesse essere confermata la pedopornografia, l’account dell’utente verrà disabilitato e partirà una segnalazione verso il Centro nazionale per i bambini scomparsi e sfruttati. Il sistema non segnalerà le immagini che non sono già presenti nel database pedopornografico del centro.
Messaggi
Inoltre, Apple ha fatto sapere che verrà aggiunta anche una funzione di sicurezza in Messaggi: quando un bambino che fa parte di una famiglia iCloud riceve o tenta di inviare foto sessualmente esplicite, verranno sfocate e apparirà un avviso che l’immagine “potrebbe essere sensibile”. Se il bambino tocca “Visualizza foto”, vedrà un messaggio pop-up che lo informa del motivo per cui l’immagine è considerata sensibile.
Il pop-up spiega che se il bambino decide di visualizzare l’immagine, il genitore della famiglia iCloud riceverà una notifica “per assicurarsi che tu stia bene”. Il pop-up includerà anche link per ricevere ulteriore assistenza.
Inoltre, se un bambino tenta di inviare un’immagine sessualmente esplicita, vedrà un avviso simile. Apple sostiene che il minore verrà avvisato prima dell’invio della foto e che i genitori possono ricevere un messaggio se il bambino sceglie di inviarlo (per i minori di 13 anni).
Apple spiega inoltre che Messaggi utilizza l’apprendimento automatico sul dispositivo per analizzare gli allegati di immagini e determinare se una foto è sessualmente esplicita. iMessage rimane crittografato end-to-end e Apple non è in grado di accede a nessuno dei messaggi. La funzione sarà anche opt-in, cioè occorrerà un consenso esplicito.
Apple afferma che questa funzione arriverà “più tardi quest’anno negli account configurati come famiglie in iCloud” negli aggiornamenti di iOS 15, iPadOS 15 e macOS Monterey. La funzione sarà disponibile negli Stati Uniti per iniziare.
32 commenti
Ma magari, è che i pervertiti si organizzeranno diversamente. Comunque presa di posizione importante.
Non è per difendere l’uno l’altro, ma sono rimasto scioccato da vedere video di dirette, su telegram, ig, e vari social, di ragazzine di 11/12 anni totalmente nude, per farsi “belle” davanti alla platea, senza alcuna richiesta. Oggi non si lavora più, e si pensa di poter far soldi diventando “influencer”, o ancora peggio, vendendo il proprio corpo su internet.
brutta cosa
Eh si, brutta cosa la pornografia infantile…
Un brutto buco nel diritto alla Privacy: ormai la lotta alla pedopornografia (assolutamente condivisibile), sta diventando il grimaldello per scardinare ogni tipo di diritto. Ed una volta aperta una falla, ci vuole poco ad allargarla con altre “lotte” più o meno condivisibili.
Sono d’accordo con Francesco. Si prende come spunto il più odioso dei reati e dei comportamenti in modo che non si possa eccepire sul diritto fondamentale della privacy. Apple, come tutti, non dovrebbe controllare in nessun modo i documenti dei propri utenti. Fatta la scansione non si può sapere come le informazioni i verranno utilizzatei (magri aggregate e spersonalizzate). I dati sono orami una risorsa economica fondamentale e le aziende cercano in tutti i modi di ottenerli, spesso adducendo motivazioni ineccepibili. Preferivo quando Apple difendeva la privacy senza eccezione, ma quelli erano altri tempi e forse …. un altra Apple.
Quindi secondo voi “con la scusa della privacy” bisognerebbe consentire lo scambio di materiale pedo pornografico… 🤮
Poi magari Francesco e macgufo usano WhatsApp, Facebook, Twitter, Google Photo, fanno acquisti su Amazon, ma no, la privacy delle foto non può essere compromessa per impedire lo scambio di materiale pedopornografico.
Ma vogliamo capirlo che la privacy é un diritto di cui posso decidere solo io cosa fare o al limite un giudice, in base ad una specifica ipotesi di reato e a dei sospetti sostanziali?
Tutto il resto si chiama sorveglianza di massa.
Dati di questo tipo sono ben più pericolosi in mano ad uno stato che ad un’azienda.
Beh sa non ti sta bene utilizza un altro terminale ed un altro ecosistema. Semplice no?
E quando tutti i sistemi utilizzeranno sistemi simili? Tutti gli esperti di sicurezza hanno ben chiarito che questo é un precedente pericolosissimo per la privacy delle persone, sistemi che non servono solo a te a proteggere le foto della tua famiglia, ma anche a chi vive sotto regime di rischiare un po’ meno e comunicare in modo sicuro.
Se e quando si porrà il problema se ne riparlerà. E ognuno saprà trarne le dovute, nonché ovvie, conclusioni.
amazon e whatsapp, come Facebook sono deprecabili come intrusione ma volontarie. Qui stai andando a vedere le foto dell’utente. La pedopornografia è sicuramente da combattere e contrastare ma questi metodi aprono la strada a intromissioni ora per motivi “nobili” un domani per qualsivoglia altro “nobile” motivo: politico, di opinione, ecc
Ma guarda che anche l’uso di iCloud Foto è su base volontaria. Non ti piace la funzione di scansione anti-pedo pornografia? Usa un altro servizio cloud.
Non é una gran risposta per una discussione, ma solo per chiuderla. E non é che se Apple un giorno decide di non permetterti di salvare foto di dispositivi Android (iperbole assurda voluta), dobbiamo stare zitti o cambiare. In quanto clienti abbiamo anche diritto di lamentarci. Se poi parliamo di diritto alla privacy direi che ci sia il dovere di far sentire la propria voce.
Invece secondo te invece con la scusa della pedopornografia, bisognerebbe violare la privacy di tutti?
La pesca a strascico come questa intanto viola la presunzione di innocenza, altro diritto fondamentale.
E poi, se fatto un filtro di ricerca ne puoi creare mille in base alle richieste sei paesi: in Russia contro i contenuti LGBT+, in Dubai contro i contenuti contrari alla religione, ecc. ecc.
Francesco guarda non è obbligatorio usare iCloud Foto
E quindi dobbiamo solo ignorare la cosa? I sistemi di controllo di questo tipo sono da condannare a prescindere…
Opinione tua. Un sistema del genere, svolto primariamente a livello di dispositivo, mi sta benissimo, e da genitore mi fa sentire anche tutelato.
Non é Apple che deve tutelarti (azienda privata che deve sottostare al governo x piuttosto che y), né tutelare i tuoi figli: mi pare che quello sia il ruolo dei genitori.
Siamo ancora convinti che sia giusto abbandonare una parte dei nostri diritti per una promessa di sicurezza? Ho già scritto prima quanto poco serva uno strumento del genere per combattere questo tipo di reati. Questi mostri si faranno solo più furbi sapendo di questi controlli e intento miliardi di persone verranno ingiustamente controllate.
Per me è una tutela in più sapere che nel terminale di mio figlio, su cui per quanto scrupoloso possa essere il mio controllo non ho accesso costante, non vi siano contenuti di un certo tipo tanto in voga tra gli adolescenti (le cronache le conosciamo tutti suppongo) e che semmai dovessero essergli notificati io ne sarei comunque a conoscenza. Ovvio che l’educazione che impartisci ai figli sia ruolo delle famiglie ma la famiglia non è presente 24 ore su 24 alle spalle dei figli i quali, comunque, rispetto alla nostra pur giovane generazione vivono immersi in una sovraesposizione digitale difficilmente limitabile. La famiglia è solo una parte del processo educativo, c’è la scuola, le frequentazioni, e il vissuto di ognuno, perché troppo spesso dimentichiamo che i nostri figli sono comunque individui. E parlo da genitore ben attento e scrupoloso su certe tematiche, come credo tutti noi che frequentiamo certi blog e viviamo di tecnologia essendo cresciuti con essa. Noi più di tanti conosciamo pregi e difetti di questo aspetto della vita moderna che, nel bene e nel male, ha rivoluzionato il mondo. Ripeto, è il mio parere, ben venga un controllo del genere, fatto in questo modo. Dirò di più. Per me, che un’iniziativa del gente venga da Apple piuttosto che da Google o Facebook fa ancora la differenza. Enorme. Ovviamente è un parere personalissimo.
Siamo mosche bianche Francesco. Quoto ogni tua parola. E parlo da genitore. Ormai ogni scusa è buona per replicare ed ampliare il modello cinese.
E fu così che la foto del proprio figlio di 3 anni con il pisellino all’aria mentre gioca sulla spiaggia farà mobilitare l’FBI.
Non è così, le foto pedo pornografiche hanno una “impronta” specifica, e tra queste non rientra quella di un bambino nudo sulla pelle dell’orso.
Se si basano sull’ hash “semplice” non serve a nulla, visto che i “soggetti” (per non voler scadere) che si scambiano queste immagini ci mettono mezzo secondo a cambiare la dimensione di 1 pixel per lato o il peso dell’immagine stessa. Lo stesso database del confronto é ridicolo come dimensioni (orrendo ovviamente, prima che arrivi qualche genio): si parla di circa 600k foto. E il db deve essere aggiornato, ma credo che i mostri di questo genere producano molto più materiale e con continuità purtroppo.
E così come al solito, creiamo un sistema che compromette i diritti dei gli innocenti (tutto fino a prova contraria), mentre i veri colpevoli non se ne cureranno nemmeno (davvero pensate mettano certe foto su iCloud?).
Non ho capito la prima parte del tuo post, ma sono d’accordo sulla seconda parte, e cioè dubito possano caricare queste foto sul iCloud. Dovrebbero essere proprio degli imbecilli. Credo piuttosto che sia una scusa per sbirciare tra le nostre foto. Per quanto mi riguarda, iCloud non lo uso proprio.
@ Francesco: è spiegato nell’articolo:
“Normalmente, qualsiasi leggera modifica a una foto comporterebbe un hash diverso, ma la tecnologia di Apple è in grado di distinguerle e risulteranno comunque nello stesso hash.”
E su questo ci dobbiamo fidare delle loro dichiarazioni. In ogni caso questo non farebbe che aumentare i possibili falsi positivi. E a quel punto quei falsi positivi verrebbero controllati da una persona, che vedrebbe le mie foto.
Quante complicazioni. Con questa tecnologia ci siamo complicati la vita, perdendo tempo in queste inutilità. Prima iCloud non c’era e quindi questi problemi non esistevano. Consiglierei un ritorno alla Polaroid istantanea. Eravamo tutti più felici e meno stressati.
Tonino sei sicuro di aver capito l’argomento delll’articolo? Quando c’era la Polaroid istantanea non c’erano le foto pedo pornografiche? 🤦🏼♂️
Capire l’argomento? Credevo si parlasse del fatto che Apple, per stanare i pedofili, si possa permettere di sbirciare tra le nostre foto. Supposto sia questo il dibattito (nel qual caso avrei capito l’argomento), ai tempi della Polaroid c’erano sicuramente i pedofili, ma di certo non venivano a cercarli a casa mia, sbirciando tra le istantanee che avevo sistemate nel mio album fotografico.
Adesso siamo tutti connessi tra noi e con il mondo intero, e questo da una parte ci facilita alcune cose (ma sono solo illusioni) e dall’altra ce le peggiora. Non dico di fermare il progresso, ma ho voluto riportate solo un dato di fatto. Era una mia riflessione. Da super tecnologico quale sono (e considerando come ci siamo ridotti), se potessi tornare indietro, tornerei ai tempi della Polaroid.
Mi sono stancato di questo stress tecnologico, di questa società che va di fretta, dei backup, delle password, degli aggiornamenti ecc. Se ci pensi, impieghiamo il nostro tempo a fare questo. Forse giocare a bocce è molto più salutare.
Grazie Tonino, sono d’accordo su tutto, bocce incluse.
Anch’io ho spesso riscontrato che l’adozione una nuova tecnologia (destinata a facilitare la mia vita) porta con se anche una complicazione.
Ma per rimanere sul tema, personalmente ritengo che le benintenzionate iniziative delle grandi aziende per controllare le comunicazioni siano, in prospettiva, molto pericolose. Ma, come dice Raffaele, siamo poche mosche bianche a pensarla così. Molti ormai preferiscono la sicurezza alla libertà.