Scansione foto iCloud: Apple “comprende” le preoccupazioni, ma è più importante proteggere i bambini
Apple ha annunciato una pacchetto di misure chiamate “Protezioni estese per i bambini” (Expanded Protections for Children), che prevedono tra le altre cose la scansione delle foto prima di essere caricate su iCloud per verificare la presenza di materiale pedo pornografico (CSAM). L’iniziativa è stata salutata con favore dalle organizzazioni americane per la tutela dei minori, ma ha sollevato anche critiche da parte di Edward Snowden e Electronic Frontier Foundation per l’eventuale uso distorto che si potrebbe fare di questa tecnologia.
Il sito 9to5Mac è riuscito a mettere le mani su una nota interna di Apple inviata da Sebastien Marineau-Mes, vice presidente della divisone software di Cupertino, in cui spiega che Apple continuerà a “spiegare e dettagliare le funzionalità”, ma che erano assolutamente necessarie per proteggere i bambini:
“Oggi è il giorno dell’annuncio pubblico ufficiale di Expanded Protections for Children, e volevo prendermi un momento per ringraziare ognuno di voi per tutto il vostro duro lavoro negli ultimi anni. Non avremmo raggiunto questo traguardo senza la vostra instancabile dedizione e resilienza.
Proteggere i bambini è una missione veramente importante. In vero stile Apple, perseguire questo obiettivo ha richiesto un profondo impegno interfunzionale, che abbraccia Engineering, GA, HI, Legal, Product Marketing e PR. Quello che abbiamo annunciato oggi è il prodotto di questa incredibile collaborazione, che fornisce strumenti per proteggere i bambini, ma senza compromettere il grande impegno di Apple per la privacy degli utenti.
Ci sono state molte reazioni positive oggi. Sappiamo che alcune persone hanno frainteso e altri sono preoccupati per le implicazioni, ma continueremo a spiegare e dettagliare le funzionalità in modo che le persone capiscano cosa abbiamo realizzato. E mentre c’è molto lavoro da fare per implementare le funzionalità nei prossimi mesi, volevo condividere questa nota che abbiamo ricevuto oggi da NCMEC. L’ho trovato incredibilmente motivante e spero che lo sarà anche per voi.
Sono orgoglioso di lavorare in Apple con un team così straordinario. Grazie!”
La nota include anche un messaggio del Centro nazionale per i bambini scomparsi e sfruttati, firmato da Marita Rodriguez, direttore esecutivo delle partnership strategiche. Apple sta lavorando a stretto contatto con NCMEC per le nuove funzionalità di scansione di iCloud.
Ecco il testo completo della nota di NCMEC inviata al team di Apple che lavora su queste funzionalità:
“Squadra Apple,
Volevo condividere una nota di incoraggiamento per dire che tutti all’NCMEC siamo MOLTO ORGOGLIOSI di ciascuno di voi e delle incredibili decisioni che avete preso in nome della priorità della protezione dei bambini.
È stato corroborante per tutto il nostro team vedere (e avere un piccolo ruolo) in ciò che avete annunciato oggi.
So che è stata una lunga giornata e che molti di voi probabilmente non dormono da 24 ore. Sappiamo che i giorni a venire saranno saranno caratterizzati da stridenti critiche da parte di una minoranza.
Le nostre voci saranno più forti.
Il nostro impegno per aiutare i bambini che hanno vissuto gli abusi e le mortificazioni più inimmaginabili sarà più forte.
Durante questi lunghi giorni e queste notti insonni, spero che possiate trovare conforto nel sapere che grazie a voi molte migliaia di bambini vittime di sfruttamento sessuale saranno salvati e avranno la possibilità di guarire e di avere l’infanzia che meritano.
Grazie per gli sforzi per la protezione dei bambini preservando la privacy.
31 commenti
Veramente difficile stare da una parte o dall’altra, in realtà in questo caso, porre un argine alla perofilia, allo scambio di materiale, l’intento è nobile e ci può stare, ma il precedente è pericoloso, poiché di fatto presuppone autorizzare un soggetto terzo, che dovrebbe solo venderci un oggetto e garantirci il suo buon funzionamento, a sorvegliare sull’utilizzo che ne facciamo e nel caso intervenire. Insomma, è come se il frigorifero avvisasse la polizia in caso io ci metta dentro un animale di una specie protetta, o se le mie scarpe avvisassero le guardie nel caso io oltrepassassi una determinata zona. Oggi scansione a fin di bene, ma domani?
Se usi Facebook, Twitter, Gmail e gli altri social o servizi, questa scansione già avviene, Apple è arrivata solo per ultima, e lo ha fatto in modo che la scansione avvenga sul dispositivo, e solo in caso di corrispondenza con il database pedo pornografico viene attivata la verifica umana.
Se usi (così scrive chi ne è schiavo), esiste gente felice di non farlo e che tornerebbe al web degli albori pur di vedere le società che fanno software per i propri clienti non per cederne i risultati a terzi. È questa la paghiamo come nessun altra, circostanza dimostrabile dai loro bilanci. Non minimizzare su ciò che non comprendi, siamo davanti alla più grande involuzione della specie umana. Accettare questa condizione ci rende gli uomini degli Alvaro Vitali che spiano dalla serratura, in una parola degli sfigati.
Apple non raccoglie i dati degli utenti, le foto sono scansionate dal processore dell’iPhone, se non hai materiale pedo poronografico nessuno umano vedrà un tuo scatto.
Nessun algoritmo è infallibile, inevitabilmente ci saranno falsi positivi, e le foto intime di qualcuno finiranno sotto gli occhi di qualche dipendente Apple.
Infatti, aggiungerei…chi scrive gli algoritmi? Chi controlla i controllori? Il grande fratello è già qui. Apple incoerente.
Eh beh,se c’è il rischio che una foto intima possa essere vista per sbaglio da un dipendente Apple, allora è giusto eliminare questa funzione e consentire lo scambio pedopornografico.
Oggi questo ma domani chi ci assicura che “algoritmi” non controlleranno dati considerati pericolosi dai governi? Fondamentalmente stiamo parlando di una “backdoor” tanto osteggiata proprio dalla Apple (fino a ieri)…
Guarda che c’è una differenza tra foto porno e contenuti pedopornografici, a meno che nella foto in cui tu sei nudo c’è anche un minore qualsiasi altra foto intima non verrà presa in considerazione neanche per sbaglio
Come detto, nessun algoritmo è infallibile. E per foto intime non sto parlando necessariamente di nudi. Penso ad una foto di un bimbo a cui fanno il bagnetto, per esempio. Se la mando alla nonna, per un pisellino è possibile che venga guardata da un texano. Non mi pare una bella cosa. E continuo a ribadire come non servirà a nulla contro la pedofilia. Solo severe condanne aiutano, oltre a percorsi di cura (trattandosi di una malattia mentale).
Le “impronte” delle foto pedo pornografiche non hanno nulla a che vedere con la scena descritta, poi in ogni caso quando i vantaggi superano gli svantaggi, va bene.
Quindi si tratta di una almeno parziale marcia indietro rispetto a quanto l’azienda affermava fino a ieri. Chi si ricorda le polemiche con chi pretendeva di sbloccare i telefoni di presunti terroristi? La privacy degli utenti in determinati casi non è più sacra. Non pensi che domani la stessa tecnologia (una specie di backdoor) potrà essere usata per taggare foto di oppositori di vari governi, attivisti ecc…? Il “fidatevi di noi” della Apple non è certo sufficiente e l’azienda paladina della privacy ad ogni costo appare oggi molto ma molto meno credibile.
C’è una bella differenza tra creare una backdoor per sbloccare i telefoni e segnalare foto pedo pornografice.
Ma facebook e altri servizi, la scansione la fanno sui propri server oppure la fanno sul nostro dispositivo? No, perché ci sarebbe un’enorme differenza. Se la scansione la fanno sui loro server, il problema non si pone perché siamo noi a caricare le foto e quindi non ci preoccupiamo più di tanto. Se invece la scansione la fanno sul nostro dispositivo, significa che questi social hanno accesso alla mia libreria foto e possono sbirciare senza la mia autorizzazione. Cosa gravissima.
Pur se il fine è nobile sono contrariato per questa invasione nella sfera privata. I Big Tech si alleassero piuttosto per debellare i crimini tuti nel dark web.
Sono d’accordo. Combattere la pedofilia è fondamentale, ma non è creando un grande fratello che ispezioni ogni foto di ogni utente che si potrà debellare questo morbo. Credete davvero che basti questo a fermare persone malate e criminali? Forse Apple ignora l’esistenza del dark web?
A che pro allora non aver sbloccato il telefono del terrorista di San Bernardino?
A quando una censura preventiva dei messaggi offensivi inviati? Il bullismo non è da censurare?
A quando una censura dei termini razzisti? Il razzismo non è da censurare?
A quando un’analisi dei messaggi per scoprire futuri attacchi terroristici? Il terrorismo non è da fermare?
Perché permettere l’esistenza di browser utili ad accedere al dark web? Succedono tante cose brutte là dentro.
Una volta aperto, chiudere il vaso di Pandora è impossibile.
Concordo, mi dispiace ma questa volta mamma Apple si sta contraddicendo alla grande…altro che azienda rispettosa della privacy degli utenti…
Comunque sia, non so voi, ma a me l’idea di avere in tasca un aggeggio che può controllare e giudicare le mie abitudini dà un po’ fastidio; e non mi si venga a fare il solito discorso che chi non ha nulla da nascondere non ha nulla da temere, una volta implementata (e autorizzata) una tecnologia in grado di analizzare i contenuti che transitano in uno smartphone (pur se con scopi nobili, come in questo caso) la medesima tecnologia può essere dirottata per altri usi. Stiamo delegando a un’azienda privata poteri di polizia…
“avere in tasca un aggeggio che può controllare e giudicare le mie abitudini dà un po’ fastidio”.
Credo che questo rientri nel “Sappiamo che alcune persone hanno frainteso”.
Non ho frainteso, ho ben compreso che non vi è alcuna azione attiva ma
Solo un algoritmo che sulla base di criteri non meglio specificati “scansionerà” i contenuti eccetera eccetera; ora, se un tipo come Snowden, che in tema di controllo non è proprio l’ultimo arrivato e che, certamente meglio di me e di tanti come me, ha un’idea precisa sulle potenzialità di sistemi del genere, ripeto se un tipo come Snowden solleva qualche dubbio, forse un minimo di preoccupazione la di potrebbe avere. Tutto qui
Faccio fatica a capire il problema. La tecnologia di Apple scansionerà solo le foto che devono essere caricate su iCloud, non usare iCloud Foto. A me da fastidio che Gmail scansiona le email, sono passato a @mac.com, ad esempio.
What happens on your iphone,
stay on your iphone…
Ancora una volta, disattivando Foto di iCloud, What happens on your iphone,
stay on your iphone…
Non metto in dubbio che Apple sia infinitamente meglio delle aziende concorrenti anche in tema di rispetto della privacy ma da oggi un pochino meno di ieri.
“What happens on your iPhone, stay on your iPhone…but what happens on your iCloud (perhaps) does not stay on your iCloud…”.
Un iPhone funziona senza iCloud, e Apple chiaramente non si può permettere che i suoi server cloud possano essere utilizzati per archiviare foto sessualmente esplicite di bambini, quindi “qualcosa” doveva fare. Altri servizi cloud da tempo effettuano la scansione dell’intera libreria cloud alla ricerca di materiale pedo pornografico, Apple ha preferito utilizzare un sistema diverso, meno invasivo. iCloud rischiava di essere una sorta di dark web. Io continuo a non capire qual è il problema.
Utilizzare oggi iPhone senza iCloud è anacronistico quindi questo non mi sembra una giustificazione. Ad ogni modo, dal mio punto di vista, il “problema” è il cambio di rotta della politica di Apple che si è sempre vantata di custodire gelosamente ed a priori la privacy anche dei suoi servizi cloud. E’ fondato il timore che oggi si controllino le immagini di minori ma domani (sempre nell’ottica di evitare che iCloud si trasformi in una sorta di dark web) si possano controllare immagini di presunti terroristi, minoranze ecc. Una volta introdotta la tecnologia e la possibilità di utilizzarla in un modo (oggi lecito) si corre il rischio che la si possa utilizzare in qualunque modo. Tim Cook: “…Building a version of iOS that bypasses security in this way would undeniably create a backdoor. And while the government may argue that its use would be limited to this case, there is no way to guarantee such control”. Oggi ci fidiamo della parola di Apple ma domani chi ci assicura che “a fin di bene” i “controlli” non si estendano anche in altri ambiti? Che facciamo torniamo all’hard disk nel taschino?
È impossibile discutere in questo modo, su qualcosa che non esiste. La tecnologia di Apple serve per individuare contenuti sessualmente espliciti di bambini, non è fatta per trovare un dissidente, una minoranza ecc. Il messaggio di Apple è chiaro: su iCloud non si possono archiviare immagini pedopornografie.
Eppure Ed Snowden (quindi non proprio il primo che passa) lo ha spiegato piuttosto bene.
io non capisco questa tua cecità invece.
bisogna prendere atto che Apple, come tutte, è una multinazionale e come tale si comporta, da fan dovremmo essere contro certi comportamenti…
trovo piuttosto ingenuo credere che una azienda che fattura triliardi si curi davvero dei suoi clienti, e questa ultima inversione di marcia è l’ennesima prova.
Guarda anche io come te non ho mai acquistato un computer Windows ma questa volta non sono d’accordo con mamma Apple in quanto questa mossa, a mio parere, costituisce comunque un “vulnus” rispetto alla posizione integralista di assoluto rispetto della privacy tenuta dall’azienda fino a ieri. Oggi gli scopi possono essere al di sopra di ogni sospetto ma un domani chi e come deciderà che “vale la pena” rinunciare alla privacy? Dobbiamo solo fidarci della buona fede della Apple? Domani qualunque autorità potrà lecitamente (dal proprio punto di vista) chiedere di taggare foto considerate sgradite dal governo di turno. Si tratta a tutti gli effetti della famosa “backdoor” che l’azienda ha tanto criticato fino a ieri l’altro, inutile nascondersi dietro giochi di parole.
Questo fatto é pericoloso e grave!
Chiunque rinunci alla propria libertà in nome della sicurezza, non merita né la libertà e né la sicurezza.
Le foto vengono trasformate in un numero, tecnicamente hash, confrontato poi con un database di hash di foto pedopornografiche gestito dalla NCMEC, in pratica se una foto pedoporgrafica non è in quel database non verrà segnalata. Il sistema può essere visto più come un modo per fermare la diffusione di materiale pedopornografico già in giro, il problema è che non individua foto nuove che non sono presenti nel database