iCloud : détails sur la gestion par Apple des contenus pédophiles

Florian Innocente |

Un mandat de perquisition déniché par Forbes a donné l'occasion d'en savoir un peu plus sur la manière dont Apple tente de détecter des contenus pédophiles transitant par iCloud.

Ce document fait état d'une enquête sur un individu suspecté d'avoir échangé, par mail, des images contenant de la pornographie infantile.

Un employé d'Apple y explique que lorsqu'un mail porteur d'un contenu suspect est intercepté par le système de filtrage, son acheminement vers son destinataire est bloqué, le mail est mis en quarantaine. Cette détection préalable est automatisée, mais aucun détail sur son fonctionnement n'est donné.

Une théorie veut qu'il s'agisse de PhotoDNA, mis au point par Microsoft et donné au National Center for Missing & Exploited Children. Ce système crée une signature électronique à partir d'une photo et la compare avec une énorme base de données de signatures générées à partir d'images validée comme contenant de telles scènes (lire La lutte contre la pédophilie se mène aussi sur iCloud).

Une fois qu'un mail a été repéré et signalé aux administrateurs d'Apple, ceux-ci en observent le contenu.

Dans le cas présent, la personne avait envoyé 8 mail, tous bloqués dans leur transfert. Sept d'entre eux contenaient 12 images. Tous ces messages et les visuels à l'intérieur étaient identiques. Le 8e mail contenait 4 images, différentes des précédentes. Curieusement, à chaque fois l'expéditeur et le destinataire étaient la même personne.

L'employé d'Apple a supposé que le contact de cette personne s'était plaint de ne pas avoir reçu les messages — puisque bloqués par iCloud. L'expéditeur avait peut-être alors tenté de comprendre ce qui clochait en s'envoyant à lui-même le message et en s'y reprenant à plusieurs reprises.

Les images de ces courriers ont été ensuite examinées par une équipe d'Apple et un signalement a été transmis. Les autorités ont alors réclamé le nom, l'adresse et le numéro de téléphone de l'individu — des infos fournies lors de la création de son compte iCloud — ainsi que le contenu du mail et d'autres informations échangées et des fichiers stockés sur iCloud.

Apple n'a pas fourni plus d'informations à Forbes sur le fonctionnement de son système.

avatar jyf69 | 

Cette news est super intéressante, mais malheureusement c’est un bon moyen de prévenir ces prédateurs qui du coup se tournerons vers d’autre plateforme. Ne pas trop diffuser ce genre de news c’est aussi pouvoir en attraper et donc arrêter un peu plus ...

avatar Stéf06 | 

@jyf69

Parfaitement d’accord avec toi!

avatar raoolito | 

@jyf69

ne vous envoyez pas des emails pedophiles ?
un poil de jugeote devrait permettre de se dire que si Google est capable de sélectionner des pubs ciblées suivant le contenu de vos messages plus d’un filtre doit pouvoir être appliqué à ce genre de truc.

avatar IceWizard | 

@jyf69

"Cette news est super intéressante, mais malheureusement c’est un bon moyen de prévenir ces prédateurs qui du coup se tournerons vers d’autre plateforme. Ne pas trop diffuser ce genre de news c’est aussi pouvoir en attraper et donc arrêter un peu plus ..."

Une initiative a été tentée il y a une vingtaine d'année, pour changer la vision très négative de la police par les jeunes de quartiers HLM a haut pourcentage de délinquance. Des jeunes ont été intégrés dans la police, comme stagiaires rémunérés, travaillant dans les commissariats et sur le terrain pour voir ce qu'était vraiment la vie d'un policier.

Résultat des courses, une nette amélioration des rapports police/jeunes. ET une bien meilleure connaissance par les délinquants locaux des procédures des forces de l'ordre, des temps de réaction à un événement, des codes radios, des techniques de surveillance, etc ! Pas terrible au final ..

L'approche humaine était une bonne idée, mais le coté "on vous explique tout sur notre fonctionnement", nettement moins !

avatar fousfous | 

Je suis le seul à m'inquiéter qu'Apple analyse tout les mails et photos qui passent par ses serveurs?
Le respect de la vie privée, tout ça tout ça...

Et ne me sortez pas que c'est pour luter contre la pedophilie ou le terrorisme parce que ce sont ensuite souvent les même outils qui sont utilisés dans les dictatures.
Par exemple pour repérer les dissidents qui s'échangent des images pas très glorieuses du leader suprême.

avatar shaba | 

@fousfous

Non, je n’aime pas ça non plus. Même si l’intention est bonne ça laisse le champ libre à toutes sortes de dérives

avatar Totoche31 | 

@fousfous

C’est pas vraiment une analyse stricte au sens « tiens voyons voir ce qu’il y a là dedans », c’est plutôt que ces photos sont reconnues grâce à leur « identifiant numérique » (pour simplifier). Donc en gros ces contenus la sont repérables car ils sont « marqués » mais ton dernier selfie est totalement inconnu et personne ne voit ou ne sait ce que c’est même pendant « l’analyse ».

avatar fousfous | 

@Totoche31

Oui je sais comment ça fonctionne, mais il suffit juste de flagguer des photos qu'on connais comme étant anti gouvernement et tu peux ficher tes opposants comme ça.
Donc au final on a bien une analyse (et heureusement que c'est pas une analyse à la youtube parce que sinon ils seraient débordés chez Apple).

avatar Jeckill13 | 

@Totoche31

Si je me souviens bien d’un article lu il y a quelque temps, n’est-ce pas également un moyen utilisé par des services de cloud comme Dropbox pour réduire la quantité d’espace nécessaire sur leurs data center ? L’article parlait d’un système permettant d’analyser les contenu de leur cloud pour à ma fois identifier les fichiers illégaux, films piratés et autres, et également réduire l’espace nécessaire quand un même fichier est possédé par plusieurs utilisateurs …

avatar f3nr1l | 

@fousfous

Je suis d'accord avec vous. D'un autre côté, si un dissident est suffisament naïf pour envoyer des photos de kim jung hyun en string léopard par mail, il vaut mieux pour le reste de la résistance qu'il sa fasse gauler très vite, avant qu'il ne devienne un membre clé du réseau.

avatar fousfous | 

@f3nr1l

Après tu peux transposer ça aux réseaux sociaux, et tu bloques tout moyens de communication des opposants.
Mais je pensais pas qu'Apple s'abaisserait a ça, et le plus choquant c'est que la presse approuve alors qu'on a des scandales pour moins que ça...

avatar macam | 

@"fousfous"/jean d. le dingue :
C'est sûr que toi t'es un spécialiste en matière de respect de la vie privée des gens...

avatar fousfous | 

@macam

T'as vraiment un problème toi...

avatar macam | 

Pas trop chargées les journées de jeune cadre dans l'aéronautique ?

avatar fousfous | 

@macam

Y a quelque chose qui va pas chez toi, va attaquer quelqu'un d'autre...

avatar macam | 

Tu refuses toujours de bosser dans une boîte qui n'utilise pas de Mac ?
Tu dois être une sacrée pointure pour t'autoriser un tel caprice à peine diplômé...

avatar pinkbOnO | 

@fousfous

Ils le font tous, le seul moyen de ne pas être espionné est d'hoster et d'utiliser ses propres serveurs, tout en sachant que les e-mails envoyés vers des iCloud, Gmail, Yahoo, MSN...Seront tous scannés et exploités.

avatar Krysten2001 | 

@pinkbOnO

Pas comme chez Google and co car ce n’est pas son business model

avatar damienjdc | 

@fousfous @shaba

Bien d'accord avec vous deux. L'intention est évidemment louable, mais cela veut dire que tout ce qui transite par le Cloud est filtré...
Même si je ne manipule pas ce genre de contenus, je vais continuer à m'obstiner à utiliser mon cloud à moi à base de disques externes pour les sauvegardes !!

avatar IceWizard | 

Euh .. comment dire ?

J’ai une publicité SanDisk s’affichant entre deux commentaires de ce topic, pour me proposer d’acheter un disque dur externe. Pourquoi pas ?

Sauf qu’elle montre de très jeunes garçons, d’environ 7 ans, faisant du sport. A moins d’être une énorme coïncidence, c’est curieux. J’ai rarement vu une pub aussi ciblée en fonction du contenu d’un article !

Édit : c’était bien une coïncidence. Cette pub pour une clé USB apparait un peu partout dans les autres topic, ainsi qu’une autre en vidéo avec une blonde parlant de sa banque.

avatar Soner | 

@IceWizard

Vivement que tu vois une pub pour un vol en Thaïlande.

avatar IceWizard | 

@Soner

« Vivement que tu vois une pub pour un vol en Thaïlande. »

Si c’était un ciblage personnalisé j’aurais des pubs pour des vols vers Prague, Moscou et Kiev, et des adresses de speed Dating avec des filles de l’Est !

avatar guibrush | 

ceux qui sont malins et qui veulent échanger des fichiers, ou simplement des conversations sans que cela transite par les serveurs utilisent un truc vieux comme le monde (bon, disons vieux comme le mail) : créér une boite webmail quelconque, donner l'identifiant et le mot de passe au correspondant, aller faire un brouillon, l'enregistrer. Et voila. Le destinataire n'a plus qu'à se connecter et aller lire / récupérer les fichiers.

avatar SyMich | 

Le webmail en question stocke ces "brouillon" sur son serveur et peut donc tout à fait, comme le fait Apple, scanner leur contenu et leurs pièces jointes !

avatar rikki finefleur | 

guibrush

encore plus simple , zipper les photos avec mot de passe.

Pages

CONNEXION UTILISATEUR