Un mandat de perquisition déniché par Forbes a donné l'occasion d'en savoir un peu plus sur la manière dont Apple tente de détecter des contenus pédophiles transitant par iCloud.
Ce document fait état d'une enquête sur un individu suspecté d'avoir échangé, par mail, des images contenant de la pornographie infantile.
Un employé d'Apple y explique que lorsqu'un mail porteur d'un contenu suspect est intercepté par le système de filtrage, son acheminement vers son destinataire est bloqué, le mail est mis en quarantaine. Cette détection préalable est automatisée, mais aucun détail sur son fonctionnement n'est donné.
Une théorie veut qu'il s'agisse de PhotoDNA, mis au point par Microsoft et donné au National Center for Missing & Exploited Children. Ce système crée une signature électronique à partir d'une photo et la compare avec une énorme base de données de signatures générées à partir d'images validée comme contenant de telles scènes (lire La lutte contre la pédophilie se mène aussi sur iCloud).
Une fois qu'un mail a été repéré et signalé aux administrateurs d'Apple, ceux-ci en observent le contenu.
Dans le cas présent, la personne avait envoyé 8 mail, tous bloqués dans leur transfert. Sept d'entre eux contenaient 12 images. Tous ces messages et les visuels à l'intérieur étaient identiques. Le 8e mail contenait 4 images, différentes des précédentes. Curieusement, à chaque fois l'expéditeur et le destinataire étaient la même personne.
L'employé d'Apple a supposé que le contact de cette personne s'était plaint de ne pas avoir reçu les messages — puisque bloqués par iCloud. L'expéditeur avait peut-être alors tenté de comprendre ce qui clochait en s'envoyant à lui-même le message et en s'y reprenant à plusieurs reprises.
Les images de ces courriers ont été ensuite examinées par une équipe d'Apple et un signalement a été transmis. Les autorités ont alors réclamé le nom, l'adresse et le numéro de téléphone de l'individu — des infos fournies lors de la création de son compte iCloud — ainsi que le contenu du mail et d'autres informations échangées et des fichiers stockés sur iCloud.
Apple n'a pas fourni plus d'informations à Forbes sur le fonctionnement de son système.
