iCloud : détails sur la gestion par Apple des contenus pédophiles
Un mandat de perquisition déniché par Forbes a donné l'occasion d'en savoir un peu plus sur la manière dont Apple tente de détecter des contenus pédophiles transitant par iCloud.
Ce document fait état d'une enquête sur un individu suspecté d'avoir échangé, par mail, des images contenant de la pornographie infantile.
Un employé d'Apple y explique que lorsqu'un mail porteur d'un contenu suspect est intercepté par le système de filtrage, son acheminement vers son destinataire est bloqué, le mail est mis en quarantaine. Cette détection préalable est automatisée, mais aucun détail sur son fonctionnement n'est donné.
Une théorie veut qu'il s'agisse de PhotoDNA, mis au point par Microsoft et donné au National Center for Missing & Exploited Children. Ce système crée une signature électronique à partir d'une photo et la compare avec une énorme base de données de signatures générées à partir d'images validée comme contenant de telles scènes (lire La lutte contre la pédophilie se mène aussi sur iCloud).
Une fois qu'un mail a été repéré et signalé aux administrateurs d'Apple, ceux-ci en observent le contenu.
Dans le cas présent, la personne avait envoyé 8 mail, tous bloqués dans leur transfert. Sept d'entre eux contenaient 12 images. Tous ces messages et les visuels à l'intérieur étaient identiques. Le 8e mail contenait 4 images, différentes des précédentes. Curieusement, à chaque fois l'expéditeur et le destinataire étaient la même personne.
L'employé d'Apple a supposé que le contact de cette personne s'était plaint de ne pas avoir reçu les messages — puisque bloqués par iCloud. L'expéditeur avait peut-être alors tenté de comprendre ce qui clochait en s'envoyant à lui-même le message et en s'y reprenant à plusieurs reprises.
Les images de ces courriers ont été ensuite examinées par une équipe d'Apple et un signalement a été transmis. Les autorités ont alors réclamé le nom, l'adresse et le numéro de téléphone de l'individu — des infos fournies lors de la création de son compte iCloud — ainsi que le contenu du mail et d'autres informations échangées et des fichiers stockés sur iCloud.
Apple n'a pas fourni plus d'informations à Forbes sur le fonctionnement de son système.
Cette news est super intéressante, mais malheureusement c’est un bon moyen de prévenir ces prédateurs qui du coup se tournerons vers d’autre plateforme. Ne pas trop diffuser ce genre de news c’est aussi pouvoir en attraper et donc arrêter un peu plus ...
@jyf69
Parfaitement d’accord avec toi!
@jyf69
ne vous envoyez pas des emails pedophiles ?
un poil de jugeote devrait permettre de se dire que si Google est capable de sélectionner des pubs ciblées suivant le contenu de vos messages plus d’un filtre doit pouvoir être appliqué à ce genre de truc.
@jyf69
"Cette news est super intéressante, mais malheureusement c’est un bon moyen de prévenir ces prédateurs qui du coup se tournerons vers d’autre plateforme. Ne pas trop diffuser ce genre de news c’est aussi pouvoir en attraper et donc arrêter un peu plus ..."
Une initiative a été tentée il y a une vingtaine d'année, pour changer la vision très négative de la police par les jeunes de quartiers HLM a haut pourcentage de délinquance. Des jeunes ont été intégrés dans la police, comme stagiaires rémunérés, travaillant dans les commissariats et sur le terrain pour voir ce qu'était vraiment la vie d'un policier.
Résultat des courses, une nette amélioration des rapports police/jeunes. ET une bien meilleure connaissance par les délinquants locaux des procédures des forces de l'ordre, des temps de réaction à un événement, des codes radios, des techniques de surveillance, etc ! Pas terrible au final ..
L'approche humaine était une bonne idée, mais le coté "on vous explique tout sur notre fonctionnement", nettement moins !
Je suis le seul à m'inquiéter qu'Apple analyse tout les mails et photos qui passent par ses serveurs?
Le respect de la vie privée, tout ça tout ça...
Et ne me sortez pas que c'est pour luter contre la pedophilie ou le terrorisme parce que ce sont ensuite souvent les même outils qui sont utilisés dans les dictatures.
Par exemple pour repérer les dissidents qui s'échangent des images pas très glorieuses du leader suprême.
@fousfous
Non, je n’aime pas ça non plus. Même si l’intention est bonne ça laisse le champ libre à toutes sortes de dérives
@fousfous
C’est pas vraiment une analyse stricte au sens « tiens voyons voir ce qu’il y a là dedans », c’est plutôt que ces photos sont reconnues grâce à leur « identifiant numérique » (pour simplifier). Donc en gros ces contenus la sont repérables car ils sont « marqués » mais ton dernier selfie est totalement inconnu et personne ne voit ou ne sait ce que c’est même pendant « l’analyse ».
@Totoche31
Oui je sais comment ça fonctionne, mais il suffit juste de flagguer des photos qu'on connais comme étant anti gouvernement et tu peux ficher tes opposants comme ça.
Donc au final on a bien une analyse (et heureusement que c'est pas une analyse à la youtube parce que sinon ils seraient débordés chez Apple).
@Totoche31
Si je me souviens bien d’un article lu il y a quelque temps, n’est-ce pas également un moyen utilisé par des services de cloud comme Dropbox pour réduire la quantité d’espace nécessaire sur leurs data center ? L’article parlait d’un système permettant d’analyser les contenu de leur cloud pour à ma fois identifier les fichiers illégaux, films piratés et autres, et également réduire l’espace nécessaire quand un même fichier est possédé par plusieurs utilisateurs …
@fousfous
Je suis d'accord avec vous. D'un autre côté, si un dissident est suffisament naïf pour envoyer des photos de kim jung hyun en string léopard par mail, il vaut mieux pour le reste de la résistance qu'il sa fasse gauler très vite, avant qu'il ne devienne un membre clé du réseau.
@f3nr1l
Après tu peux transposer ça aux réseaux sociaux, et tu bloques tout moyens de communication des opposants.
Mais je pensais pas qu'Apple s'abaisserait a ça, et le plus choquant c'est que la presse approuve alors qu'on a des scandales pour moins que ça...
@"fousfous"/jean d. le dingue :
C'est sûr que toi t'es un spécialiste en matière de respect de la vie privée des gens...
@macam
T'as vraiment un problème toi...
Pas trop chargées les journées de jeune cadre dans l'aéronautique ?
@macam
Y a quelque chose qui va pas chez toi, va attaquer quelqu'un d'autre...
Tu refuses toujours de bosser dans une boîte qui n'utilise pas de Mac ?
Tu dois être une sacrée pointure pour t'autoriser un tel caprice à peine diplômé...
@fousfous
Ils le font tous, le seul moyen de ne pas être espionné est d'hoster et d'utiliser ses propres serveurs, tout en sachant que les e-mails envoyés vers des iCloud, Gmail, Yahoo, MSN...Seront tous scannés et exploités.
@pinkbOnO
Pas comme chez Google and co car ce n’est pas son business model
@fousfous @shaba
Bien d'accord avec vous deux. L'intention est évidemment louable, mais cela veut dire que tout ce qui transite par le Cloud est filtré...
Même si je ne manipule pas ce genre de contenus, je vais continuer à m'obstiner à utiliser mon cloud à moi à base de disques externes pour les sauvegardes !!
Euh .. comment dire ?
J’ai une publicité SanDisk s’affichant entre deux commentaires de ce topic, pour me proposer d’acheter un disque dur externe. Pourquoi pas ?
Sauf qu’elle montre de très jeunes garçons, d’environ 7 ans, faisant du sport. A moins d’être une énorme coïncidence, c’est curieux. J’ai rarement vu une pub aussi ciblée en fonction du contenu d’un article !
Édit : c’était bien une coïncidence. Cette pub pour une clé USB apparait un peu partout dans les autres topic, ainsi qu’une autre en vidéo avec une blonde parlant de sa banque.
@IceWizard
Vivement que tu vois une pub pour un vol en Thaïlande.
@Soner
« Vivement que tu vois une pub pour un vol en Thaïlande. »
Si c’était un ciblage personnalisé j’aurais des pubs pour des vols vers Prague, Moscou et Kiev, et des adresses de speed Dating avec des filles de l’Est !
ceux qui sont malins et qui veulent échanger des fichiers, ou simplement des conversations sans que cela transite par les serveurs utilisent un truc vieux comme le monde (bon, disons vieux comme le mail) : créér une boite webmail quelconque, donner l'identifiant et le mot de passe au correspondant, aller faire un brouillon, l'enregistrer. Et voila. Le destinataire n'a plus qu'à se connecter et aller lire / récupérer les fichiers.
Le webmail en question stocke ces "brouillon" sur son serveur et peut donc tout à fait, comme le fait Apple, scanner leur contenu et leurs pièces jointes !
guibrush
encore plus simple , zipper les photos avec mot de passe.
Ce qui est interessant c'est qu'apple puisse lire courrier, ou photos envoyés..
Au fait de quel droit ont ils ce droit ?
Ont il un mandat pour s'insérer dans la vie privée des gens et des relations avec autrui..
C’est un peu comme si la poste, ouvrait tous nos courriers autrefois..
Je crois que l'on donne a ces gens qui ne sont que des fabricants de téléphone beaucoup de pouvoirs totalement infondés.
@rikki finefleur
Et c’est surtout exactement ce que reproche les anti Google... Google lit vos mails, Apple aussi ( enfin ont des algorithmes de détection...). On se réjouit déjà quand on fera la chasse à la mauvaise hygiène de vie, sous couvert de « ils n’ont qu’a Payer ceux qui ont une mauvaise hygiène », et que toutes les données santés seront livré aux assurances, parce que vous voyez c’est la loi...
@debione
Sauf qu’Apple ne fait pas comme Google car ce n’est pas leur business model🤦♂️
@rikki finefleur
"Au fait de quel droit ont ils ce droit ?
Ont il un mandat pour s'insérer dans la vie privée des gens et des relations avec autrui..
C’est un peu comme si la poste, ouvrait tous nos courriers autrefois.."
C’est toujours facile d’adopter une posture comme celle là. Sans trop réfléchir. C’est un peu demago quand même.
Sinon quand tu vas à un concert et qu’un inconnu te demandes d’ouvrir ton sac, même sans plan vigipirate alors que tu as l’air honnête tu fais quoi ?
Parce que non ton sac ou celui de ta femme c’est votre intimité non?
Peut y avoir des instruments bizarre dedans pour peu que tu sois fétichiste. 🤪
Ou une photo tendancieuse sait on jamais.
Donc tu refuses et tu lui dis :
« allez vous faire foutre avec votre concert de merde !
Je suis libre moi !
J’ai aucun compte à rendre »
Tu penses vraiment qu’il y a un mec d’Apple qui lit les milliers de mails qu’on envoie et qu’il y prête attention ? Sans deconner ?
Moi je m’en tape qu’ils scannent mes mails si il peuvent détecter des pourritures susceptibles d’appâter mes gosses ou les autres ça me va.
Toi non c’est ton problème.
@rikki finefleur
Sauf qu’Apple ne fait pas comme Google car ce n’est pas leur business model🤦♂️
Cet article montre bien comment en partant de bon sentiment on peut arriver à des dérives ... et pourquoi surtout les régimes autoritaires de ce monde n’interdisent pas à Apple de vendre son matos chez eux... Le marketing sur la sécurité les sert, et à terme desservira les utilisateurs... la fameuse anonymisation des données, laissez moi rire...
@debione
"laissez moi rire..."
Ça t’arrives ?
Content de te l’entendre dire
Je commençais à m’inquiéter
@debione
Sauf qu’Apple ne fait pas comme Google car ce n’est pas leur business model🤦♂️ le système qu’ils utiliseraient comme indiquer dans l’article ne permet de savoir le contenu du mail