Il y a maintenant quelques années, en 2021, Apple annonçait l’implantation à venir d’un système de détection des contenus pédopornographiques, autrement appelés CSAM chez les anglo-saxons (pour Child Sexual Abuse Material), avant de revenir sur sa décision suite au tollé provoqué par les défenseurs de la vie privée, y voyant une atteinte majeure à celle-ci. Quatre ans plus tard, il est possible qu’Apple doive revenir à cette solution, à la demande de l’Union européenne.
L’affaire avait fait grand bruit à l’époque : afin de prévenir l’utilisation de médias, que ce soit images, vidéos ou autres pouvant présenter des abus sexuels sur mineur, Apple a indiqué avoir mis au point un système les traquant non seulement sur iCloud, mais aussi sur les appareils de l’utilisateur. Pour ce faire, le système comparait la photo ou la vidéo avec une base de données du NCMEC (National Center for Missing and Exploited Children, ou centre national pour les enfants disparus ou exploités), une ONG spécialisée dans la lutte contre la traite d’êtres humains.
Sur la défensive, Apple justifie l’abandon de son projet de détection des contenus pédopornographiques
Si un contenu était découvert, il ne déclenchait pas forcément une alerte immédiate, mais l’usage répété de tels contenus remontait les informations aux autorités, afin que celles-ci puissent décider d’une enquête sur l’individu soupçonné, après vérification manuelle pour éviter tout faux-positif. Apple a bien tenté de défendre sa position, mais peine perdue : la levée de bouclier pour défendre le droit à la vie privée a été tel qu’elle a dû faire machine arrière, et abandonner son projet en 2023. En 2024, la position d’Apple avait d’ailleurs fait un 180 degrés total : l’Australie, indiquant vouloir mettre en place ce type de surveillance, s’est vue opposer un refus par Apple, jugeant une telle proposition démesurée face aux risques pour la vie privée des utilisateurs :
L’analyse de contenus spécifiques ouvre la voie à une surveillance de masse des communications et des systèmes de stockage qui contiennent des données relatives aux aspects les plus privés de la vie de nombreux Australiens. De telles capacités, comme l’enseigne l’histoire, finiront inévitablement par s’étendre à d’autres types de contenus (images, vidéos, textes ou audio) et à d’autres catégories de contenus.
La position est donc claire : hors de question d’implanter une backdoor permettant à un quelconque gouvernement de vérifier le contenu des utilisateurs, sous quelque prétexte que ce soit.
Cependant, l’idée n’est pas tombée dans l’oreille d’un sourd : l’Union européenne l’a reprise à son compte peu de temps après, dans un projet imposant aux géants de la tech de scanner automatiquement les contenus stockés et échangés sur leurs serveurs pour y chercher des contenus pédopornographiques. Si entre temps les associations de défense de la vie privée ont réussi à faire revenir l’UE à la raison, l’idée n’a cependant pas totalement été enterrée.
Comme le rapporte Euractiv, les discussions ont continué, et le Conseil est arrivé à un consensus sur la méthode à utiliser : si dans un premier temps l’idée était de forcer les entreprises de la tech à implémenter des méthodes de recherche automatique de contenu à caractère pédopornographique sur les ordinateurs et services cloud, la nouvelle version du texte ne leur force plus la main. Cependant, la possibilité reste ouverte, et chaque entreprise pourra la mettre en place, si elle le juge nécessaire pour satisfaire les exigences de lutte contre la pédocriminalité.
Si le projet doit encore passer la validation du Parlement européen, il a cependant passé une étape importante, pouvant ouvrir la porte à une loi d’ici quelques mois. Si les ONG de protection de la vie privée resteront sur leurs gardes, elles devront lutter contre toute une part de législateurs comme Peter Hummelgaard, ministre danois de la justice, pour qui ce projet est le bienvenu :
Je suis heureux que les membres du conseil soient parvenus à un accord pour aller de l’avant [...] chaque année, des millions de fichiers pédopornographiques sont partagés.
Alors, lutter contre la pédocriminalité, ou préserver à tout prix la vie privée ? Si en 2021 le choix semblait évident pour une majorité, est-ce toujours le cas aujourd’hui ?
