La CNIL met en demeure Clearview AI de cesser la collecte de photos de visages en France

Florian Innocente |

10 milliards d'images de visages collectées à travers le monde et fouillées au moyen d'un logiciel de reconnaissance faciale par des forces de police américaines. Ce trésor constitué par l'entreprise américaine Clearview AI fait l'objet d'enquêtes de plusieurs organismes de protection de la vie privée et de défense des libertés.

La CNIL vient d'ordonner à Clearview AI de mettre un terme à la collecte d'images de personnes en France, avant de décider de sanctions financières si cette injonction n'est pas suivie d'effets.

Établie depuis 2017, Clearview AI n'opère qu'aux États-Unis et ses clients sont des forces de police ou des agences fédérales. Une enquête de Buzzfeed révélait toutefois des démarchages à l'étranger (Europe, Amérique du Sud, Asie, Moyen-Orient) et auprès de clients dans le commerce de détail, la banque ou le jeu vidéo.

La base de visages constituée ratisse en effet partout dans le monde. L'entreprise amasse toutes les images de visages — et l'adresse des pages ou métadonnées associées — qu'elle peut trouver en libre accès sur des sites web et réseaux sociaux (Facebook, Instagram, Linkedin, YouTube, etc).

Un visage photographié durant un larcin est utilisé comme base de recherche dans le système de Clearview AI
L'une des correspondances trouvées
Le récapitulatif des correspondances avec la source des images

Clearview AI revendique aujourd'hui une base de 10 milliards de visages — des photos mais aussi des extraits de vidéos — que ses clients peuvent ensuite fouiller à la recherche d'une correspondance avec un suspect. Dans ses exemples d'utilisation, Clearview AI cite le cas d'un individu dont la photo avait été signalée sur une page Facebook, par un passeur de drogue qui avait été recruté par ce biais, et dont d'autres images, accompagnées de son nom, avaient été trouvées sur la page d'un Country Club.

Clearview AI défend le recours à une imposante base de données pour éviter les erreurs et maximiser les chances de trouver la bonne personne. Dans un article de Wired, Hoan Ton-That, le co-fondateur de cette entreprise de reconnaissance faciale, expliquait qu'il travaillait à des algorithmes capables de déflouter un visage ou de retirer un masque avant d'essayer de recomposer la partie manquante. Avec les risques que cela suppose en termes d'erreurs possibles. Mais là encore, Clearview AI oppose le principe d'un contrôle systématique des résultats par un humain.

Après avoir été alertée en mai dernier, la CNIL a mis en demeure Clearview AI de cesser, dans un délai de deux mois, la collecte et l'usage d'images de personnes se trouvant sur le territoire français et de supprimer celles déjà aspirées.

Ces personnes, dont les photographies ou vidéos sont accessibles sur divers sites web et des réseaux sociaux, ne s’attendent raisonnablement pas à ce que leurs images soient traitées par la société pour alimenter un système de reconnaissance faciale pouvant être utilisé par des Etats à des fins policières.

La procédure pour demander et obtenir une suppression de ses images devra être aussi considérablement améliorée. Des actions et demandes similaires ont été faites en Australie ou au Canada. Dans certains cas, Clearview AI a fait valoir qu'il lui était impossible de savoir si la personne était dans tel ou tel pays ou de connaître sa nationalité.

Il est également du ressort des plateformes de proscrire cette aspiration de leur contenu, puisqu'elles se situent en amont de la chaîne. Facebook, YouTube ou Twitter ont sommé Clearview AI de cesser ces extractions sur leurs plateformes, sans résultat pour le moment.


avatar Kito2 | 

Somebody Watching You …
De pire en pire.
Cela me rappelle un film avec Tom Cruise où les images étaient utilisées à des fins publicitaires…

avatar 0MiguelAnge0 | 

@Kito2

Ils collectent des donnée publiques: un gars assis à une terrasse peut aussi shooter les badauds sans être inquiétés.

Je trouve le comportement de cette boîte hors propos de bien entendu. Mais ils ne font qu’utiliser les donnée de ceux qui rendent tout publique, sans prendre soin de se protéger.

avatar marenostrum | 

C’est interdit de photographier les gens sans leur consentement.

avatar pagaupa | 

@marenostrum

La reproduction de l'image d'un groupe ou d'une scène de rue dans un lieu public est permise, sans besoin de solliciter le consentement de chaque personne photographiée. On considère que l'image ne porte pas atteinte à la vie privée car la personne se trouvant dans un lieu public a consenti à être exposée aux regards des autres. Cependant, la jurisprudence émet deux réserves :

Il ne faut pas individualiser un ou quelques sujets, et la publication ne doit pas excéder les limites du droit à l'information.
Pour ce qui est de l'individualisation, la jurisprudence rappelle que « nul n'a le droit d'individualiser une personne d'un groupe sans son consentement ». La personne est dite individualisée si elle est le sujet principal de l'image et si elle est reconnaissable.

avatar Kin Sapalot | 

Bien content de ne pas être inscrit sur les réseaux sociaux et de ne pas laisser traîner d’images personnelles sur Internet à la vue de n’importe qui !

avatar Captain Bumper | 

@Kin Sapalot : et quelle garantie as-tu que personne dans ton entourage proche ou éloigné (amis, connaissances, famille, boulot, événements publics….) ne mettras jamais ton visage sur les réseaux sociaux?

avatar Derw | 

@Captain Bumper

Aucune. La seule garantie qu’on peut avoir dans la vie, c’est de mourir un jour.
Reste que, en ne mettant pas de photos sur internet et en interdisant à tes proches de le faire, tu as beaucoup moins de risque cela arrive…

avatar raoolito | 

@Derw

perso j'ai plein de tag de ma tete sur FB, je n'ai jamais posté une seule photo de moi. Pas besoin, d'autres considèrent cela aussi naturel que respirer. Sans parler du fait qu'avec des fuites comme on en entend parler regulierement, votre carte ID ou passeport ou permis de conduire peut parfaitement avoir deja ete scanné à un moment ou un autre.
Bref, moi je vous garantie une chose: vous y etes probablement deja.

avatar Derw | 

@raoolito

« Bref, moi je vous garantie une chose: vous y etes probablement deja. »

Où ça ? Sur internet ? Bien sûr ! J’ai trouvé 2 photos sur internet avec mon nom complet. 2 photos que j’ai mis moi-même, une d’il y a 20 ans et l’autre d’il y a 40. 2 photos petites et en basse définition. A côté de ça, pour connaître un peu les comptes FB, et Insta de mes proches, je pense qu’il doit y avoir max 2 ou 3 autres photos où je suis dessus, dans une foule, sans être identifié. A chaque fois ils m’ont demandée mon autorisation. Mes parents, n’ont aucune photo d’eux. Ma femme n’en a pas. Mes enfants, pourtant ados n’en n’ont aussi aucune d’identifiée et les rares de mon fils aîné qui a un compte Instagram, sont de dos ou au pire 3/4 arrière et ne sont pas accessibles au public (je sais qu’elles sont accessibles à d’autres…).

Bref, on s’en fout. La question n’est pas de savoir si on peu s’assurer une invisibilité totale sur internet, mais si on sait comment ça marche, les tenants et aboutissants, et si on maîtrise un peu le truc ou pas du tout… D’ailleurs, je ne saisi pas trop le sens de votre message ? Est-ce de dire « La photo de tout le monde est déjà retrouvable sur internet alors osef, on met plein de photos en plus et yallah ! » ?

avatar Kin Sapalot | 

@Derw

Un peu pareil pour moi. Les rares photos disponibles sont sélectionnées par mes soins et dans un but particulier. Je ne suis pas à l’abri d’une fuite, comme tout le monde, mais je fait attention et surveille régulièrement ma vie numérique. On peut être très équipé et présent sur le net sans pour autant tomber dans toutes ses dérives.

avatar raoolito | 

@Derw

disons que si quelques photos que vous avez trouvé trainent sur le net vous êtes probablement dans la darabase de clearview

avatar IceWizard | 

@raoolito

« vous êtes probablement dans la darabase de clearview »

C’est toujours qu’être dans la base de Darma !

avatar marc_os | 

@ Derw

Pas de compte Facebook &Co, pas d'amis dans la vraie vie et vie de moine.
Problème réglé.

avatar Kin Sapalot | 

@Captain Bumper

Aucune garantie mais je choisis et connais les personnes que je fréquente. Comme dit dans les autres commentaires, quand on sait comment ça fonctionne, il est plus simple de faire attention. Et quand on a confiance en ses proches, tout se passe bien. Pas besoin d’avoir 300 « amis » sur FB pour vivre heureux. Il en suffit de quelques uns IRL, comme au bon vieux temps, avant l’ère du tout numérique…

avatar 406 | 

@Kin Sapalot

La dernière fois qu un gars flippais d avoir ses empreintes sur la nouvelle carte d identité, je lui ai envoyé ( a partir de son pseudo), nom prénom adresse tel voiture et qu il était à la retraite, tout ça en 5 minutes de recherche sur internet =))

avatar nicolaspatate | 

@406

Pas très malin

avatar raoolito | 

@nicolaspatate

pourquoi? il a simplement ouvert les yeux à la personne?
un peu comme ceux qui hurlent apres antiCovid, et qui partagent tout sur FB apres...

avatar bugman | 

@nicolaspatate

Au contraire, je trouve cela très sympathique de sa part.

avatar pagaupa | 

@406

De quoi t’éviter...

avatar marc_os | 

@ pagaupa

> De quoi t’éviter...

Peut-être quand on veut faire l'autruche et ne pas voir la réalité.
Je dirais plutôt que c'est de quoi dire "merci de m'avoir ouvert les yeux".

avatar pagaupa | 

@marc_os

« Je dirais plutôt que c'est de quoi dire "merci de m'avoir ouvert les yeux". »
Peut-être mais je déteste les fouineurs...

avatar armandgz123 | 

@Kin Sapalot

Tu peux être inscrit sur les réseaux sociaux et ne pas avoir d’image personnelle 😅

avatar Kin Sapalot | 

@armandgz123

Tout à fait ! Et de façon incognito avec un pseudo.

avatar iBaby | 

Après cette demande instante de la CNIL, si la collecte de photos ne s’arrêtait pas, ça voudrait dire qu’on aurait affaire à de gros méchants espions.🤔

avatar bugman | 

@iBaby

Je me demande ce que peut faire la CNIL en cas de refus.

avatar pagaupa | 

@bugman

« Je me demande ce que peut faire la CNIL en cas de refus. »
La CNIL n’est qu’un rouage. Il suffit qu’elle saisisse la justice et le tour est joué...

avatar cosmoboy34 | 

10 milliards….. c’est pas un peu tard pour réagir ?

avatar raoolito | 

@cosmoboy34

en meme temps, 10 milliards de photos de visages.. un milliard de trump, un autre de Kim Kardashian, un troisième de Leonardo di caprio, bon ben ca va vite hein :D

avatar cosmoboy34 | 

@raoolito

🤣

avatar Pico | 

Sécurité VS liberté..
Les deux se défendent..

avatar bugman | 

@Pico

Oui. Tout le problème.

avatar marenostrum | 

Sans liberté t’as pas la sécurité. Un animal sauvage est plus en sécurité que le même domestiqué. Le deuxième même si se nourrit mieux ne peut plus vivre sans son maître, il en perd ses capacités naturelles.

avatar DahuLArthropode | 

@Pico

En principe. Mais le danger, c’est bien entendu l’utilisation de ces données non pas pour la sécurité, mais plutôt contre des personnes qui nuisent aux intérêts d’un « client ». Même l’état américain, qui est une vraie démocratie — s’il en existe — persécute des lanceurs d’alerte.
Et, dans ce cas, on perd en même temps la liberté et la sécurité.

avatar 7X | 

Tout ce qui est sur le Web public est public. On ne pas laisser son identité en accès libre sur un banc dans la rue et espérer que personne ne vienne la ramasser. Clearview aurait bien tort de ne pas se servir.

avatar raoolito | 

@7X

certes, mais on parle aussi de camera de surveillance, de videos prises et postées à votre insu, pourquoi pas de cartes ID resultant d'une fuite de données.
Croire qu'etre dans une grotte vous protege de l'exterieur c'est refléchir encore comme au XVIIIeme siecle..

avatar 7X | 

@raoolito
Je n'aime pas les grottes. C'est souvent sale et humide. Je préfère le hamac en forêt.

avatar raoolito | 

@7X

et vous croyez qu'ils font quoi les arbres a glander toute la journée ?
ils mattent et vont sur facebook et snapshat !!!

avatar byte_order | 

@7X
> On ne pas laisser son identité en accès libre sur un banc dans la rue et espérer
> que personne ne vienne la ramasser.

En effet.

> Clearview aurait bien tort de ne pas se servir.

La nuance, c'est que ClearView ramasse *systématiquement* tout ce qui se trouve sur *tous* les bancs et en fait commerce, avec en plus des méthodes opaques.
Donc clamer qu'ils n'ont aucun tord, c'est aller un peu vite en besogne je pense.

Vous, un particulier, si vous trouvez une carte d'identité sur un banc et que vous la ramassez, je vous rappelle que la loi vous impose théoriquement de devoir ramener cette carte d'identité à la gendarmerie la plus proche. Si à la place vous vous en servez pour tirer un profit financier d'une manière ou d'une autre, c'est illégal.

Non, exploiter tout ce qui est public n'est pas automatiquement légal. Le droit à l'image, cela vous dit quelque chose ?

avatar 7X | 

@byte_order
Le droit à l'image, c'est sur la diffusion. On peut photographier n'importe qui dans la rue, mais pas diffuser ces images.

avatar MonsieurPomme | 

Je vous conseille l’épisode de John Oliver Last Week Tonight qui expliquait simplement le problème 🤝

avatar raoolito | 

vous savez le pire ? C'est que ca ne changera rien au comportement des utilisateurs des reseaux sociaux et pire que cela, c'est sans doute uniquement parce que Clearview AI fait de la pub qu'ils se sont fait gaulés. Comme pour Pegasus, quand on en parle c'est qu'ils sont deja has-been

avatar marc_os | 

@ raoolito

Ce n'est pas aux "utilisateurs" de changer de comportement mais aux entreprises de respecter les lois en vigueur. (Ici la RGPD.)
Ils se targuent de travailler pour la "sécurité" tout en travaillant dans l'illégalité.

avatar DahuLArthropode | 

@marc_os

"Ils se targuent de travailler pour la "sécurité" tout en travaillant dans l'illégalité."

++

avatar GtnDns | 

Moi aussi j’ai envie de trouver mes jumeaux !!!!

avatar bugman | 

@GtnDns

Paraît qu’on a tous un sosie. Désolé pour le miens. 😂

avatar Phiphi | 

C’est pas très clair dans la source citée s’ils doivent effacer TOUTES les données collectées illégalement ou seulement celles de ceux qui en feront la demande.
Qu’en plus de cesser ça, un grand coup de balais soit imposé me semblerait quand même logique et si ce n’est pas le cas c’est à mon sens anormal !

avatar Fanoo | 

Moi je poste mes photos avec un faux nom.
Bonne chance ClearView…

avatar frankm | 

Ouf. Heureusement que l’utilisateur n’est plus prioritaire des données qu’ils poste sur Facebook et compagnie. Et heureusement que c’est pas hébergé en France.

avatar ErGo_404 | 

"On n'a aucun moyen de vérifier si ce qu'on fait est légal ou pas alors on continuera de le faire".
Quelle défense... Ca sent encore un de ces startupeurs qui lancent leurs idées à la con sans vérifier quoi que ce soit et sans estimer devoir être responsable de leur propre connerie.

avatar pagaupa | 

Le début des dérapages...
Et ce n’est qu’un début !...

Pages

CONNEXION UTILISATEUR