10 milliards d'images de visages collectées à travers le monde et fouillées au moyen d'un logiciel de reconnaissance faciale par des forces de police américaines. Ce trésor constitué par l'entreprise américaine Clearview AI fait l'objet d'enquêtes de plusieurs organismes de protection de la vie privée et de défense des libertés.

La CNIL vient d'ordonner à Clearview AI de mettre un terme à la collecte d'images de personnes en France, avant de décider de sanctions financières si cette injonction n'est pas suivie d'effets.

Établie depuis 2017, Clearview AI n'opère qu'aux États-Unis et ses clients sont des forces de police ou des agences fédérales. Une enquête de Buzzfeed révélait toutefois des démarchages à l'étranger (Europe, Amérique du Sud, Asie, Moyen-Orient) et auprès de clients dans le commerce de détail, la banque ou le jeu vidéo.

La base de visages constituée ratisse en effet partout dans le monde. L'entreprise amasse toutes les images de visages — et l'adresse des pages ou métadonnées associées — qu'elle peut trouver en libre accès sur des sites web et réseaux sociaux (Facebook, Instagram, Linkedin, YouTube, etc).

Clearview AI revendique aujourd'hui une base de 10 milliards de visages — des photos mais aussi des extraits de vidéos — que ses clients peuvent ensuite fouiller à la recherche d'une correspondance avec un suspect. Dans ses exemples d'utilisation, Clearview AI cite le cas d'un individu dont la photo avait été signalée sur une page Facebook, par un passeur de drogue qui avait été recruté par ce biais, et dont d'autres images, accompagnées de son nom, avaient été trouvées sur la page d'un Country Club.

Clearview AI défend le recours à une imposante base de données pour éviter les erreurs et maximiser les chances de trouver la bonne personne. Dans un article de Wired, Hoan Ton-That, le co-fondateur de cette entreprise de reconnaissance faciale, expliquait qu'il travaillait à des algorithmes capables de déflouter un visage ou de retirer un masque avant d'essayer de recomposer la partie manquante. Avec les risques que cela suppose en termes d'erreurs possibles. Mais là encore, Clearview AI oppose le principe d'un contrôle systématique des résultats par un humain.

Après avoir été alertée en mai dernier, la CNIL a mis en demeure Clearview AI de cesser, dans un délai de deux mois, la collecte et l'usage d'images de personnes se trouvant sur le territoire français et de supprimer celles déjà aspirées.

Ces personnes, dont les photographies ou vidéos sont accessibles sur divers sites web et des réseaux sociaux, ne s’attendent raisonnablement pas à ce que leurs images soient traitées par la société pour alimenter un système de reconnaissance faciale pouvant être utilisé par des Etats à des fins policières.

La procédure pour demander et obtenir une suppression de ses images devra être aussi considérablement améliorée. Des actions et demandes similaires ont été faites en Australie ou au Canada. Dans certains cas, Clearview AI a fait valoir qu'il lui était impossible de savoir si la personne était dans tel ou tel pays ou de connaître sa nationalité.

Il est également du ressort des plateformes de proscrire cette aspiration de leur contenu, puisqu'elles se situent en amont de la chaîne. Facebook, YouTube ou Twitter ont sommé Clearview AI de cesser ces extractions sur leurs plateformes, sans résultat pour le moment.