Profilage racial : après IBM, Microsoft et Amazon réduisent la voilure de leur reconnaissance faciale

Mickaël Bazoge |

Les technologies de reconnaissance faciale à des fins de surveillance des populations n'ont plus trop la cote depuis l'explosion des émeutes contre le racisme et la violence policière aux États-Unis et ailleurs. IBM a cessé de vendre des logiciels de reconnaissance ou d'analyse des visages, et arrête aussi tout développement et recherche sur le sujet (lire : IBM abandonne la reconnaissance faciale pour ne pas alimenter le profilage racial).

Amazon et Microsoft ont décidé d'emboîter le pas d'IBM, sans être aussi radicaux toutefois. Le géant du commerce en ligne a annoncé un « moratoire » d'un an sur l'usage par la police de Rekognition, sa technologie de reconnaissance faciale. Elle reste disponible pour les organisations de lutte contre le trafic d'être humain et l'exploitation des mineurs.

Amazon demande au gouvernement américain de voter une législation plus musclée concernant l'usage éthique des technologies de reconnaissance des visages. L'entreprise espère que ce moratoire donnera le temps nécessaire au Congrès US de décider des bonnes pratiques en la matière. Amazon a été assez discret sur l'utilisation de Rekognition par la police aux États-Unis ; a priori, elle n'était réellement utilisée que par deux services, en Oregon et en Floride.

Microsoft a pris le même chemin qu'Amazon : le géant du logiciel a décidé de ne pas vendre sa technologie de reconnaissance faciale aux services de police aux États-Unis tant qu'une loi n'aura pas été votée sur le sujet (d'ailleurs, aucun service ne s'en sert). Brad Smith, le président du groupe, a laissé entendre au Washington Post que Microsoft se gardait la possibilité de fournir son système aux organismes de lutte contre le trafic humain et autres causes, là aussi à l'instar d'Amazon.

Ces technologies ont été pointées du doigt dans des études qui, en 2018 et 2019, ont établi des biais raciaux contre les personnes avec une peau sombre. Des biais dus au fait que ces systèmes sont entraînés avec des modèles majoritairement blancs et masculins.

avatar doobie28 | 

Le bon sujet à dérapages 😋

avatar Sindanárië | 
avatar Sindanárië | 

.

avatar Sindanárië | 

.

avatar BleuRooster | 

Le gouvernement va les attendre genre! Les développements Top Secret ou Militaires existé bien avant!

avatar raoolito | 

@BleuRooster

on n'est plus au temps de la guerre froide, désormais ce sont les compagnies privées qui ont la technologie, les etats ne font que co-produire avec du budget et des promesses de contrats.
un exemple? SpaceX , s'il n'en fallait qu'un.

avatar BleuRooster | 

@raoolito

Ouais bien sûr 🙄 l’état transparent à 100% d’ailleurs demain je visite la zone 51!

avatar raoolito | 

@BleuRooster

Qui parle de transparence? J'ai écris que les états sous-traitent avec les entreprises meme pour des soldats ( cf sociétés privées militaires) alors la recherche qui demande d'énormes capitaux je ne vois pas pourquoi ils s'en priveraient

avatar IceWizard | 

@BleuRooster
" demain je visite la zone 51!"

Tu cours aussi vite que Naruto ?

avatar BleuRooster | 

@IceWizard

Encore plus vite 😅

avatar IceWizard | 

@raoolito
"on n'est plus au temps de la guerre froide, désormais ce sont les compagnies privées qui ont la technologie, les etats ne font que co-produire avec du budget et des promesses de contrats.
un exemple? SpaceX , s'il n'en fallait qu'un."

Pas forcément un bon exemple. SpaceX a bénéficié d'un colossal transfert de technologies gouvernementales, quand la NASA lui a donné l'intégralité de TOUTES les recherches faites en 60 ans sur les moteurs de fusées.

avatar raoolito | 

@IceWizard

Ah je ne savais pas. Il n'empêche ca confirme mes dires: désormais voici ce qu'on a, charge a vous d'améliorer le truc on vous aidera avec des sous et nos ingénieurs si besoin.
On est loin du labo secret caché sous les montagnes

avatar marenostrum | 

le secret se garde mieux par le privé que par l'état, où peut travailler n'importe qui. un ex Coca-Cola.

avatar raoolito | 

@marenostrum

Pepsi, c'était un ex de pepsi... enfin c peut-être un autre sujet ?
:p

avatar marenostrum | 

je voulais dire que la formule de Coca-Cola est la chose la mieux gardée au monde, selon les dires. deux personnes seulement le savent et ne peuvent pas prendre le même avion ensemble. tandis que les secrets qui garde un état (qui ne doivent pas être nombreux quand même) sortent un moment donné.

avatar raoolito | 

@marenostrum

Ah pardon
Et moi qui voyait une allusion a l'embauche de John Sculley :)

avatar FredMac92 | 

@raoolito

😂👍

avatar rua negundo | 

Tant mieux !
Mais dommage qu’il ait fallu cette raison liée au racisme pour que ces technologies n’aient plus la cote alors qu’existaient déjà suffisamment d’autres raisons.
Le risque est que les concepteurs reviennent plus tard en affirmant avoir corrigé le biais raciste de ces technologies et que ça reparte de plus belle.

avatar raoolito | 

@rua negundo

le revers de la medaille c'est que du coup, d'ici un an, les chinois et autres russes, israeliens etc.. auront leurs propres technos mises au point (que dis-je? encore plus au point !) qu'ils vendront à tout vents.
La nature a horreur du vide et les citoyens occidentaux se pensent dans un monde bipolaire de gentlemen...

avatar en chanson | 

@raoolito

Naïveté ? Non en occident on fait la morale mais on vent des armes et on installé des dictatures exemple la France Afrique

avatar raoolito | 

@en chanson

La naïveté des gens, pas des decideurs. Nos parents qui sortaient de la guerre nous disaient que leur vie etait alors plus agreable plus facile... les livres d'histoire prouvent bien que si on notre generation a encore quelques beaux cadavresdans le placard, comparé à eux on est des hippies

avatar baklawa | 

@raoolito

Pas besoin de parler au futur, l’Asie maîtrise la récolte faciale depuis belle lurette, regarde Megvii en Chine par exemple

avatar raoolito | 

@baklawa

Idem pour les israéliens en effet :(

avatar Osei Tutu | 

@rua negundo
''Le risque est que les concepteurs reviennent plus tard en affirmant avoir corrigé le biais raciste de ces technologies et que ça reparte de plus belle.''
Je pense que depuis la base, la situation est mal présentée. Ce ne sont ni la police,ni les technologies qui sont racistes ou ont des biais racistes. Mais bien évidemment l'individu ou le système derrière l'uniforme et la technologie. C'est l'homme et la société qui sont racistes et intègrent cette attitude en revêtant l'uniforme ou en développant ces technologies.
Il faut plutôt s'attarder sur la société plutôt que la manifestation de la déviation sociale dans les institutions.

avatar Biking Dutch Man | 

@Osei Tutu

Absolument, la police a un problème de recrutement, de culture et de hiérarchie. Tant que c’est basé sur “courir vite et tirer bien” ce sera difficile d’avoir des collaborateurs compétents pour développer, valider, calibrer et accréditer des méthodes biométriques.

Cela dit sans technologie et science forensique, c’est retour à Vidocq.

Pages

CONNEXION UTILISATEUR