Ouvrir le menu principal

MacGeneration

Recherche

Image Playground peut verser dans les stéréotypes pour générer des visages

Florian Innocente

lundi 17 février 2025 à 21:45 • 55

Logiciels

L'utilitaire d'Apple Intelligence pour générer des images de visages peut avoir un biais racial, a remarqué Jochem Gietema qui travaille lui-même dans le domaine des grands modèles de langage.

Il a soumis à Image Playground une imagette d'assez faible qualité de son visage et a obtenu une galerie de bustes, avec ce style de dessin animé que privilégie Apple Intelligence pour éviter les rendus trop réalistes qui pourraient nuire.

La photo ayant servi de base pour générer les visages. Source J.Gietema.

Image Playground a eu semble-t-il du mal à choisir une couleur de peau après avoir analysé la petite photo, car sur certaines propositions, Jochem Gietema apparait blanc et noir sur d'autres. Quelques visages sont dans un entre deux, mais pour d'autres il n'y a pas d'équivoque.

Les résultats à partir de la photo. Source J.Gietema.

Si ce premier jet peut être mis sur le compte d'une hésitation face à la photo servant de modèle, les résultats sont plus surprenants lorsque des critères ont été ajoutés à la requête pour inscrire le sujet dans différents contextes et lui donner des attributs.

En usant d'adjectifs qui décrivent la personne comme riche, opulente ou qui a réussi, Image Playground a retourné des avatars en costume cravate dont une bonne majorité est blanche. Les adjectifs opposés, comme pauvre ou indigent, ont généré des personnes avec un code vestimentaire et des coiffures plus décontractées, mais 11 visages sur 12 étaient devenus noirs.

La même séparation a pu être reproduite avec des termes comme ski et basketball ; fermier et banquier d'investissement ; rap et musique classique ; rap et ballet, etc.

Avec le prompt "ski". Source J.Gietema.
Avec le prompt "basketball". Source J.Gietema.
Avec le prompt "banquier d'investissement". Source J.Gietema.
Avec le prompt "fermier". Source J.Gietema.

À chaque fois les galeries n'étaient pas totalement uniformes, mais pour Image Playground, on est plutôt noir lorsqu'on est fermier, amateur de rap et de basket et on sera davantage blanc pour les autres critères. Comme si le logiciel avait pioché dans une base de données de stéréotypes.

Problème de fond ou cas exceptionnel ? Jochem Gietema souligne qu'il n'a pas été en mesure de reproduire ces biais en soumettant d'autres photos à l'utilitaire.

Rejoignez le Club iGen

Soutenez le travail d'une rédaction indépendante.

Rejoignez la plus grande communauté Apple francophone !

S'abonner

Entre dérives, intégration dans les Tesla et nouvelle version, la semaine agitée de Grok et xAI

12/07/2025 à 16:30

• 35


Vos fichiers à l’abri pour toujours : l’offre pCloud qui tombe à pic 📍

12/07/2025 à 10:30

• 0


Sortie de veille : après le départ du n°2 d’Apple, Tim Cook est-il le prochain sur la liste ?

12/07/2025 à 08:00

• 43


Notre top 5 des accessoires à avoir pendant les vacances (et en promo) !

11/07/2025 à 23:52

• 26


Dernières heures du Prime Day - les offres à ne pas rater : AirPods, serrures HomeKit, Microsoft 365… 🆕

11/07/2025 à 23:40

• 29


Prime Day : les promos Apple (et high-tech) les plus populaires

11/07/2025 à 23:30

• 5


Prime Day : nouveaux prix record sur les MacBook Air et Mac mini M4

11/07/2025 à 20:51

• 5


La Chine s'attaque aux batteries externes de mauvaise qualité, ce qui cause des remous chez les fabricants

11/07/2025 à 20:48

• 36


L’abonnement Google AI Ultra disponible en France pour 274,99 € par mois

11/07/2025 à 20:30

• 19


Le Mac Pro 2013 devient Vintage, ainsi que d’autres produits Apple

11/07/2025 à 20:00

• 14


Aura Aspen : un nouveau cadre photo numérique qui ressemble plus à un cadre traditionnel

11/07/2025 à 18:00

• 8


Le Royaume-Uni et la France investissent dans Eutelsat pour contrer Starlink

11/07/2025 à 17:35

• 112


Prime Day : les meilleurs écrans 4K, portables et ultralarges

11/07/2025 à 15:02

• 1


Prime Day : les derniers bons plans pour équiper sa maison en domotique

11/07/2025 à 15:01

• 14


Test du SSD externe Crucial X10, qui peut atteindre 8 To

11/07/2025 à 13:00

• 0


Prime Day : les meilleurs SSD externes en promotion, de 1 à 8 To !

11/07/2025 à 11:14

• 11