L'utilitaire d'Apple Intelligence pour générer des images de visages peut avoir un biais racial, a remarqué Jochem Gietema qui travaille lui-même dans le domaine des grands modèles de langage.
Il a soumis à Image Playground une imagette d'assez faible qualité de son visage et a obtenu une galerie de bustes, avec ce style de dessin animé que privilégie Apple Intelligence pour éviter les rendus trop réalistes qui pourraient nuire.
Image Playground a eu semble-t-il du mal à choisir une couleur de peau après avoir analysé la petite photo, car sur certaines propositions, Jochem Gietema apparait blanc et noir sur d'autres. Quelques visages sont dans un entre deux, mais pour d'autres il n'y a pas d'équivoque.
Si ce premier jet peut être mis sur le compte d'une hésitation face à la photo servant de modèle, les résultats sont plus surprenants lorsque des critères ont été ajoutés à la requête pour inscrire le sujet dans différents contextes et lui donner des attributs.
En usant d'adjectifs qui décrivent la personne comme riche, opulente ou qui a réussi, Image Playground a retourné des avatars en costume cravate dont une bonne majorité est blanche. Les adjectifs opposés, comme pauvre ou indigent, ont généré des personnes avec un code vestimentaire et des coiffures plus décontractées, mais 11 visages sur 12 étaient devenus noirs.
La même séparation a pu être reproduite avec des termes comme ski et basketball ; fermier et banquier d'investissement ; rap et musique classique ; rap et ballet, etc.
À chaque fois les galeries n'étaient pas totalement uniformes, mais pour Image Playground, on est plutôt noir lorsqu'on est fermier, amateur de rap et de basket et on sera davantage blanc pour les autres critères. Comme si le logiciel avait pioché dans une base de données de stéréotypes.
Problème de fond ou cas exceptionnel ? Jochem Gietema souligne qu'il n'a pas été en mesure de reproduire ces biais en soumettant d'autres photos à l'utilitaire.
