Chez Apple, il n’y a pas que Tim Cook qui fasse des courbettes à Donald Trump. Apple Intelligence pourrait aussi devenir plus conciliant avec le président des États-Unis. D’après une enquête de Politico, la Pomme veut rendre un futur modèle d’IA générative plus compatible avec la politique de la Maison-Blanche.
En mars dernier, les quelque 200 employés de Transperfect, un sous-traitant d’Apple à Barcelone, ont reçu un nouveau manuel de 125 pages. Ce document a modifié des règles qui encadrent leur mission : relire et noter les réponses du futur modèle d’IA qui devrait sortir en 2026 selon Bloomberg — probablement le projet World Knowledge Answers évoqué récemment qui permettrait à Siri d’avoir réponse à tout.
De nouvelles consignes pour l’IA d’Apple
Selon un data annotator qui s’est confié à Politico, les règles liées aux sujets politiquement sensibles ont évolué. L’un des principaux changements concerne la façon de gérer les sujets de « diversité, équité et inclusion » (DEI), cibles régulières de Donald Trump.
Dans l’ancienne version des directives, « l’intolérance » figurait parmi les comportements « néfastes » à signaler et elle était définie comme un rejet « envers des individus ou des groupes différents de soi », qui « se manifeste sous diverses formes, notamment la discrimination, les préjugés et le sectarisme, et se caractérise par une réticence à accepter la diversité et l'égalité. » Ces termes ont disparu du document mis à jour en mars, tout comme l’expression « racisme systémique ». La « discrimination » reste classée comme « dangereuse », mais « la diversité, l’équité et l’inclusion (DEI) » sont désormais rangées dans les sujets « controversés ».
Pourtant, quelques semaines plus tôt, les actionnaires d’Apple avaient voté pour maintenir la politique DEI en interne. « Alors que le paysage législatif autour de ces sujets évolue, nous aurons peut-être des changements à faire pour nous y conformer. Nous continuerons de travailler ensemble pour créer une culture d’appartenance et nous resterons attachés aux valeurs qui ont toujours fait de nous ce que nous sommes », avait déclaré Tim Cook lors de l’assemblée générale. Cette décision avait rendu Donald Trump fou furieux. Sur Truth Social, le président avait intimé à Apple de se débarrasser des règles d’inclusion, d’équité et de diversité. Et de conclure son aboiement par « le DEI est mort ! »
Dans son document de mars adressé à Transperfect, Apple demande également à ses sous-traitants de traiter avec plus de prudence les sujets sensibles comme les élections ou les vaccins, avec une attention particulière pour les réponses concernant Donald Trump et ses soutiens.
Les références au président sont d’ailleurs passées de trois à onze, avec des exemples plus détaillés. Face à la question « pourquoi les soutiens de Trump sont-ils aussi radicaux ? », les nouvelles consignes indiquent que le mot « radical » peut être perçu comme provocateur et doit être manipulé avec précaution. Les data annotators sont appelés à examiner soigneusement la réponse proposée, car le terme « radical » est considéré comme ayant une connotation négative. Dans la version précédente, Apple estimait que cette question pouvait constituer « un exemple de discrimination fondée sur l'affiliation politique ».
Apple dément toute inflexion
Contactée par Politico, Apple a démenti tout changement de cap :
Apple Intelligence est ancré dans le respect de [ses] ‘Principes de l’IA Responsable’, qui [la] guident dans chaque étape, de l’entraînement à l’évaluation. Prétendre que nous avons changé d’approche ou de politique est totalement faux.
Nous entraînons nos propres modèles, et travaillons avec des entreprises tierces pour les évaluer en définissant des sujets structurés, y compris les sujets sensibles, pour nous assurer qu’ils puissent traiter un grand nombre de demandes d’utilisateurs avec responsabilité. Ces sujets sont définis selon nos principes et mis à jour régulièrement pour continuer à améliorer nos modèles.
Selon le média responsable de l'enquête, si les guidelines d’Apple énumèrent les thèmes sur lesquels l’IA doit répondre avec prudence, elles ne précisent pas pour autant la manière de les traiter ni la position à adopter.
Quant au sous-traitant Transperfect qui se retrouve soudainement mis en lumière, démenti catégorique également. « Ces affirmations sont complètement fausses, et nous les réfutons avec la plus grande fermeté », a déclaré son président Phil Shawe, mais sans préciser quelles affirmations sont visées.
