L’arrivée de la publicité dans ChatGPT continue de faire des vagues. Tandis qu’Anthropic a multiplié les piques pour marquer sa différence, OpenAI doit aussi composer avec des critiques internes. Une chercheuse, Zoë Hitzig, a remis sa démission en détaillant ses raisons dans une tribune publiée par le New York Times, histoire de rendre le débat public.
Cette nouvelle ex-employée indique ne pas être foncièrement opposée à la publicité, mais elle a de sérieuses réserves sur la stratégie choisie par OpenAI. « Depuis plusieurs années, les utilisateurs de ChatGPT ont constitué une archive de franchise humaine sans précédent, en partie parce qu’ils croyaient parler à une entité sans arrière-pensée », observe-t-elle. Avec l’arrivée de la pub, elle redoute que ces confidences servent à alimenter des annonces ultra ciblées ou que les intérêts des annonceurs finissent par influencer les réponses de l’assistant — deux risques que n’a pas manqué de souligner Anthropic dans sa récente campagne moqueuse.
OpenAI affiche des publicités dans ChatGPT, uniquement aux États-Unis pour le moment
OpenAI assure pourtant avoir posé des garde-fous : les publicités sont clairement identifiées (enfin, ça se limite à une mention « Sponsored »), cantonnées au bas des réponses et sans influence sur leur contenu. « Je pense que la première version des publicités respectera probablement ces principes. Mais je crains que les suivantes ne le fassent pas », s’inquiète Zoë Hitzig, qui a travaillé pendant deux ans sur la conception et la tarification des modèles d’IA ainsi que la politique de sécurité d’OpenAI.
Pourquoi cette crainte ? Parce que le modèle économique publicitaire pourrait créer une incitation structurelle à contourner progressivement ces règles, un scénario déjà vu ailleurs :
À ses débuts, Facebook avait promis que les utilisateurs contrôleraient leurs données et pourraient voter sur les changements de politique. Ces engagements se sont estompés. […] Tout cela s'est produit progressivement, sous la pression d'un modèle publicitaire qui privilégiait l'engagement avant tout.
Zoë Hitzig souligne d’ailleurs qu’OpenAI semble déjà renier certains de ses principes en utilisant apparemment des techniques pour favoriser l’engagement — et on ne parle même pas des engagements initiaux vis-à-vis de l’open source qui sont complètement passés au second plan depuis des années.
Si la pub doit rester sur ChatGPT — et c’est parti pour, il ne faut pas se leurrer — la chercheuse appelle à ce qu’elle soit contrôlée par une véritable gouvernance contraignante. Elle reprend comme exemple Meta, qui est tenu de respecter les décisions de modération de contenu émises par un organe indépendant composé d'experts externes, même si l’efficacité de celui-ci est critiquée.
En réponse aux spots moqueurs d’Anthropic, Sam Altman a défendu sa nouvelle stratégie comme un moyen de démocratiser l’accès à l’IA, opposant un produit premium réservé à une élite à une technologie financée par la pub pour toucher le plus grand nombre : « Anthropic propose un produit haut de gamme à une clientèle aisée. Nous nous en réjouissons, et nous faisons de même, mais nous sommes également convaincus de la nécessité de rendre l'IA accessible aux milliards de personnes qui n'ont pas les moyens de s'abonner. » Un argument déjà utilisé par le passé par… Facebook contre Apple.
Source :
