On pouvait s'en douter, c'est désormais confirmé : la lettre ouverte demandant une pause dans le développement des IA signée par Steve Wozniak et Elon Musk est un gros bazar. Publiée en début de semaine, celle-ci s'inquiète de l'impact des IA génératives style GPT-4 sur nos sociétés, et demandait à ce que plus de précautions soient prises pour leur développement.
seems there's no verification on signing it haha pic.twitter.com/ItMCKsZ0Hk
— Martian (@space_colonist) March 29, 2023
L'association ayant publié la lettre a visiblement été quelque peu laxiste sur la validation des signataires. Le Future of Life Institute a confirmé à Motherboard vérifier indépendamment chaque signature, en entrant en « communication directe » avec les personnes concernées. Or, on a pu voir passer le nom du président chinois Xi Jinping ou celui du chef de l'IA de Meta, qui affirme n'avoir rien signé. Les noms ont depuis été effacés, mais cela montre bien que cette histoire partait sur de mauvaises bases.
GPT-4 : Steve Wozniak et Elon Musk demandent une pause dans le développement de l'IA
Les sources citées par le papier se sont rapidement manifestées pour démontrer que l'analyse était à côté de la plaque. Emily M. Bender, professeur au département de linguistique de l'université de Washington et co-autrice du premier article cité dans la lettre, explique que le texte fait un mauvais usage de ses recherches en surinterprétant et en omettant certains éléments. Ses écrits pointent un danger en cas de concentration du pouvoir et des dégâts sur l'écosystème de l'information. Elle ajoute que contrairement à ce qu'affirme la lettre, « les risques et les préjudices n'ont jamais été liés à une "IA trop puissante" ». De son côté, la chercheuse Sasha Luccioni y voit un coup fourré :
Il s'agit essentiellement d'une diversion : attirer l'attention de tous sur des pouvoirs et des préjudices hypothétiques des modèles de langage et proposer un moyen (très vague et inefficace) d'y remédier, au lieu d'examiner les problèmes actuels et y répondre - par exemple, en exigeant plus de transparence en ce qui concerne les données et les capacités de formation des modèles de langage, ou en légiférant sur le lieu et le moment où ces outils peuvent être utilisés.
Un point de vue partagé par d'autres chercheurs. Arvind Narayanan, professeur d'informatique à Princeton estime que si ces craintes sur le long terme sont valides, « elles ont été utilisées à plusieurs reprises de manière stratégique pour détourner l'attention des dégâts actuels », y compris des risques en matière de sécurité et de sûreté de l'information.
This open letter — ironically but unsurprisingly — further fuels AI hype and makes it harder to tackle real, already occurring AI harms. I suspect that it will benefit the companies that it is supposed to regulate, and not society. Let’s break it down. 🧵https://t.co/akQozgMCya
— Arvind Narayanan (@random_walker) March 29, 2023
L'idée de la lettre suggérant de faire une pause de 6 mois a été considérée comme une réponse bancale face aux problèmes actuels. Le texte invite à cesser temporairement le développement de modèles plus puissants que GPT-4. Or, celui-ci apporte déjà tout un tas de soucis : pourquoi ne pas commencer par s'alarmer de ceux-là ?
La lettre a été pourtant signée par des pointures du domaine : Steve Wozniak, l'auteur Yuval Noah Harari, le co-fondateur de Pinterest Evan Sharp mais aussi… Elon Musk. Si celui-ci veut montrer qu'il s'inquiète d'une potentielle perte de contrôle des IA, Forbes avance une théorie intéressante pour justifier cette signature : Musk serait tout simplement frustré d'avoir retiré ses billes dans OpenAI et de regarder le train passer.
OpenAI a été fondée en 2015, et Musk a participé aux levées de fonds initiales. Trois ans plus tard, l'homme d'affaires claque la porte, estimant que le projet n'avance pas assez vite. En coulisses, Musk aurait demandé à l'actuel CEO de prendre les manettes d'OpenAI pour donner un coup de fouet à son développement, mais l'idée a été refusée. Elon Musk quitte au passage le conseil d'administration de l'association. « Il continuera à faire des dons et à conseiller l'organisation », explique OpenAI dans un billet. « Comme Tesla continue à se concentrer sur l'IA, cela éliminera un conflit potentiel futur pour Elon ». OpenAI ne deviendra une entreprise que quelques temps plus tard, avec le succès qu'on lui connait.
En ayant ça en tête, la signature de cette tribune par Elon Musk prend un autre sens. Difficile de dire où en est Tesla côté IA, et rien ne laisse à penser que l'entreprise a dans ses cartons des avancées aussi grandes que celles d'OpenAI. Une pause de 6 mois pourrait permettre à Musk de rattraper une partie de son retard, ou tout du moins à mettre des bâtons dans les roues de ses adversaires.
