L’IA commence à apparaître sur Google Search et tout ne se passe pas comme prévu. Depuis quelques jours, les internautes américains ont vu arriver des suggestions générées par une intelligence artificielle tout en haut des résultats du moteur de recherche. Sur le papier, la nouveauté devrait éviter aux internautes d’avoir à ouvrir différents sites pour trouver la réponse à une question. Malheureusement pour Google, les réponses sont loin d’être au point sur tous les sujets. À la requête « Comment éviter que le fromage de ma pizza ne tombe », le moteur de recherche invite à ajouter « environ 1/8 de tasse de colle non toxique » à la sauce.
Les exemples de réponses farfelues s’accumulent sur les réseaux sociaux ces derniers jours. L’IA affirme qu’un chien a joué dans la Ligue nationale de hockey, que 13 présidents américains ont été dans la même université et s’emmêle avec des dates simples. Le problème n’est pas nouveau : le 5 mai, un utilisateur de Twitter relevait que l’IA de Google recommandait de boire 2 litres d’urine par jour pour faire passer des calculs rénaux. De telles erreurs peuvent amuser sur un tchatbot comme ChatGPT, mais peuvent se révéler dangereuses quand elles apparaissent en tête des recherches Google.
Le manque de fiabilité des IA n’est pas nouveau, et les entreprises se dédouanent derrière des avertissements incitant à interpréter les réponses avec précaution ou un badge « Expérimental ». Le problème vient du fait que les grands modèles de langage ont été entraînés à partir d’énormes bases de données pas forcément fiables. Dans l’exemple de la pizza, l’idée d’ajouter de la colle à la sauce vient d’un commentaire sarcastique sur Reddit posté il y a 11 ans par l’utilisateur r/fucksmith. Pour rappel, Google payerait 60 millions de dollars à Reddit chaque année pour utiliser ses données.
IA : Reddit aurait vendu une licence d'exploitation de ses contenus à Google
« Les exemples que nous avons vus [relayés] sont généralement des requêtes très rares et ne sont pas représentatifs de l'expérience de la plupart des gens », a déclaré un porte-parole de Google à ArsTechnica, qui note cependant que les réponses problématiques sont corrigées assez vite. « La grande majorité des aperçus par IA fournissent des informations de grande qualité, avec des liens permettant d'aller plus loin sur le Web ».
L’arrivée de l’IA sur Google Search a été annoncée lors de la Google I/O 2023, et l’entreprise envisage d’ajouter des pubs à ce nouveau type de réponses. Ce n’est pas la première fois que Google cafouille avec des réponses générées de cette façon : on se souvient du lancement de Bard, qui avait commis une grosse boulette pendant sa présentation et fait plonger l’action de Google. De manière générale, la qualité de Google Search est remise en question ces derniers temps. Des chercheurs ont remarqué que le moteur de recherche avait tendance à remonter de plus en plus de mauvais contenu, et l’IA ne semble pas en bonne voie pour redresser la barre.
