Le pionnier de l'intelligence artificielle Geoffrey Hinton quitte Google après plus de 10 ans dans l'entreprise. Pas de départ à la retraite pour ce Canadien de 75 ans très réputé dans le domaine : il démissionne pour plus librement tirer la sonnette d'alarme sur les IA. Dans un entretien pour le New York Times, il confie carrément regretter ce sur quoi il a travaillé toute sa vie. « Je me console avec l'excuse habituelle : si je ne l'avais pas fait, quelqu'un d'autre l'aurait fait », explique-t-il.
Cet ancien professeur effectue des recherches sur les réseaux de neurones artificiels depuis 1972, et a lancé un premier algorithme pouvant identifier et trier les différents éléments d'une photo en 2012. Les découvertes du chercheur sont à la base des systèmes comme ChatGPT, Bard ou même DALL-E. Très renommé, Geoffrey Hinton a été récompensé par un Turing Award en 2018, un des prix les plus prestigieux en informatique. Auparavant enthousiaste, le développement ultrarapide du secteur l'inquiète.
L'idée que ce matériel puisse devenir plus intelligent que les humains, quelques personnes l'ont crue […] Je pensais que c'était loin d'être le cas. Je pensais que c'était dans 30 à 50 ans, voire plus. Évidemment, je ne pense plus cela aujourd'hui.
Il explique s'attendre à ce qu'Internet soit prochainement submergé de texte, de photos et de vidéos générées par l'IA et qu'il sera bien difficile de trier le vrai du faux. Il s'alarme également du fait que les intelligences artificielles puissent remplacer certains métiers, comme les assistants juridiques ou les traducteurs.
La possibilité que les IA deviennent hors de contrôle lui semble loin d'être de la science-fiction. « Regardez où l'on en était il y a cinq ans et où on en est aujourd'hui », a-t-il déclaré à propos de cette technologie. « Prenez la différence et projetez-la vers l'avant. C'est effrayant ». Il s'inquiète notamment du fait que les intelligences artificielles puissent coder et faire tourner leur propre code. Des entreprises comme OpenAI ont révélé tester leurs modèles pour s'assurer qu'ils ne représentaient pas de danger.
GPT-4 : OpenAI a vérifié que son modèle ne pouvait pas se rebeller
Il faut dire que la scène actuelle du développement des IA a de quoi préoccuper. Google aurait apparemment mis son éthique de côté pour sortir plus rapidement un produit au public et ne pas se laisser distancer par Microsoft. Geoffrey Hinton estime que les deux entreprises sont désormais dans une compétition difficile à arrêter et pouvant avoir des conséquences désastreuses. De son côté, OpenAI est de moins en moins « open » et a annoncé partager de moins en moins d'informations sur la manière dont sont créées ses modèles en coulisse.
