OpenAI veut se rendre moins dépendant de NVIDIA et vient de présenter Jalapeño, sa première puce dédiée à l'IA créée en partenariat avec Broadcom. Celle-ci a été optimisée pour l'utilisation de LLM et « l'inférence », une tâche au cours de laquelle les données sont traitées pour répondre aux requêtes des utilisateurs de ChatGPT. Sans surprise, c'est le fondeur taïwanais TSMC qui s'est chargé de la production.
OpenAI présente Jalapeño comme la première brique d‘une plateforme de calcul pensée sur plusieurs générations. La puce n‘a pas été imaginée comme un accélérateur généraliste adapté à l‘IA, mais comme un composant conçu dès le départ pour les grands modèles de langage, avec un équilibre entre calcul, mémoire et réseau. L‘entreprise promet ainsi de réduire les mouvements de données et de se rapprocher davantage des performances théoriques de la puce dans les usages réels.
Le projet a aussi valeur de démonstration pour OpenAI, qui affirme être passée du design initial à un produit fini en seulement neuf mois. L‘entreprise en profite pour faire la retape de ChatGPT et assure avoir utilisé ses propres modèles pour accélérer certaines étapes de conception et d‘optimisation. Broadcom apporte de son côté son savoir-faire dans le silicium et les technologies réseau, tandis que Celestica participe à l‘intégration des cartes, racks et systèmes.
Le CEO de Broadcom a affirmé à Reuters que sa puce était aussi efficace que les Blackwell de NVIDIA ou que les Tensor de Google. OpenAI a expliqué avoir essayé cette puce en interne et observé des performances conformes à ses objectifs. Cette puce devrait être déployée à grande échelle d'ici la fin de l'année, sachant qu'il devrait y en avoir d'autres par la suite. Microsoft, Meta et Amazon planchent également sur des puces IA maison.
Pour OpenAI, l‘enjeu est autant économique que stratégique. Une puce plus efficace peut se traduire par des réponses plus rapides, des coûts plus bas et une meilleure disponibilité lors des pics de demande. La manœuvre lui permet aussi de prendre ses distances avec NVIDIA et ses stocks limités. Reste à voir si Jalapeño tiendra toutes ses promesses une fois installé dans les centres de données, mais OpenAI pose ici une pièce importante de son infrastructure maison.
