Si elle est parfois moins bruyante que les autres, Meta est loin d’être larguée dans la course à l’IA. L’entreprise a récemment lancé Llama 3.1, un nouveau LLM qu’elle présente comme pouvant rivaliser avec les modèles des entreprises privées comme Google ou OpenAI. Selon ses benchmarks, le nouveau modèle 405B peut battre le récent GPT-4 Omni ou Claude 3.5 Sonnet dans certains domaines. Les modèles 8B et 70B ont également été améliorés, et tout ce petit monde a comme principal avantage d’être open source.
Meta mise sur une diffusion open-source de son modèle, un choix expliqué en détail par Mark Zuckerberg dans une lettre à ce sujet. Il y fait la comparaison avec Linux, un système libre qui est à la base d’un grand nombre de produits. Il imagine que l’IA va se développer de la même façon et que l’open source va rapidement rattraper les entreprises gardant leurs modèles privés. Il ne manque pas de tacler cette philosophie, bien différente de celle d’Apple :
L'une de mes expériences marquantes a été la construction de nos services sur les plateformes Apple, limitée par ce que l’entreprise nous autorise. Entre la façon dont ils taxent les développeurs, les règles arbitraires qu'ils appliquent et toutes les innovations de produits qu'ils empêchent de sortir, il est clair que Meta et beaucoup d'autres entreprises seraient libérées et construiraient de bien meilleurs services […] si les concurrents n'étaient pas en mesure de limiter ce qu'ils peuvent construire.
La plus grosse version de ce nouveau Llama a été entrainée sur 16 000 cartes graphiques H100 de NVIDIA, ce qui a dû coûter des centaines de millions de dollars. Meta ne s’arrêtera pas là, et les promesses pour le futur sont grandes. « À partir de l'année prochaine, nous prévoyons que les futurs modèles de Llama deviendront les plus avancés de l'industrie », écrit le CEO.
Cette nouvelle version peut être essayée via l’assistant Meta AI, qui n’est pas encore proposé en France. Aux États-Unis, cette IA est disponible dans Instagram, Facebook ou encore WhatsApp. La dernière mise à jour lui permet d’ailleurs de comprendre le français, l’italien, l’allemand ou l’espagnol.
