llama.cpp passe en version 1.0 avec un contrat de compatibilité

ggml-org a publié llama.cpp v1.0.0 et ggml v1.0.0 le 13 novembre 2026. Le projet open source fixe désormais des règles claires pour les ruptures d’API et d’ABI, avec des impacts directs pour les intégrateurs.

ggml-org a publié llama.cpp v1.0.0 et ggml v1.0.0 le 13 novembre 2026, avec une nouveauté centrale pour les développeurs : les changements majeurs signaleront désormais explicitement les ruptures de compatibilité côté source et côté binaire. Pour les intégrateurs qui s’appuient sur cette pile d’inférence locale, le message est clair : une mise à jour ne sera plus censée jouer à cache-cache avec les dépendances. Le projet, utilisé pour faire tourner des modèles sur des machines grand public comme sur des serveurs, passe ainsi d’une logique d’évolution rapide à un contrat plus lisible.

Une version 1.0 qui dit ce qu’elle casse

La règle annoncée par les mainteneurs est simple : une rupture d’API publique en C déclenche un changement de version majeure, tandis qu’une amélioration compatible avec l’existant relève d’une version mineure et qu’un correctif sans changement d’API reste un patch. Cette distinction vaut pour libllama, côté exécution des modèles, et pour libggml, la couche tensorielle qui sert de base au calcul. Autrement dit, la version ne sert plus seulement à compter les sorties, mais à prévenir les mauvaises surprises.

Cette formalisation arrive après 3,5 ans de développement et alors que la bibliothèque est devenue un socle pour de nombreux outils de déploiement local. Le projet revendique désormais la prise en charge de plus de 150 variantes d’architectures de modèles et de toutes les principales méthodes de speculative decoding, une technique d’accélération qui fait proposer plusieurs tokens à l’avance pour gagner du temps d’inférence.

Ce qui change dans le moteur, le serveur et l’interface

La version 1.0.0 ne se limite pas à une politique de numérotation. Côté API, elle retire les fonctions publiques dépréciées, au nombre de 35, et fait monter l’interface NextN de l’en-tête d’extension llama-ext.h vers l’API publique llama.h. Cette promotion place aussi le découpage spéculatif dans le périmètre désormais couvert par les règles de compatibilité.

Sur le plan des fonctionnalités, la pile ajoute des caches de clés-valeurs en FP8 pour l’attention, un cache en mémoire hôte pour les modèles MoE avec part CPU configurable, ainsi que le chargement de données externes PLE ou engram depuis des fragments GGUF distincts. Les modèles pris en charge s’élargissent avec Kimi-K3.1-Pro, Ripple, xing4_0, drama-3 pour la synthèse vocale et des capacités vision pour MageVL-Cowork et Kimi-K3.1.

Du côté de llama-server, l’équipe corrige des failles de type server-side request forgery, CORS et DNS rebinding, tout en limitant HF_TOKEN aux hôtes de huggingface.co. Les appels d’outils MCP sont annulés si le client se déconnecte ou expire, avec notification au serveur MCP. Une nouvelle route compatible OpenAI, /v1/audio/speech, complète l’interface audio. L’interface web a aussi été revue, avec des groupes de discussion nommés, un éditeur Markdown en aperçu instantané, des mises en page mobiles adaptées aux zones sûres de l’écran et des dialogues plein écran. Oui, le clavier Android finit aussi par coopérer.

Pourquoi la compatibilité devient un sujet très concret

Pour les mainteneurs de paquets et les éditeurs d’applications, ce changement compte autant que les nouvelles fonctions. La promesse d’une version majeure qui signale une cassure réduit l’ambiguïté lors des mises à jour, surtout dans les environnements où llama.cpp est installé via Debian, Homebrew ou d’autres canaux système. La note de processus datée du 7 août 2026 ajoute un garde-fou : une balise officielle de version n’est créée que si la copie interne de ggml est identique à la version publiée, afin de conserver la compatibilité avec une installation système de ggml.

Le même mouvement se retrouve dans ggml v1.0.0. Le projet retire ses API dépréciées et les opérations héritées DIAG_MASK, ajoute une troncature YaRN configurable et la prise en charge du FP8, et évite d’envoyer des entrées de planificateur qui ne sont pas lues. Les backends CUDA et Metal gagnent des multiplications de matrices quantifiées sur peu de lignes et du travail de fusion pour MoE, tandis que Vulkan chez Intel, SYCL, OpenCL sur Adreno, WebGPU et Hexagon reçoivent aussi des ajouts. En clair, le support matériel continue de s’étendre, mais avec plus de discipline autour des interfaces.

Une base locale toujours plus large, mais moins permissive avec les intégrations

Le projet reste pensé pour l’exécution locale de modèles, avec du code portable C/C++, de la quantification et des backends optimisés pour des machines allant du poste individuel au serveur d’entreprise. En parallèle, les artefacts de préversion couvrent Linux, macOS, Windows, Android et iOS, tandis que Docker, Debian, Homebrew, conda-forge, MacPorts, Winget et XCFramework élargissent la distribution. C’est beaucoup de plateformes à jongler, donc la moindre erreur de compatibilité a vite des allures de migraine en salle de maintenance.

Pour soutenir ce rythme, l’équipe dit s’appuyer sur Hugging Face Buckets et Jobs pour augmenter la capacité d’intégration continue sur les branches master, avec des runners auto-hébergés fournis par NVIDIA, AMD, Qualcomm, Arm, IBM et Intel. Le projet indique aussi intégrer des LLM dans son propre cycle de développement, tout en mettant en avant trois priorités : la qualité du code, le contrôle de l’architecture et la compréhension fine des détails d’implémentation. Pour les utilisateurs, cela se traduit par une pile plus robuste. Pour les intégrateurs, par une règle du jeu enfin écrite noir sur blanc.

Points clés

  • llama.cpp v1.0.0 et ggml v1.0.0 sont sortis le 13 novembre 2026.
  • Les ruptures d’API et d’ABI passent désormais par des versions majeures.
  • Le projet revendique plus de 150 architectures de modèles prises en charge.
  • 35 fonctions dépréciées disparaissent de l’API publique.
  • Les artefacts couvrent Linux, macOS, Windows, Android et iOS.
  • ggml-org impose une copie ggml identique pour les balises officielles.

En chiffres

  • 13 novembre 2026 — date de publication de llama.cpp v1.0.0 et ggml v1.0.0.
  • 35 fonctions — API publique dépréciée retirée dans llama.cpp v1.0.0.
  • Plus de 150 variantes — architectures de modèles prises en charge par le projet.
  • 3,5 ans — durée de développement évoquée par les mainteneurs.

À lire