llama.cpp atteint la version 1.0 pour faire tourner des modèles IA chez soi

Par la rédaction GetNews · Édité par Sam Calder

L’équipe ggml et Hugging Face publie la version 1.0 de llama.cpp et ggml, avec la promesse de signaler clairement tout changement d’interface.

150+architectures de modèles prises en charge

Test du battage

Battage2

Réel5

Sous-estimé

Plus discret que ce qu’il mérite. Celui-ci compte plus que la couverture ne le laisse penser.

Notre avis éditorial, fondé sur les sources ci-dessous. Comment nous notons

Votre avis : battage ou réel ?

Réel = cela comptera au quotidien. Battage = plus de bruit que de substance. Un seul vote, non modifiable.

Notre avis et celui des lecteurs sont des opinions, pas des affirmations de fait sur un produit.

Pourquoi c’est important

De nombreuses applications d’ reposent sur cet outil ; la version 1.0 donne des règles plus claires aux développeurs.

Pour la plupart des gens

À suivre : cet outil se trouve derrière beaucoup d’applications d’IA locale.

La version 1.0 est sortie le 13 novembre pour deux bibliothèques : llama.cpp pour les et ggml pour le calcul d’apprentissage automatique.
Tout changement qui casse l’interface sera signalé par un nouveau numéro de version majeure, selon le versionnage sémantique.
L’outil prend en charge plus de 150 architectures de modèles et fonctionne sur de nombreux matériels via des backends dédiés.
Il est disponible sur Linux, Mac, Windows, Android et iOS, et via Homebrew, Winget, Docker et d’autres.
Le projet a 3,5 ans, et l’équipe indique que des sociétés comme NVIDIA, AMD, Qualcomm et Intel soutiennent les tests matériels.

EssayezEssayez : pour les développeurs, une interface plus claire et des règles de version plus stables.

L’entreprise ou le labo l’a dit. Source principale liée. Ouvrez les sources et vérifiez-nous.

Rédigé avec l’aide d’outils d’IA et vérifié à partir des sources ci-dessus. Notre méthode

Une erreur ? Dites-le-nous et nous la corrigerons.