Le blog Workstation
LLM
Articles étiquetés LLM.
Claude Fable 5 : Le guide complet du modèle de classe Mythos d'Anthropic
Claude Fable 5 est le modèle frontière de classe Mythos d'Anthropic pour les agents à long horizon. Réactions de la communauté, critiques YouTube, quand l'utiliser et comment enregistrer des jetons.
Balinder WaliaLire 
Explication des grands modèles de langage : comment fonctionnent les LLM et comment exécuter les vôtres sur Kubernetes
Que sont les grands modèles linguistiques et comment fonctionnent-ils ? Un explicatif clair et non technique pour les gestionnaires et les ingénieurs (jetons, intégrations, transformateurs, formation et inférence) ainsi que le YAML Kubernetes de production pour déployer votre propre LLM avec Ollama et vLLM.
Balinder WaliaLire 
Déballage du Mac Studio M4 et exécution de votre premier LLM
J'ai déballé un Mac Studio M4 Max avec 128 mémoire unifiée GB et 40 cœurs GPU, installé Ollama, exécuté Llama 3.1 8B localement et construit un pipeline RAG privé, le tout sur un boîtier côté bureau silencieux et inactif de 6,48 W.
Balinder WaliaLire 
Hébergement de modèles d'IA sur AWS Bedrock et Azure AI Foundry : un contrôle des coûts évolutif
Exécutez l'IA de production sur AWS, Bedrock et Azure AI Foundry avec des modèles clairs pour le choix du modèle, la mise en cache, le traitement par lots, les quotas et le FinOps, afin que l'innovation ne fasse pas exploser la facture du cloud.
Balinder WaliaLire 