Le blog Workstation
Machine Learning
Articles étiquetés Machine Learning.
Turbocompresseur LLMs
Workstation sur turbocompresseur LLMs : pagination PagedAttention pour le cache KV, service vLLM, Self-Debugging pour les agents, taux de jetons PowerInfer et réductions de mémoire EG-MLA – avec des compromis de production.
Balinder WaliaLire 
Systèmes de deep learning : brief technique pour ingénieurs et agents
Brief technique Workstation sur le deep learning : réseaux profonds entraînés par gradient, modèles discriminatifs vs génératifs, métriques de tâche, et Bedrock vs serving Kubernetes.
Balinder WaliaLire 
Explication des grands modèles de langage : comment fonctionnent les LLM et comment exécuter les vôtres sur Kubernetes
Que sont les grands modèles linguistiques et comment fonctionnent-ils ? Un explicatif clair et non technique pour les gestionnaires et les ingénieurs (jetons, intégrations, transformateurs, formation et inférence) ainsi que le YAML Kubernetes de production pour déployer votre propre LLM avec Ollama et vLLM.
Balinder WaliaLire