Loading blogs...
Publicaciones etiquetadas con LLM.
Elige el tier adecuado de modelos Claude: Haiku para routing rápido, Sonnet para el trabajo diario, Opus para coding agéntico complejo, y Fable 5 para autonomía de largo horizonte. Incluye un blueprint de router de presupuesto de tokens.
Claude Fable 5 es el modelo de frontera clase Mythos de Anthropic para agentes de largo horizonte. Reacciones de la comunidad, reseñas de YouTube, cuándo usarlo y cómo guardar tokens.

¿Qué son los modelos de lenguaje grande y cómo funcionan? Una explicación clara y no técnica para gerentes e ingenieros (tokens, incorporaciones, transformadores, capacitación e inferencia) además de producción Kubernetes YAML para implementar su propio LLM con Ollama y vLLM.
Saqué de la caja un Mac Studio M4 Max con 128 memoria unificada GB y 40 núcleos GPU, instalé Ollama, ejecuté Llama 3.1 8B localmente y construí una tubería RAG privada, todo en una caja silenciosa de escritorio inactiva de 6,48 W.
Ejecute IA de producción en AWS Bedrock y Azure AI Foundry con patrones claros para la elección de modelo, almacenamiento en caché, procesamiento por lotes, cuotas y FinOps, para que la innovación no afecte la factura de la nube.