Loading blogs...
Posts tagged MLOps.
Workstation 通过可观察性揭示 LLM 代理瓶颈:OpenTelemetry、Prometheus/Grafana/Thanos、Langfuse — 具有明确的优缺点、成本杠杆和保护利润的使用指标。
Workstation 增强 LLMs:用于 KV 缓存的 PagedAttention 分页、vLLM 服务、用于代理的 Self-Debugging、PowerInfer 令牌率和 EG-MLA 内存削减 — 以及生产权衡。
Workstation 深度学习技术简报:梯度训练的深度网络、判别式与生成式模型、任务指标,以及 Bedrock 与 Kubernetes serving 的选择。
Kimi K3 将开源权重模型推入前沿智能体领地。对开发者、vLLM serving、MCP 的变化,以及 Workstation 生产建议。
落地 Amazon Bedrock、Bedrock AgentCore、SageMaker 与 Amazon Q,再在 Microsoft Teams 中启动首个业务智能体——含需求、工具与时间盒。