深度学习系统:面向工程师与智能体的技术简报
表征学习、判别式与生成式路径、指标以及购买/自建路由——为生产团队重写的 AWS 概念
技术摘要:将深度学习视为多层神经优化、判别式与生成式路径,以及如何把工作路由到经典 ML、自训 DL 或基础模型 API。完整公式、图示与智能体清单见长文。
定义。 深度学习是对深度神经网络进行基于梯度的训练,使 f_θ(x) 从高维 x 中学习层次化特征。它支撑现代视觉/ASR/NLP,也是生成式 AI(transformers / diffusion)的底层。成本驱动因素:干净数据量、加速器时间与推理 OpEx——不是幻灯片。
智能体摘要。 DL ⊂ ML。判别式 = p(y|x)。生成式 = 采样 x 或 x|c。表格强特征优先 GBM;感知任务训练 DL;语言智能体用 Bedrock/vLLM。GitOps serving;对 money/auth/prod 设门禁。
改编自 AWS — What is Deep Learning? — 面向 Workstation 工程团队。
能力划分
- Classic ML — 人工特征;树/线性模型;稠密表格 SLA 的默认首选。
- Deep learning — 图像/文本/音频端到端网络;backprop + GPU;经 Triton/KServe/SageMaker 服务。
- Generative AI — 采样新内容;LLM/diffusion + RAG/工具;Bedrock API 或开源权重推理。
任务族(指标很重要)
| 族 | 典型目标 / 指标 |
|---|---|
| Vision | 检测/分类 — mAP、IoU、p99 延迟 |
| Speech | ASR/TTS — WER、实时因子 |
| NLP | 分类 / 生成 — F1、exact-match、groundedness |
| Recommend | 排序 — NDCG、CTR/CVR |
| Gen AI agents | 任务成功 + 安全 + $/请求 |
约束
- Data — 标签噪声与分布偏移占主导;对数据集做版本管理。
- Compute — 训练与 LLM decode 受加速器约束。
- Ops — 评估套件、漂移、成本,大规模 promote 前先做 GitOps 回滚。
Workstation 建议
先区分判别式与生成式。除非驻留/成本迫使使用开源权重,语言智能体优先托管基础模型。表格场景保留经典 ML。细节、层级图与清单:长文。由 Workstation 发布。