Rust 异步阻塞、Rayon 和现代应用

Workstation解释了为什么 Rust 仍然是现代应用的一流选择 - 以及当您将 Tokio 与 CPU 繁重工作混合使用时“阻塞”的真正含义。受到 Alice Ryhl 的异步的启发：什么是阻塞？（Rayon 部分）。深入探讨：长文。

为什么 Rust 不断赢得现代应用插槽

团队在需要内存安全且无需 GC 暂停税、可预测的负载延迟以及类型系统可帮助您实现正确的并发性时，会选择 Rust。这种组合出现在 Workstation 构建的任何地方：高吞吐量 API、边缘网关、代理运行时以及在 CPU 工作高峰到来时无法冻结的升级控制平面。

它并不是“万能的 Rust”。我们的Polyglot Benchmarks仪表板和配套文章 -博客/文章- 将 Rust 与相同 HTTP 工作负载上的 Go、Bun、JVM 堆栈和脚本边缘进行比较。 Rust 通常领先于 CPU 绑定和并发性较高的行；其他运行时在速度或边缘变换上获胜。重点是证据，然后是 ADR。

异步中“阻塞”的含义 Rust

异步运行时（Tokio和朋友）在.await点交换任务。如果您的任务消耗了 CPU 的毫秒数或在没有等待的情况下使用std::thread::sleep进行睡眠，则工作线程无法在该线程上安排其他任何人。在本地，您可能不会注意到（一些核心隐藏了该错误）；在生产中，你会耗尽工作人员，并且延迟尾部会爆炸。

生态系统的经验法则：对延迟敏感的服务的等待间隔保持在数十到数百微秒之内，并将任何更长的时间视为属于其他地方的工作。

当 Rayon 提供帮助时（CPU 绑定）

• spawn_blocking— Tokio 的阻塞池：非常适合同步 IO（文件系统、阻塞 DB 驱动程序）；对于重型 CPU 来说不是最佳选择，因为它可能会超额订阅内核。
• Rayon— 一个小型 CPU 大小的线程池，用于并行迭代器和昂贵的计算。与rayon::spawn+tokio::sync::oneshot桥接，以便异步任务等待结果，而不会阻塞运行时线程。
• 专用线程— 用于不得永久消耗池容量的永远循环（连接管理器、长期工作线程）。

Rayon + oneshot 模式正是 Alice Ryhl 在Rayon 部分中介绍的模式 - Workstation 的做法是这些选择如何登陆多语言地产运输代理和平台，而不是教程的重印。

Workstation 产品中的情况

• APIs 和边缘— 让请求工作人员可以自由进行 IO；当热路径需要时，风扇 CPU 会转换为 Rayon。
• 代理— 嵌入准备、评估批次和工具端处理不应阻碍编排循环。
• CI/CD 平台— 运行状况检查和升级引擎（请参阅Ring Promoter）保持响应，同时在池外运行更繁重的验证工作。
• Kubernetes 操作— 像KubePilot这样的事件副驾驶即使在 CPU 分析繁重时也需要快速的控制循环。

阅读下一个

1. 长文— 备忘单、代码形状模式和架构注释。
2. polyglot-benchmarks.fictionally.org— 实时 Rust 与同行的对比证据。
3. Alice Ryhl —异步：什么是阻塞？

由Workstation发布。