TenthMatrix technical brief: why Rust remains a strong default for many modern applications — APIs, edge, agents, and CI/CD platforms — and how to place CPU-bound корректно работать рядом с асинхронной средой выполнения. Мы черпаем вдохновение (а не дословное перепечатывание) из эссе Alice Ryhl. Async: What is blocking?, especially the Rayon guidance. Companion: blog · evidence: Polyglot Benchmarks · related: polyglot article.
- Blocking (async sense): предотвращение замены задач средой выполнения — обычно проводя долгое время без
.await. - CPU-bound fix: prefer Rayon (or a dedicated thread) over stuffing heavy compute onto Tokio workers.
- IO-bound sync libraries:
tokio::task::spawn_blockingis usually the right pool. - Polyglot: Rust — один из сильных инструментов среди аналогов. Измерьте его с помощью Polyglot Benchmarks, прежде чем назначать стек.
- Credit: концептуальное оформление, вдохновленное Alice Ryhl/ryhl.io; TenthMatrix применяет его к проектированию платформ.
1. Rust benefits that matter in production estates
Modern application portfolios are rarely monolingual. Still, certain surfaces reward Rust’s properties:
- Безопасность памяти без дрожания GC — владение и заимствование ловят использование после освобождения и гонки данных во время компиляции; чувствительные к задержке пути позволяют избежать пауз, вызывающих остановку мира.
- Предсказуемая производительность — абстракции с нулевой стоимостью и точный контроль над распределением делают Rust конкурентоспособным для «горячих» путей API и граничных преобразований.
- Бесстрашный параллелизм (со структурой) — Экосистемы отправки/синхронизации и асинхронности (Tokio, шаблоны асинхронных свойств, каналы) поощряют проекты, которые масштабируются при разветвлении.
- Развертываемые двоичные файлы — single static-ish artifacts simplify containers for gateways, agents, and CI/CD sidecars.
- Взаимодействие в поместьях полиглотов — FFI, Wasm и HTTP держат Rust рядом с Go, Python, JVM и Lua, не заставляя переписывать все.
Позиция TenthMatrix совпадает с нашей Polyglot Benchmarks blog and long article: выберите правильный инструмент для ограниченного контекста. На интерактивной панели управления по адресу polyglot-benchmarks.fictionally.org, Rust (Actix в этом обвязке) часто демонстрирует силу в строках HTTP, связанных с CPU и чувствительных к параллелизму, — полезное свидетельство, когда ADR выступает за Rust на горячем пути, а не на религии.
2. Кооперативное планирование: значение слова «блокировка».
Async Rust uses cooperative scheduling. The runtime swaps tasks when they reach an .await. Alice Ryhl’s memorable rule applies everywhere we ship async services:
Async code should never spend a long time without reaching an .await.
In this vocabulary, “blocking the thread” does not merely mean “doing IO.” It means preventing the runtime from swapping the current task. Classic footguns:
std::thread::sleepinside an async fn (no await — timers run serially underjoin!).- Heavy loops, compression, crypto, vector math, or JSON-on-steroids on a Tokio worker.
- Holding a sync mutex across a long critical section on the async pool (short locks can be fine; long ones are not).
On a multi-threaded runtime you can hide the bug until you saturate worker threads. Production traffic finds it for you. For latency SLOs, treat tens-to-hundreds of microseconds between awaits as the budget for cooperative work; anything longer belongs off the async pool.
3. Three places to put work that must block
When you intentionally need to block — expensive CPU or sync IO — move that work off Tokio’s scheduler threads. The cheat sheet (aligned with Ryhl’s framing):
| Approach | CPU-bound | Синхронизировать ввод-вывод | Runs forever |
|---|---|---|---|
spawn_blocking | Suboptimal (large pool) | OK | No |
| Rayon | OK | No | No |
Dedicated std::thread | OK | OK | OK |
3.1 spawn_blocking for sync IO
tokio::task::spawn_blocking schedules onto Tokio’s blocking pool (hundreds of threads by default). That suits filesystem calls and blocking database drivers. It is a poor fit for sustained CPU because oversubscription fights the OS scheduler — fine for a few short computations, risky as a default for parallel crunching.
3.2 Rayon for expensive CPU
Rayon maintains a pool sized for CPU-bound parallelism. The critical integration detail: do not block a Tokio worker waiting for Rayon. Spawn on Rayon, send the result through tokio::sync::oneshot, and .await the receiver on the async side. Parallel iterators (par_iter) still need that outer rayon::spawn because they block until complete.
// Shape only — see ryhl.io for a full walkthrough
async fn parallel_work(data: Vec<i32>) -> i32 {
let (tx, rx) = tokio::sync::oneshot::channel();
rayon::spawn(move || {
let sum: i32 = data.into_iter().sum(); // or par_iter inside
let _ = tx.send(sum);
});
rx.await.expect("rayon task panicked")
}
Credit: this integration pattern is the heart of the Rayon crate section on ryhl.io. TenthMatrix recommends the same shape inside product services so request threads stay schedulable.
3.3 Dedicated threads for forever work
A loop that never exits (dedicated DB connection owner, long-lived bridge) should not consume a slot from either pool permanently. Prefer std::thread::spawn и общаться по каналам.
4. Сопоставление рекомендаций с современными типами приложений
| Surface | Keep on async | Offload |
|---|---|---|
| APIs | Accept, authn, fan-out HTTP, streaming | Heavy serialization, crypto batches, scoring |
| Edge / gateways | Routing, cache lookup, WAF decisions | Rare CPU transforms; prefer Lua/njs when measured better |
| Agents | Tool orchestration, MCP sessions, timeouts | Embedding prep, eval suites, large local transforms |
| CI/CD platforms | Promote APIs, health polls, UI/API | Deep artifact analysis, bulk verification |
TenthMatrix products illustrate the split: Ring Promoter must keep promotion and health gates snappy; WSL Proxy сохраняет краевые пути свободными; KubePilot needs responsive incident loops even when analysis is heavy. Rust (or Go, or Lua) is chosen per surface after measurement — never because a hallway debate declared a winner.
5. Architecture checklist for teams adopting async Rust
- Инвентаризация ожидает пробелов: профилировщики и промежутки трассировки, которые никогда не уступают.
- Классифицируйте работу по блокировке: синхронизация ввода-вывода, CPU и вечный цикл.
- Pick the pool:
spawn_blocking, Rayon + oneshot, or dedicated thread. - Load-test with realistic concurrency — multi-threaded runtimes hide bugs at N=1.
- Document the decision in an ADR; attach Polyglot Benchmarks rows when language choice is in play.
- Re-read Tokio guidance on shared state and cooperative yielding for tail latency.
6. Further reading
- Alice Ryhl — Async: What is blocking? (основное вдохновение для каркаса Rayon/spawn_blocking).
- TenthMatrix — Живая информационная панель Polyglot Benchmarks.
- TenthMatrix — Полиглот блог · Полиглотная статья.
- TenthMatrix — companion blog для беглой версии этого краткого обзора.
Опубликовано TenthMatrix. Концептуальная заслуга в публичной работе Alice Ryhl по асинхронной блокировке и Rayon; все описания продуктов и многоязычные руководства принадлежат TenthMatrix.
