揭示 LLM 瓶颈：可观测性、OTEL 和成本控制
TenthMatrix 通过可观察性揭示 LLM 代理瓶颈：OpenTelemetry、Prometheus/Grafana/Thanos、Langfuse — 具有明确的优缺点、成本杠杆和保护利润的使用指标。
主题
MLOps
标签为 MLOps 的文章
涡轮增压LLMs
TenthMatrix 增强 LLMs：用于 KV 缓存的 PagedAttention 分页、vLLM 服务、用于代理的 Self-Debugging、PowerInfer 令牌率和 EG-MLA 内存削减 — 以及生产权衡。
深度学习系统：面向工程师与智能体的技术简报
TenthMatrix 深度学习技术简报：梯度训练的深度网络、判别式与生成式模型、任务指标，以及 Bedrock 与 Kubernetes serving 的选择。
Kimi K3 与开源权重：无需锁定 API 的前沿智能体
Kimi K3 将开源权重模型推入前沿智能体领地。对开发者、vLLM serving、MCP 的变化，以及 TenthMatrix 生产建议。
Amazon Bedrock、AgentCore、SageMaker 与 Q：Microsoft Teams 中的智能体
落地 Amazon Bedrock、Bedrock AgentCore、SageMaker 与 Amazon Q，再在 Microsoft Teams 中启动首个业务智能体——含需求、工具与时间盒。
Kubeflow + Argo CD：Kubernetes 上的 GitOps MLOps
在 Kubernetes 上用 Kubeflow 与 Argo CD 做 MLOps：在 Kubeflow 中训练并注册模型，用 GitOps 晋级 InferenceServices，用 git revert 回滚。
大型语言模型解释：LLM 的工作原理以及如何在 Kubernetes 上运行您自己的语言模型
什么是大型语言模型以及它们如何工作？为经理和工程师提供清晰的非技术性解释器 - 令牌、嵌入、变压器、训练和推理 - 加上生产 Kubernetes YAML，以使用 Ollama 和 vLLM 部署您自己的 LLM。