AI 智能体开发
为您的系统打造的智能体,由人来掌控
我们设计并构建在您的工具中完成多步骤工作的智能体。它们读取工单、收集上下文、起草变更,并在上线前停下来等待审核。
我们为客户构建智能体的方式,与在 Jobshout 中构建自己的智能体相同:严格模式的工具、有界循环、审批关卡,以及每一步的追踪记录。
我们构建的智能体
每个智能体都有岗位说明、负责人,以及一份禁止事项清单。
客服智能体
分拣新工单,调取订单和账户历史,依据您的政策起草回复,并将任何异常情况转给人工处理。
销售与 CRM 智能体
丰富潜在客户信息,通话后更新 CRM 记录,起草跟进邮件并标记停滞的交易。未经审批,任何内容都不会发给客户。
运维与 SRE 智能体
读取告警、日志和仪表板,总结事故并提出修复方案。自动化逐步扩展,仅限于您信任的操作。
阅读 KubePilot 文章: 运维与 SRE 智能体文档处理智能体
从发票、合同和表单中提取字段,与您的记录核对后写入正确的系统,不确定的条目进入人工队列。
阅读增值税申报项目案例: 文档处理智能体编码与审查智能体
审查拉取请求、编写测试,并提交变更供您的工程师合并。Jobshout 的 PR Reviewer 就在我们自己的代码仓库中做这项工作。
查看 Jobshout: 编码与审查智能体多智能体工作流
规划器把工作分派给专业智能体,监督器检查结果、重试或升级处理。适用于一项工作横跨多个系统的场景。
我们如何构建智能体
智能体就是一个循环。模型选择工具,工具运行,结果返回给模型。大多数故障来自循环而非模型,所以我们把精力花在这里。
工具带类型定义,运行前先经过校验。循环有步数、时间和成本预算。提示词像代码一样做版本管理,每次运行都留下可读的追踪记录。
- 规划器、执行器、记忆和监督器各自独立
- 模式优先的工具,严格校验
- 确定性重试与有界循环
技术栈
我们按项目选择。以下是我们的工程师在使用、并在文章中写到的工具。
模型
- 通过 Anthropic API 或 Amazon Bedrock 使用 Claude
- OpenAI 模型
- 开放权重模型:Llama、Mistral、Qwen、Kimi
智能体框架
- Claude Agent SDK 与 Claude Code 子智能体
- LangChain 与 LangGraph
- AutoGen
- Airflow 3 用于定时流水线
Integration(集成)
- 带 OAuth 的 MCP 服务器
- REST 与 webhook 连接器
- Amazon Bedrock AgentCore
托管与推理
- vLLM、TGI 和 Ollama 用于自托管模型
- Kubernetes 与 k3s
- Amazon Bedrock 与 Azure AI Foundry
记忆与检索
- 向量搜索,包括 NebulaDB
- 用于智能体状态的键值存储
- 附带来源引用的检索
可观测性
- OpenTelemetry 追踪
- Prometheus 指标
- 每个智能体的成本与延迟预算
护栏
限制是设计的一部分。我们在开工前就把它们写下来。
审批关卡
凡是发送、花钱或删除的操作,都会暂停等待指定人员。智能体可以起草,只有您认定可安全自动化的步骤,它才会自行执行。
限定范围的凭据
智能体从不持有长期密钥。WSL Vault 按智能体、按任务签发短期凭据,并记录每一次使用。
边缘控制
模型和工具流量可以经过 WSL Proxy,它在边缘添加 WAF 规则、限流和审计记录。
允许清单与预算
每个智能体都有一份明确的工具和数据源清单,以及每次运行的步数、时间和成本上限。
评估与部署
智能体通过生产环境中的测试才算完成,而不是演示能跑就算。
建立评估集
来自您实际工作的真实样例,每条都附有一位好同事会给出的答案。每次变更都以它为基准打分。
追踪与度量
任务成功率、工具错误、延迟和每次运行的成本,均取自 OpenTelemetry 追踪。
按环发布
Ring Promoter 仅在健康检查通过时,才把每次发布从 int 推进到 test、acc 和 prod,检查失败时自动回滚。
在生产环境中持续观察
监控、告警,并定期复盘故障和成本。每一次故障都会成为新的评估用例。
关于智能体项目的问题
你们使用框架还是从零构建?
两者都有。如果 LangGraph 或 Claude Agent SDK 这样的框架合适,我们就用。如果任务简单,带类型化工具的小循环更容易测试和维护。
智能体能在我们自己的硬件上运行吗?
可以。我们用 vLLM 或 Ollama 在您的服务器上托管开放权重模型。如果您需要机器,我们的姊妹公司 Workstation 负责规划并构建 GPU 工作站和集群。
你们如何防止智能体做出有害的事?
它只能调用允许清单中的工具,使用限定范围的凭据,并受步数和成本上限约束。任何发送、花钱或删除的操作都要等待审批,每次运行都有日志。
项目结束后智能体归谁所有?
归您所有。代码、提示词、评估集和运维手册从第一次提交起就在您的代码仓库中。