Это руководство FDE (Инженер передового развертывания) для реализации Amazon Bedrock, Amazon Bedrock AgentCore, ⟦АСМ⟧и Amazon Q, а затем запуская агентов в бизнес через ⟦МТ⟧. Он охватывает выбор архитектуры, конкретную настройку первого агента, инструменты, обучение и календарные оценки для приложений LLM, RAG и MLOps.
1. Постановка задачи для бизнеса
Большинству предприятий не нужен «еще один чат-бот». Им нужно агенты, которые действуют внутри существующих рабочих процессов: ответьте на основе утвержденных знаний, вызовите инструменты с идентификацией, сохраните память сеанса и перейдите туда, где сотрудники уже сотрудничают — обычно в Teams.
Задача FDE — сократить разрыв между рабочей ссылкой AWS и управляемый пилот: один отдел, один корпус, сначала инструменты, ориентированные в основном на чтение, измеримое внедрение, а затем расширение.
2. Карта сервиса — выберите правильную поверхность AWS
2.1 Amazon Bedrock
- Модели фундамента через единый API (Anthropic Claude, Amazon Nova, Meta Llama, Cohere и т. д. — доступность по регионам).
- ⟦ГР⟧ для фильтров контента, отклонения тем, редактирования личных данных и проверок обоснованности.
- ⟦КБ⟧ для управляемого RAG (захват из S3/коннекторов, внедрение, извлечение).
- Основополагающие агенты/потоки для шаблонов оркестровки, когда вы остаетесь внутри агентной модели Bedrock.
Используйте Bedrock, когда: вам нужны управляемые FM, RAG и безопасность без использования графических процессоров.
2.2 Amazon Bedrock AgentCore
AgentCore — это уровень среды выполнения для пользовательские агенты (независимо от платформы — Strands, LangGraph, CrewAI, собственный Python и т. д.):
- Время выполнения — изолированные от сеанса, длительные вызовы агента.
- шлюз — превратить API/MCP/OpenAPI в инструменты агента; включает в себя Microsoft Teams График цели (сообщения в канале, чаты, встречи, присутствие, онлайн-встречи).
- Память — кратковременная и долговременная разговорная/эпизодическая память.
- идентичность — входящая проверка JWT и исходящая OAuth для инструментов (включая Microsoft Entra ID).
- Наблюдаемость — трассировки и метрики в пути, совместимые с CloudWatch/OpenTelemetry.
Используйте AgentCore, когда: у вас есть код агента, вам нужны инструменты + идентификаторы + память, и вам нужна управляемая среда выполнения вместо самодельного клея ECS/Lambda для решения любых задач.
2.3 ⟦АСМ⟧
- Обучайте/настраивайте/оценивайте пользовательские модели.
- Конечные точки хоста (в реальном времени, бессерверные, асинхронные).
- Трубопроводы, Реестр моделей, Магазин функций, Clarify, Монитор моделей для MLOps.
- Можно загружать пользовательские модели в систему импорта пользовательских моделей Bedrock или размещать рядом с Bedrock в качестве специализированных конечных точек.
Используйте SageMaker, когда: готовых FM недостаточно (классификаторы предметных областей, ранжирование, точно настроенные встраивания, регулируемое управление моделями).
2.4 Amazon Q
- Amazon Q Бизнес (название продукта продолжает развиваться в сторону упаковки Quick Suite / Enterprise Assistant) — соединители для SaaS и знаний, вопросов и ответов сотрудников, плагинов.
- Amazon Q Разработчик — Помощник по кодированию IDE/CLI для разработчиков AWS.
Используйте Amazon Q, когда: ты хочешь произведенный помощник с меньшими затратами на разработку индивидуальных агентов. Используйте AgentCore + Bedrock, если вам нужны глубокие настраиваемые инструменты, многоэтапные рабочие процессы или собственный пользовательский интерфейс Teams, которым вы управляете.
2.5 Матрица решений
| Нужна | Первичный | вторичный |
|---|---|---|
| Чат + RAG во внутренних документах | Коренная порода Knowledge Base | Amazon Q Бизнес |
| Пользовательский агент + инструменты + память | AgentCore + Коренная порода | Агенты Бедрок |
| Агенты в Microsoft Teams | Бот Teams → AgentCore Время выполнения | AgentCore Инструменты графиков команд шлюза |
| Обучить/тонкая настройка/MLOps | ⟦СМ⟧ | Основа для вывода импортированных / FM-моделей |
| Производительность разработчиков на AWS | Amazon Q Разработчик | — |
3. Эталонная архитектура (бизнес-агенты в Teams)
Microsoft Teams (user)
│ Bot Framework activity
▼
Azure Bot Service / Teams channel
│ HTTPS messaging endpoint
▼
AWS Lambda / API Gateway (Bot adapter + JWT mint)
│ POST /runtimes/{agentRuntimeArn}/invocations
│ Header: Authorization Bearer <JWT>
│ Header: X-Amzn-Bedrock-AgentCore-Runtime-Session-Id: teams-{aad}-{conv}
▼
Bedrock AgentCore Runtime (your agent container / code)
├── Bedrock InvokeModel (Claude / Nova / …)
├── Knowledge Base retrieve (RAG)
├── Guardrails
├── AgentCore Memory
└── AgentCore Gateway tools
├── Microsoft Graph (Teams channels / chats) [Entra OAuth]
├── Internal APIs (CRM, ITSM, HR)
└── MCP / OpenAPI targets
▼
CloudWatch / X-Ray / OTel traces + audit logs (S3)
Эмпирическое правило идентификатора сеанса: одна цепочка разговоров Teams должна сопоставляться с одним сеансом AgentCore, например. teams-{aadObjectId}-{conversationId}, поэтому память и контекст инструмента остаются согласованными.
4. Первый агент, доступный в Teams — шаг за шагом
Цель: а читаю в основном внутренний агент знаний в пилотном канале Teams в течение примерно 3–6 недель.
Фаза А — создание AWS (дни 1–5)
- Выберите регион (подтвердите наличие модели Bedrock + AgentCore + Knowledge Base).
- Включить доступ к модели Bedrock; создайте роли IAM для вывода, базы знаний и AgentCore.
- Создайте корзину S3 для корпуса; синхронизировать пилотный экспорт или соединитель SharePoint/Confluence.
- Создать Bedrock Knowledge Base + векторный магазин; запустить синхронизацию; тест
RetrieveAndGenerate. - Прикрепите Guardrails (запретить не по теме, отредактировать личные данные, потребовать заземления там, где это поддерживается).
Фаза B — Агент на AgentCore (дни 5–15)
- Агент Scaffold (Python/TypeScript) с использованием предпочитаемой вами платформы или образцов AWS.
- Телеграфируйте звонки модели в Bedrock; телеграфное извлечение в Knowledge Base.
- Определите только 2–3 инструмента (например, поиск в базе знаний, получение статуса заявки только для чтения, получение профиля пользователя).
- Настройте AgentCore Память для кратковременного разговора.
- Настройте удостоверение AgentCore: проверьте входящий JWT; зарегистрируйте Entra ID в качестве IdP для инструментов Microsoft.
- Развертывание в AgentCore Runtime; дым-тест
/invocationsс завитком и тестом JWT. - Включить наблюдаемость; определить панель мониторинга CloudWatch (задержка, ошибки, прокси-серверы токенов/стоимости).
Фаза C — Выход команд (дни 10–20, параллельно)
- Зарегистрируйте приложение Entra ID; создать бота Azure; включить канал Teams.
- Создать пакет приложения Teams (манифест, значки); неопубликованная загрузка или организационная публикация для пилотной группы безопасности.
- Внедрите конечную точку обмена сообщениями (рекомендуется Lambda): адаптер Bot Framework → сопоставьте активность с полезной нагрузкой AgentCore.
- Распространите идентификатор пользователя (идентификатор объекта AAD, UPN) в утверждения JWT AgentCore Ожидаемые идентификаторы.
- Ответить текстом агента (и Adaptive Cards позже); корректно обрабатывать индикаторы ввода и ошибки.
- Пилотная версия: один канал, 10–30 пользователей, форма обратной связи / реакции на смайлы, еженедельные часы работы FDE.
Фаза D — Закаливание (15–30 дни)
- Наименьшие привилегии IAM; Менеджер секретов для паролей и сертификатов бот-приложений.
- Сеть: частные пути API там, где это необходимо; WAF на общедоступных конечных точках.
- Данные: классифицировать корпус; блокировать инструменты записи с высоким риском до тех пор, пока не появится контроль над изменениями.
- Оценочный набор: 50–100 золотых вопросов и ответов; измерять качество обоснованности/отказа.
- Runbook: ротация секретов, откат версии Runtime, отключение приложения Teams.
Минимальные команды → AgentCore вызвать форму
POST /runtimes/{agentRuntimeArn}/invocations
Authorization: Bearer <jwt>
X-Amzn-Bedrock-AgentCore-Runtime-Session-Id: teams-{aadObjectId}-{conversationId}
Content-Type: application/json
{
"input": {
"prompt": "<user message text>",
"user": { "aadObjectId": "...", "upn": "..." },
"channel": { "teamId": "...", "channelId": "..." }
}
}
Точная схема полезной нагрузки зависит от вашего агентского контракта — сохраняйте ее версию.
5. AgentCore + Microsoft Graph (агенты, работающие в Teams)
Помимо «чата в Teams», AgentCore Gateway может раскрывать График команд операции как инструменты (отправка сообщения канала, управление чатами, собраниями, присутствием). Требования обычно включают в себя:
- Entra ID приложение с разрешениями Graph (запуск с минимальными привилегиями; согласие администратора).
- AgentCore Идентификация OAuth клиент для Entra.
- Цель шлюза для Microsoft Teams / График.
- Участие человека в процессе записи/отправки до тех пор, пока не будет установлено доверие.
FDE руководство: корабль агент входящего чата первый; добавить исходящие действия с графиком во втором билете изменения с явными списками разрешений (каналы, команды, шаблоны сообщений).
6. SageMaker в той же программе
Не блокируйте пилотную версию Teams на SageMaker. Используйте SageMaker, когда вам нужно:
- Классификаторы, специфичные для предметной области (намерение, срочность, обнаружение PII за пределами Guardrails).
- Точная настройка встраивания или изменение рейтинга для качества RAG.
- Регулируемое обучение моделей с помощью Реестра моделей + шлюзы утверждения.
- Пакетный вывод в больших корпорациях.
Типичный скелет MLOps: SageMaker Конвейеры → Реестр моделей → промежуточная конечная точка → canary → prod; мониторинг с помощью Model Monitor; продвигать только через CI (CodePipeline/GitHub Actions) с IaC (Terraform/CDK).
7. Amazon Q в этой же программе
- Кью Бизнес для широких вопросов и ответов сотрудников с помощью управляемых соединителей — часто быстрее, чем специальный RAG для «поиска в интрасети».
- Q-разработчик для FDE/производительности платформы (IaC, Lambda, CDK).
- Узор: Q — ширина; AgentCore агенты для глубины (рабочий процесс + инструменты + Teams UX).
8. Учебная программа FDE (внедрить и запустить)
| Модуль | Результаты | Время |
|---|---|---|
| Бедрок FM + Guardrails | Вызов моделей; прикрепить ограждение; осведомленность о затратах | 1 день |
| ⟦КБ⟧ ⟦РАГ⟧ | Принимайте, синхронизируйте, извлекайте и оценивайте ответы | 2 дня |
| AgentCore Время выполнения/Память/Идентификация | Развернуть агент; идентификаторы сеансов; JWT авторизация | 3 дня |
| Инструменты шлюза + ввод/график | Регистрация инструментов; ⟦ОАУТ⟧; наименьшая привилегия | 2 дня |
| Команды ⟦БФ⟧ | Приложение «Бот + Teams»; Лямбда-адаптер | 2–3 дня |
| SageMaker MLOps праймер | Конвейер, реестр, конечная точка | 3–5 дней |
| Amazon Q Бизнес-администратор | Приложения, коннекторы, плагины, доступ | 1–2 дня |
| Безопасность и запуск операций | Модель угроз, Runbook, средства оценки | 2 дня |
Общая рампа FDE: ~2–3 недели целенаправленного обучения + парная сдача на первом пилоте.
9. Контрольный список требований
Люди
- FDE (агент + интеграция)
- Инженер облака/платформы (IAM, сети, IaC)
- Администратор Microsoft 365/Entra (согласие приложения, публикация в Teams)
- Рецензент безопасности/соответствия
- Владелец бизнеса + пилотные пользователи
Аккаунты и доступ
- AWS аккаунты в Bedrock, AgentCore, S3, CloudWatch; опционально SageMaker / Q
- Entra ID арендатор; Подписка Azure на службу ботов
- Права администратора Teams на загрузку/утверждение приложений
Данные
- Пилотный корпус с четким владением и удержанием
- Классификационные этикетки; Политика обработки персональных данных
- Золотые оценочные вопросы
10. Контрольный список инструментов
| Слой | Инструменты |
|---|---|
| IaC | AWS CDK/Терраформ; опционально CloudFormation |
| CI/CD | Действия GitHub или CodePipeline; сборка контейнера в ECR |
| Агентские структуры | Strands Агенты, LangGraph, CrewAI или простой SDK |
| Команды | Bot Framework SDK, набор инструментов Teams / набор инструментов агентов M365 |
| Секреты | AWS Менеджер секретов; Azure Key Vault в случае разделения |
| Наблюдаемость | CloudWatch, Рентген/ОТел; дополнительный Langfuse / пользовательская оценка |
| Оценить | Золотые наборы + автоматизированные метрики в стиле RAGAS или задания по оценке Bedrock |
| MLOps (при необходимости) | SageMaker Конвейеры, реестр моделей, хранилище функций |
11. Оценка времени (под руководством FDE, ориентировочная)
Предполагается одна целенаправленная FDE + платформа с частичной занятостью + доступность администратора Entra. Календарные дни, а не только человеко-часы.
| Результат | Оптимистичный | Типичный | С корпоративными трениями |
|---|---|---|---|
| Бедрок-чат + Guardrails MVP | 2–3 дня | 3–5 дней | 1–2 недели |
| RAG Knowledge Base (один корпус) | 3–5 дней | 1–2 недели | 3–4 недели |
| AgentCore агент + 2–3 инструмента | 1–2 недели | 2–3 недели | 4–6 недель |
| Пилотная версия бота Teams (неопубликованная загрузка) | 3–5 дней | 1–2 недели | 3+ недели (с согласия администратора) |
| Сквозной первый агент в Teams | 3 недели | 4–6 недель | 8–12 недель |
| Amazon Q Запуск бизнеса | 1 неделя | 1–3 недели | 4–6 недель |
| SageMaker тонкая настройка + MLOps v1 | 3–4 недели | 6–8 недель | 1–2 кварталы |
| Мультиагент + инструменты записи + действия с графиком | 6 недель | 1 квартал | 2+ четверти |
12. Контрольный список запуска (бизнес)
- Назван владелец бизнеса и показатели успеха (отклонение, время ответа, CSAT).
- Пилотная группа безопасности и канал; часы поддержки FDE.
- Соглашение об уровне обслуживания актуальности контента для синхронизации Knowledge Base.
- Путь происшествия: отключить бота, повернуть секреты, вызвать страницу.
- Оповещения о бюджете затрат на токены Bedrock и время выполнения AgentCore.
- Принцип принятия решения: расширить, приостановить или создать продукт после 4–6 недель сбора данных об использовании.
13. Распространенные виды отказов
- Кипящий океан: мультиагентность + инструменты записи + полная интрасеть до одного пилотного проекта Teams.
- Последняя личность: создание агента без дизайна Entra/JWT — переработка при появлении Teams.
- Нет золотого набора: не могу сказать, стало ли RAG лучше после внесения изменений.
- SageMaker слишком рано: обучение пользовательских моделей до того, как качество извлечения станет хорошим.
- Согласие администратора-сюрприз: Разрешения для команд/графов заблокированы на несколько недель — билеты Entra начинаются с первого дня.
14. Закрытие
Коренная порода дает вам модели, RAG и ограждения. AgentCore предоставляет вам среду выполнения производственного агента с памятью, удостоверениями и инструментами (включая Teams Graph). ⟦СМ⟧ охватывает пользовательские ML и MLOps. Amazon Q охватывает продуктовых помощников сотрудников/разработчиков. Путь FDE, который быстрее всего приносит пользу: RAG + Guardrails → AgentCore агент → Ретрансляция ботов Teams → измерение → расширение инструментов — с SageMaker и Q Business в качестве параллельных треков, когда этого требует вариант использования.
Опубликовано TenthMatrix — для программ доставки, которые ставят агентов там, где бизнес уже работает.
